团体标准网
(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111650469.6 (22)申请日 2021.12.3 0 (71)申请人 厦门市美亚柏科信息股份有限公司 地址 361000 福建省厦门市思明区软件园 二期观日路12号102-402单 元 (72)发明人 陈博文 林淑强 徐晶 刘源  张春晖 魏炜途  (74)专利代理 机构 厦门福贝知识产权代理事务 所(普通合伙) 35235 代理人 郭涵炜 (51)Int.Cl. G06N 3/04(2006.01) G06N 3/08(2006.01) G06V 40/16(2022.01) G06K 9/62(2022.01)G06V 10/82(2022.01) G06V 10/774(2022.01) G06V 10/764(2022.01) (54)发明名称 一种神经网络训练方法、 装置、 设备及存储 介质 (57)摘要 本发明提出了一种神经网络训练方法、 装 置、 设备及存储介质, 该方法包括: 获取步骤, 获 取用于神经网络训练的样本集, 所述样本集包括 多个不同类别的图片; 优化步骤, 优化现有的神 经网络模型损失函数, 减小每个神经元由于分类 样本不均衡导致的梯度方向偏差; 训练步骤, 使 用优化后的损失函数对所述神经网络使用所述 样本集进行训练得到训练好的神经网络模型。 本 发明通过对损失函数进行优化, 从而减小由于分 类样本不均衡导致的梯度方向偏 差, 减小的含义 是, 在同样的样本集经过同样的训练次数后, 梯 度方向的偏 差相比现有 方案更小, 其可以解决由 于现有损失函数导 致的缺陷。 权利要求书2页 说明书5页 附图2页 CN 114372560 A 2022.04.19 CN 114372560 A 1.一种神经网络训练方法, 该神经网络用于有序回归任务的处理, 其特征在于, 该方法 包括: 获取步骤, 获取用于神经网络训练的样本集, 所述样本集包括多个不同类别的图片; 优化步骤, 优化现有的神经网络模型损 失函数, 减小每个神经元由于分类样本不均衡 导致的梯度方向偏差; 训练步骤, 使用优化后的损失函数对所述神经网络使用所述样本集进行训练得到训练 好的神经网络模型。 2.根据权利要求1所述的方法, 其特 征在于, 所述方法还 包括: 预测步骤, 使用所述训练好的神经网络模型对输入的测试图像进行年龄预测。 3.根据权利要求2所述的方法, 其特征在于, 在所述优化步骤中, 所述优化后的损 失函 数为: 其中, l′n为第n个神经元的损失函数, L ′为所述神经网络模型总损失函数, γ和α 为超 参 数, N为神经元总数, ln=‑(ynlogxn+(1‑yn)log(1‑xn))为优化前的第n个神经 元的损失函数。 4.一种神经网络训练装置, 该神经网络用于有序回归任务的处理, 其特征在于, 该装置 包括: 获取单元, 获取用于神经网络训练的样本集, 所述样本集包括多个不同类别的图片; 优化单元, 优化现有的神经网络模型损 失函数, 减小每个神经元由于分类样本不均衡 导致的梯度方向偏差; 训练单元, 使用优化后的损失函数对所述神经网络使用所述样本集进行训练得到训练 好的神经网络模型。 5.根据权利要求 4所述的装置, 其特 征在于, 所述装置还 包括: 预测单元, 使用所述训练好的神经网络模型对输入的测试图像进行年龄预测。 6.根据权利要求7所述的装置, 其特征在于, 在所述优化单元中, 所述优化后的损 失函 数为: 其中, l′n为第n个神经元的损失函数, L ′为所述神经网络模型总损失函数, γ和α 为超 参 数, N为神经元总数, ln=‑(ynlogxn+(1‑yn)log(1‑xn))为优化前的第n个神经 元的损失函数。 7.一种神经网络训练设备, 所述设备包括处理器和存储器, 所述处理器与所述处理器 通过总线连接, 所述存储器上存储有计算机程序, 所述处理器执行所述存储器上 的计算机 程序时实现权利要求1 ‑3任一项的方法。 8.一种计算机存储介质, 所述计算机存储介质上存储有计算机程序, 当所述计算机存权 利 要 求 书 1/2 页 2 CN 114372560 A 2储介质上的计算机程序被处 理器执行时实现权利要求1 ‑3任一项的方法。权 利 要 求 书 2/2 页 3 CN 114372560 A 3

.PDF文档 专利 一种神经网络训练方法、装置、设备及存储介质

文档预览
中文文档 10 页 50 下载 1000 浏览 0 评论 309 收藏 3.0分
温馨提示:本文档共10页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 一种神经网络训练方法、装置、设备及存储介质 第 1 页 专利 一种神经网络训练方法、装置、设备及存储介质 第 2 页 专利 一种神经网络训练方法、装置、设备及存储介质 第 3 页
下载文档到电脑,方便使用
本文档由 人生无常 于 2024-03-18 21:48:49上传分享
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。