团体标准网
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111658407.X (22)申请日 2021.12.3 0 (71)申请人 天翼电子商务有限公司 地址 100037 北京市西城区阜成门外大街 31号4层429D (72)发明人 周文彬 陈心童 傅剑文 韩弘炀  章建森  (51)Int.Cl. G06Q 30/02(2012.01) G06N 3/04(2006.01) G06N 3/08(2006.01) (54)发明名称 一种融合相邻节 点方差的图神经网络CTR预 估算法 (57)摘要 本发明公开了一种融合相邻节点方差的图 神经网络CTR预估算法, 包括以下步骤: (1)采集 用户与物品的点击交互行为, 以及点击发生时 间、 物品展示形式等上下文信息; (2)生成用户 ‑ 物品交互拓 扑图, 以用户、 物品作为节点, 用户对 物品的点击作为边, 其他信息作为节点的特征, 生成交互拓扑图G=(V,E); (3)训练图神经网络 模型; (4)对于候选的用户 ‑物品对, 使用上述模 型进行前向传播, 得到用户是否点击物品的预测 值。 本发明可以在建模时将邻居节 点的差异性纳 入考虑, 获得更好的用户与物品表征, 进而改善 推荐系统的性能, 提高点击率预测的准确性。 权利要求书1页 说明书5页 附图2页 CN 114519600 A 2022.05.20 CN 114519600 A 1.一种融合相邻节点方差的图神经网络 CTR预估算法, 其特 征在于, 包括以下步骤: (1)采集用户与物品的点击交互行为, 以及点击发生时间、 物品展示形式等上下文信 息; (2)生成用户 ‑物品交互拓扑图, 以用户、 物品作为节点, 用户对物品的点击作为边, 其 他信息作为节点的特 征, 生成交 互拓扑图G=(V,E); (3)训练图神经网络模型; (a)建立一个L层的图神经网络, 在每层中使用邻居节点表征的均值与 方差拼接成聚合 信息, 用于更新中心 节点的表征; (b)经过L层图神经网络获得用户与物品的表征后, 把有连接的用户 ‑物品对记为正样 本, 没有连接的用户 ‑物品对记 为负样本, 把用户表征与物品表征的内积经过logistic函数 的值作为用户 ‑物品是否有连接的预测值, 输入损失函数进行模型训练; (4)对于候选的用户 ‑物品对, 使用上述模型进行前向传播, 得到用户是否点击物品的 预测值。 2.根据权利要求1所述的一种融合相邻节点方差的图神经网络CTR预估算法, 其特征在 于, 所述的步骤(3)利用python处理用户 ‑物品交互拓扑图, 进行图神经网络训练, 具体包 括: (a)图神经网络由L层特征变换 组成, 第t层的计算方法为: 记 为节点v在t‑1层的表 征, 为节点v的所有邻居节点在t ‑1层的表征; (b)计算节点v的邻居的方差信息, 在每个表征维度计算节点v的邻居表征的方差, 如果 节点v只有一个邻居, 则 邻居的方差信息规定为0向量; 数 学表示为: 其中 表示 的第i个分量; (c)计算节点v的邻居 的聚合信息, 将节点v的邻居的表征均值与表征方差拼接到一起 形成聚合信息向量; 数 学表示为: (d)将节点v邻居的聚合信息向量与节点v的表征一起输入全连接层进行变换, 然后经 过sigmoid激活函数激活, 得到节点v在这 一层的新表征; 数 学表示为: (e)重复a)‑d)步骤L层以后获得拓扑图中每个节点的表征; 把有连接的用户 ‑物品对记 为正样本, 没有连接的用户 ‑物品对记为负样本, 把用户表征与物品表征的内积经过 logistic函数的值作为用户 ‑物品是否有连接的预测值, 数 学表示为: 将其输入损失函数中, 优化损失函数进行模型训练, 保存训练好的模型参数。权 利 要 求 书 1/1 页 2 CN 114519600 A 2一种融合相邻 节点方差的图神经 网络CTR预估算法 技术领域 [0001]本发明涉及的是 图神经网络, 互联网推荐系统领域, 具体涉及一种融合相邻节点 方差的图神经网络 CTR预估算法。 背景技术 [0002]互联网推荐系统在电商、 广告、 视频等领域有着广泛的应用, 通过用户特征、 物品 特征、 用户与物品两者之 间的交互, 推荐系统可以判断用户对物品的喜好程度, 从而将最合 适的物品推荐给用户, 提高物品点击率与用户满意度。 [0003]近年来, 基于图神经网络的推荐系统迅速发展。 相比于传统的深度学习模型, 图神 经网络能够在由用户、 物品组成的图中探索更复杂高阶的交互关系, 有助于推荐系统提高 性能。 图神经网络一般使用消息传播机制, 即聚合邻居节点的表征以更新中心节点的表征。 常规的聚合方法有最大值、 (加权)平均等, 这些方法都默认忽略了一个图结构数据特有的 问题, 即不考虑多个邻居之 间差异的大小隐含的信息。 本专利针对这一问题, 提出一种融合 相邻节点方差的图神经网络, 进行用户 ‑物品点击率预测。 [0004]在图结构数据 中会出现这样一种情况: 两个节点具有相似的特征, 这两个节点的 邻居的均值也相似, 但是他们邻居节 点的差异可能不同。 例如, 两个商家的顾 客的注册时长 均值差不多, 但其中一个商家的顾客的注册 时长差异很小, 那此商家有可能存在虚假交易 套利的情况。 常规的图神经网络聚合方法只考虑邻居节点的特征本身, 而未考虑到邻居节 点之间的差异性也是中心节点的一种特征, 忽视了这种在传统结构化数据及图片数据中都 不存在的问题。 [0005]综上所述, 本发明设计了一种融合相邻节点方差的图神经网络 CTR预估算法。 发明内容 [0006]针对现有技术上存在的不足, 本发明目的是在于提供一种融合相邻节点方差的图 神经网络CTR预估算法, 可以在建模时将邻居节点的差异 性纳入考虑, 获得更好的用户与物 品表征, 进 而改善推荐系统的性能, 提高点击率预测的准确性。 [0007]为了实现上述目的, 本发明是通过如下的技术方案来实现: 一种融合相邻节点方 差的图神经网络 CTR预估算法, 包括以下步骤: [0008](1)采集用户与物品的点击交互行为, 以及点击发生时间、 物品展示形式等上下文 信息; [0009](2)生成用户 ‑物品交互拓扑图, 以用户、 物品作为节点, 用户对物品的点击作为 边, 其他信息作为节点的特 征, 生成交 互拓扑图G=(V,E); [0010](3)训练图神经网络模型; [0011](a)建立一个L层的图神经 网络, 在每层中使用邻居节点表征的均值与方差拼接成 聚合信息, 用于更新中心 节点的表征; [0012](b)经过L层图神经网络获得用户与物品的表征后, 把有连接的用户 ‑物品对记为说 明 书 1/5 页 3 CN 114519600 A 3

.PDF文档 专利 一种融合相邻节点方差的图神经网络CTR预估算法

文档预览
中文文档 9 页 50 下载 1000 浏览 0 评论 309 收藏 3.0分
温馨提示:本文档共9页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 一种融合相邻节点方差的图神经网络CTR预估算法 第 1 页 专利 一种融合相邻节点方差的图神经网络CTR预估算法 第 2 页 专利 一种融合相邻节点方差的图神经网络CTR预估算法 第 3 页
下载文档到电脑,方便使用
本文档由 人生无常 于 2024-03-18 21:48:55上传分享
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。