(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111658407.X (22)申请日 2021.12.3 0 (71)申请人 天翼电子商务有限公司 地址 100037 北京市西城区阜成门外大街 31号4层429D (72)发明人 周文彬　陈心童　傅剑文　韩弘炀　 章建森　 (51)Int.Cl. G06Q 30/02(2012.01) G06N 3/04(2006.01) G06N 3/08(2006.01) (54)发明名称 一种融合相邻节 点方差的图神经网络CTR预 估算法 (57)摘要 本发明公开了一种融合相邻节点方差的图 神经网络CTR预估算法， 包括以下步骤： (1)采集 用户与物品的点击交互行为， 以及点击发生时 间、 物品展示形式等上下文信息； (2)生成用户 ‑ 物品交互拓 扑图， 以用户、 物品作为节点， 用户对 物品的点击作为边， 其他信息作为节点的特征， 生成交互拓扑图G＝(V,E)； (3)训练图神经网络 模型； (4)对于候选的用户 ‑物品对， 使用上述模 型进行前向传播， 得到用户是否点击物品的预测 值。 本发明可以在建模时将邻居节 点的差异性纳 入考虑， 获得更好的用户与物品表征， 进而改善 推荐系统的性能， 提高点击率预测的准确性。 权利要求书1页 说明书5页 附图2页 CN 114519600 A 2022.05.20 CN 114519600 A 1.一种融合相邻节点方差的图神经网络 CTR预估算法， 其特 征在于， 包括以下步骤： (1)采集用户与物品的点击交互行为， 以及点击发生时间、 物品展示形式等上下文信 息； (2)生成用户 ‑物品交互拓扑图， 以用户、 物品作为节点， 用户对物品的点击作为边， 其 他信息作为节点的特 征， 生成交 互拓扑图G＝(V,E)； (3)训练图神经网络模型； (a)建立一个L层的图神经网络， 在每层中使用邻居节点表征的均值与 方差拼接成聚合 信息， 用于更新中心 节点的表征； (b)经过L层图神经网络获得用户与物品的表征后， 把有连接的用户 ‑物品对记为正样 本， 没有连接的用户 ‑物品对记 为负样本， 把用户表征与物品表征的内积经过logistic函数 的值作为用户 ‑物品是否有连接的预测值， 输入损失函数进行模型训练； (4)对于候选的用户 ‑物品对， 使用上述模型进行前向传播， 得到用户是否点击物品的 预测值。 2.根据权利要求1所述的一种融合相邻节点方差的图神经网络CTR预估算法， 其特征在 于， 所述的步骤(3)利用python处理用户 ‑物品交互拓扑图， 进行图神经网络训练， 具体包 括： (a)图神经网络由L层特征变换 组成， 第t层的计算方法为： 记 为节点v在t‑1层的表 征， 为节点v的所有邻居节点在t ‑1层的表征； (b)计算节点v的邻居的方差信息， 在每个表征维度计算节点v的邻居表征的方差， 如果 节点v只有一个邻居， 则 邻居的方差信息规定为0向量； 数 学表示为： 其中 表示 的第i个分量； (c)计算节点v的邻居 的聚合信息， 将节点v的邻居的表征均值与表征方差拼接到一起 形成聚合信息向量； 数 学表示为： (d)将节点v邻居的聚合信息向量与节点v的表征一起输入全连接层进行变换， 然后经 过sigmoid激活函数激活， 得到节点v在这 一层的新表征； 数 学表示为： (e)重复a)‑d)步骤L层以后获得拓扑图中每个节点的表征； 把有连接的用户 ‑物品对记 为正样本， 没有连接的用户 ‑物品对记为负样本， 把用户表征与物品表征的内积经过 logistic函数的值作为用户 ‑物品是否有连接的预测值， 数 学表示为： 将其输入损失函数中， 优化损失函数进行模型训练， 保存训练好的模型参数。权　利　要　求　书 1/1 页 2 CN 114519600 A 2一种融合相邻 节点方差的图神经 网络CTR预估算法 技术领域 [0001]本发明涉及的是 图神经网络， 互联网推荐系统领域， 具体涉及一种融合相邻节点 方差的图神经网络 CTR预估算法。 背景技术 [0002]互联网推荐系统在电商、 广告、 视频等领域有着广泛的应用， 通过用户特征、 物品 特征、 用户与物品两者之 间的交互， 推荐系统可以判断用户对物品的喜好程度， 从而将最合 适的物品推荐给用户， 提高物品点击率与用户满意度。 [0003]近年来， 基于图神经网络的推荐系统迅速发展。 相比于传统的深度学习模型， 图神 经网络能够在由用户、 物品组成的图中探索更复杂高阶的交互关系， 有助于推荐系统提高 性能。 图神经网络一般使用消息传播机制， 即聚合邻居节点的表征以更新中心节点的表征。 常规的聚合方法有最大值、 (加权)平均等， 这些方法都默认忽略了一个图结构数据特有的 问题， 即不考虑多个邻居之 间差异的大小隐含的信息。 本专利针对这一问题， 提出一种融合 相邻节点方差的图神经网络， 进行用户 ‑物品点击率预测。 [0004]在图结构数据 中会出现这样一种情况： 两个节点具有相似的特征， 这两个节点的 邻居的均值也相似， 但是他们邻居节 点的差异可能不同。 例如， 两个商家的顾 客的注册时长 均值差不多， 但其中一个商家的顾客的注册 时长差异很小， 那此商家有可能存在虚假交易 套利的情况。 常规的图神经网络聚合方法只考虑邻居节点的特征本身， 而未考虑到邻居节 点之间的差异性也是中心节点的一种特征， 忽视了这种在传统结构化数据及图片数据中都 不存在的问题。 [0005]综上所述， 本发明设计了一种融合相邻节点方差的图神经网络 CTR预估算法。 发明内容 [0006]针对现有技术上存在的不足， 本发明目的是在于提供一种融合相邻节点方差的图 神经网络CTR预估算法， 可以在建模时将邻居节点的差异 性纳入考虑， 获得更好的用户与物 品表征， 进 而改善推荐系统的性能， 提高点击率预测的准确性。 [0007]为了实现上述目的， 本发明是通过如下的技术方案来实现： 一种融合相邻节点方 差的图神经网络 CTR预估算法， 包括以下步骤： [0008](1)采集用户与物品的点击交互行为， 以及点击发生时间、 物品展示形式等上下文 信息； [0009](2)生成用户 ‑物品交互拓扑图， 以用户、 物品作为节点， 用户对物品的点击作为 边， 其他信息作为节点的特 征， 生成交 互拓扑图G＝(V,E)； [0010](3)训练图神经网络模型； [0011](a)建立一个L层的图神经 网络， 在每层中使用邻居节点表征的均值与方差拼接成 聚合信息， 用于更新中心 节点的表征； [0012](b)经过L层图神经网络获得用户与物品的表征后， 把有连接的用户 ‑物品对记为说　明　书 1/5 页 3 CN 114519600 A 3