(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111660064.0 (22)申请日 2021.12.3 0 (71)申请人 天翼云科技有限公司 地址 100007 北京市东城区青龙胡同甲1 号、 3号2幢2层20 5-32室 (72)发明人 张文领　 (51)Int.Cl. G06Q 30/02(2012.01) G06N 3/04(2006.01) G06N 3/08(2006.01) (54)发明名称 一种广告点击率预测模型及方法 (57)摘要 本发明公开了一种广告点击率预测模型及 方法， 用于解决目前广告点击率预估准确性不高 的问题。 该模型包括： 特征转化网络， 用于将非结 构化的数据转化为图网络的节 点， 把特征交互转 化为结构化的图节点交互； 注意力图融合网络， 用于通过构建双线性交叉聚合模块和自注意力 机制， 全面细致地学习节点交互， 同时采用GRU模 块不断更新节点状态； 宽度注意力特征交叉网 络， 用于将 宽度注意力模块和元素级特征交叉模 块进行融合， 捕获交互特征的重要性和实现精细 化的特征交互。 本发明有效地加强对 营销广告数 据复杂特征的学习和提取， 显著提高广告点击率 预估的精度。 权利要求书2页 说明书9页 附图4页 CN 114493674 A 2022.05.13 CN 114493674 A 1.一种广告点击率预测模型， 其特 征在于， 该模型包括： 特征转化网络， 用于将非结构化的数据转化为图网络的节点， 把特征交互转化为结构 化的图节点交 互； 注意力图融合网络， 用于通过构建双线性交叉聚合模块和自注意力机制， 全面细致地 学习节点交 互， 同时采用GRU模块 不断更新节点状态； 宽度注意力特征交叉网络， 用于将宽度注意力模块和元素级特征交叉模块进行融合， 捕获交互特征的重要性和实现精细化的特 征交互。 2.根据权利要求1所述的模型， 其特 征在于， 所述特 征转化网络， 具体用于： 根据第m个域的输入数据， 确定第i个输入实例； 使用特征域嵌入操作， 将高维稀疏的独热编码转化为低维稠密的域嵌入向量， 得到第 一嵌入向量； 将每一输入实例的多域特 征用结构化的特 征图来表示。 3.根据权利要求1所述的模型， 其特 征在于， 所述注意力图融合网络， 具体用于： 在节点特 征融合的第l 步， 确定第l 步对应的节点交 互的输出 结果； 将多域输入特征第一嵌入向量与前一步的输出结果逐元素相加的结果， 与所述第l步 对应的节点交 互的输出 结果， 作为门控循环单 元的输入， 产生下一 步的输入特 征； 生成特征图的最 新表示结果。 4.根据权利要求1所述的模型， 其特征在于， 所述宽度注意力特征交叉网络 中的所述宽 度注意力模块， 用于动态调节每一个特征域的重要性， 计算得到全局节点的宽度注意力权 重， 来展示每一个交叉 特征的重要性； 所述宽度注意力特征交叉网络 中的所述元素级特征交叉模块， 用于将特征交互转移到 更加细粒度的层面上， 实现不同特征之间的交互具有 唯一的权重参数； 将反映不同节点交 互重要性的宽度 注意力权重和实现元素级高阶特征 交互的输出结果， 融合得到每一个维度 上都具有更加精细展示的交 互特征。 5.一种基于权利要求1～4中任一项的广告点击率预测模型进行广告点击率预测的方 法， 其特征在于， 该 方法包括： 将测试集合输入到训练好的广告点击率预测模型中， 得到测试集合中每一个实例的预 测结果； 根据预测结果与设定的阈值之间的大小， 确定相应的营销广告是否是用户感兴趣会点 击的广告。 6.根据权利要求5所述的方法， 其特 征在于， 所述方法还 包括： 获取营销用户的基础数据， 所述基础数据包括用户属性、 商 品广告属性、 用户的过往历 史点击记录和上 下文的环境特 征中的部分或全部； 对所述基础数据进行优化处 理， 得到处 理好的数据集； 从所述数据集中随机抽取第一阈值比例作为训练集； 将所述数据集中剩下的数据按照预设比例划分为验证集和 测试集。 7.根据权利要求6所述的方法， 其特 征在于， 所述方法还 包括： 对所述广告点击率预测模型进行训练。 8.根据权利要求7所述的方法， 其特征在于， 所述对所述广告点击率预测模型进行训权　利　要　求　书 1/2 页 2 CN 114493674 A 2练， 包括： 将预处理好的训练数据按照预先设置的批量处理 的大小， 输入所述广告点击率预测模 型中， 输出 结果； 将所述输出 结果输入到sigmo id函数中， 得到预测结果； 将所述预测结果与训练集中的真实结果计算误差， 基于所述误差进行反向传播， 更新 所述广告点击率预测模型直至模型收敛。 9.一种计算设备， 其特 征在于， 包括： 存储器， 用于存 储程序指令； 处理器， 用于调用所述存储器 中存储的程序指令， 按照获得的程序 执行如权利要求5 ‑8 任一项所述的方法。 10.一种计算机可读存储介质， 其特征在于， 所述存储介质存储有计算机可执行指令， 所述计算机可 执行指令用于使计算机执 行如权利要求5 ‑8任一项所述的方法。权　利　要　求　书 2/2 页 3 CN 114493674 A 3