从原始数据到“特征”：让机器看懂广告
机器学习模型无法直接理解“咖啡机”这三个字或一张图片。它需要的是数字化的“特征”。特征工程就是把这些原始信息翻译成模型能消化的数值信号。例如，广告标题的长度、是否包含“限时折扣”、历史点击率、用户所在城市、当前搜索词与广告关键词的语义相似度、甚至用户使用的设备类型（手机还是电脑），都会被提取成一个个特征向量。一个关键特征是“交叉特征”，比如“搜索词=咖啡机”与“广告类别=厨房电器”的组合，能帮助模型捕捉更细粒度的关联。
排序模型：从逻辑回归到深度神经网络
有了特征，下一步就是训练一个排序模型。早期系统常用逻辑回归，它简单高效，能给出一个0到1之间的点击概率。但逻辑回归难以自动捕捉特征之间的非线性关系。于是，梯度提升决策树（GBDT）和因子分解机（FM）被引入，它们能更好地处理稀疏特征和特征交互。近年来，深度神经网络（DNN）成为主流，尤其是Wide & Deep、DeepFM等结构，既能记住高频模式，又能泛化到罕见组合。Bing的广告系统很可能采用类似的多层架构，将数百个特征输入网络，终输出一个点击率预估值。
训练与校准：让预测更接近真实
模型不是一次训练就完美。系统会持续用历史点击日志（用户是否点击了某条广告）作为标签，通过在线学习或批量学习更新参数。一个常被忽视的环节是“校准”：模型输出的概率需要与真实点击频率对齐。比如模型预测0.1，那么在所有预测为0.1的广告中，实际点击率应接近10%。校准后的分数才能公平地用于竞价排序。此外，系统还要处理“位置偏差”——排在上面的广告天然更容易被点击，训练时会用反事实推理或位置特征来修正。
总结：毫秒间的智能决策
从特征提取到模型推理，整个过程在用户按下搜索键后的几十毫秒内完成。Bing广告的点击率预测，本质上是把“用户-查询-广告”三元组映射成一个概率值。特征工程决定了模型的上限，而排序模型和持续校准则让预测不断逼近真实。下一次你点击广告时，不妨想想：这背后是成千上万个数字特征和数亿次参数更新共同作用的结果。
