交叉熵

翻译 交叉熵；在Transformer训练场景完整叫法：交叉熵损失函数 一、一句话业务通俗定义 对比两组概率分布： 一组=模型预测出来的概率（Softmax输出） 一组=标准答案（真实单词的One-Hot向量） 交叉熵算出两者之间的差距，差距越大=损失越高，用来指导模型自我修正。 供应链生活化例子（