Transformer 原始论文为什么N=6层(Encoder6层、Decoder6层)
业务通俗比喻 把每一层Block想象成一道加工工序: - 第1‑2层:看懂字面、词语、局部语法(看懂相邻词语关系) - 第3‑4层:理解句子句法、短语关系 - 第5‑6层:提炼全局深层语义、长距离逻辑(跨很远的词的指代、逻辑) 句子(张量)一层层流过每道工序,逐层把原始输入打磨成高级语义特征。 👉
业务通俗比喻 把每一层Block想象成一道加工工序: - 第1‑2层:看懂字面、词语、局部语法(看懂相邻词语关系) - 第3‑4层:理解句子句法、短语关系 - 第5‑6层:提炼全局深层语义、长距离逻辑(跨很远的词的指代、逻辑) 句子(张量)一层层流过每道工序,逐层把原始输入打磨成高级语义特征。 👉