推翻「预测下一个token」范式！微信AI新研究：把token压缩成连续向量更具性价比

微信AI与清华团队提出连续自回归语言模型CALM，通过将K个token压缩为连续向量，使生成步骤减少至1/K。实验表明，CALM在保持性能的同时，训练和推理计算量分别降低44%和34%，并引入能量损失、BrierLM评估等新方法，提升大模型生成效率与性价比。
来源：https://mp.weixin.qq.com/s/PyqATWx3qKp1de-YZceQMw