标签：预训练

上海AI Lab提出'先想后说'新范式：8.9B隐空间大模型，训练Token直接减半

上海AI Lab与上海交大推出NCP机制：让大模型先预测'下一个概念'而非逐字预测，8.9B开源模型仅用一半训练数据，性能追平同规模模型，GSM8K数学还高6分。