当你问AI一个问题，它并不是一次性想好完整答案再写出来，而是一个字一个字往外“蹦”的。每次只预测下一个字是什么，然后把新生成的字加到输入里，再预测下一个字。这个过程叫做自回归生成。
举个例子。你问“中国的首都是哪里”，AI先看到这7个字，计算出第一个字最可能是“北”，于是输出“北”。现在输入变成了“中国的首都是哪里北”，AI再看这段文字，预测下一个字最可能是“京”，输出“京”。输入变成“中国的首都是哪里北京”，再预测下一个字可能是“。”。以此类推，直到AI预测出“结束”信号为止。
这种方式的优点是可以生成任意长度的内容，缺点是一旦某个字选错了，后面的所有字都会被带偏。这就是为什么有时候AI会越说越离谱——它在某个位置选了一个概率不高但还说得通的字，然后沿着这个错误方向越走越远。
现代大模型在生成每个字时，并不是简单选概率最高的那个字。工程师会加入一个叫“温度”的参数：温度越低，模型越保守，总是选最可能的那几个字，回答稳定但缺乏创意；温度越高，模型越冒险，会随机挑一些概率较低的字，回答更有想象力但也更容易出错。