你有没有遇到过这种情况：问AI一个简单的问题，它却一本正经地给出了完全错误的答案，甚至自己编造了一堆听起来很合理但根本不存在的“事实”？比如问它“周树人和鲁迅是什么关系”，它可能会回答“他们是兄弟俩”——这当然不对，鲁迅就是周树人自己。
这种现象在AI领域有一个形象的称呼叫“幻觉”。它并不是AI故意撒谎，而是它“天生”的工作方式导致的。
简单来说，像ChatGPT这样的大模型，本质上是一个“词汇接龙高手”。它读完你的问题后，并不是去一个“事实库”里查找正确答案，而是根据它学过的海量文本（比如整个互联网上的书籍、文章、对话），一个字一个字地预测最可能出现的下一个词。当它不确定正确答案时，就会用看起来最通顺、最符合语言习惯的方式来“填空”。如果这个“填空”恰好符合事实，你就得到了一次满意的回答；如果“填空”偏离了事实，但听起来依然通顺，幻觉就发生了。
模型的幻觉无法完全消除，但可以通过一些方法减少：比如给AI提供更明确、详细的提示（让它“一步一步思考”），或者让它先检索相关资料再回答（就像给人配一本参考书）。下次看到AI胡言乱语，别生气——它只是在努力做一个“流畅的骗子”，而不是故意的。
找找AI 原创出品
新手
AI为什么会“胡说八道”？——聊聊模型的“幻觉”
AI 摘要
你有没有遇到过这种情况：问AI一个简单的问题，它却一本正经地给出了完全错误的答案，甚至自己编造了一堆听起来很