文 / 尘锋
2024年，一组来自亚马逊云科技和密歇根大学的研究人员做过一个实验。他们让大模型反复学习自己生成的内容，几轮之后，模型开始“崩塌”——原本能写出流畅英文，退化到重复破碎的短语；原本能解答简单数学，开始输出无意义的数字。论文标题直译过来是：《生成式AI正在自杀》。
这不是模型本身的缺陷，是食物的问题。当AI反复吃自己拉出来的东西，它不可能变得更聪明。
同样的故事正在AI搜索领域上演。2024年的一份行业报告显示，AI生成内容在部分信息类网站上的比例已超过10%，在某些长尾领域（如“冷门疾病家庭护理”“古董鉴别”）甚至高达30%。这些内容不是专家写的，而是模型从各处扒拉、重组、生成的。然后，这些内容被AI搜索爬虫当成信源，喂给下一代模型。
AI写，AI搜，AI学。一个完整的闭环。人只负责滑屏，以为自己看到了“全网最优质的回答”。
技术圈称此为“数据污染”。但更准确的比喻是：互联网正在吃自己的屎。
斯坦福和伯克利的研究团队做过另一个实验。他们用AI生成的内容反复训练同一个模型，观察其输出质量的变化。结果呈现出一条清晰的下降曲线：第一轮还能保留大部分原始信息，第二轮开始出现重复和事实扭曲，第三轮之后，模型开始编造不存在的研究文献。论文的结论是：如果不加干预，模型的长期迭代会导致“不可逆的语义退化”。
翻译成人话：你让AI吃自己拉的屎，它迟早拉不出正常的东西。
一个真实案例。在某个主流AI搜索中询问“如何清洁铸铁锅”，答案说“用洗洁精彻底清洗，然后晾干”。任何用过铸铁锅的人都知道这是错的——洗洁精会破坏油膜，晾干必生锈。这个错误的答案来自某个论坛中一个新手的回复。它被AI搜索扒走，呈现给成千上万人。那些照做的人毁了自己的锅，有些人还在网上发帖抱怨。这些抱怨帖又被AI爬去，成为新的“信源”。错误没有被纠正，反而被放大、固化、变得不可追溯。
这不是技术bug。是系统性的自我腐蚀。
有人会说：“98%的准确率还不够吗？”问题在于，那2%的错误分布不是随机的——它们往往集中在信息链条最薄弱、最缺乏人工核验的角落。而AI搜索的底层逻辑决定了它没有“我不知道”这个选项。传统搜索引擎遇到模糊查询可以返回0条结果。AI搜索不行。它被训练成必须回答，哪怕信息矛盾、来源可疑，也会挑一个最像样的答案送给你。
这不是搜索，这是代你判断。它替你做了决定，但不替你承担后果。
2025年，欧盟的一份技术白皮书提到了AI搜索带来的“认知外包”风险：用户越依赖系统直接给出答案，自己核实信息的能力就越退化；能力越退化，就越离不开系统。这不是便利，这是锁定。
AI搜索的卖点是“省事”，不是“准”。它把“准”当成了默认前提，但这个前提从未被保证过。当系统以“权威”姿态输出答案，哪怕只有1%的错误率，那1%也能毁掉一个决策、一笔交易、一口锅。
问题不在于AI搜索有多“准”，而在于它用“准”的承诺，换走了你的判断力。你越依赖它，你的判断力越弱；你的判断力越弱，你越离不开它。
这是一个陷阱，不是工具。
——尘锋，于行业泡沫与真相的交界处