文 / 尘锋
朋友老张，上周嗓子疼，顺手用某AI搜索问了句“扁桃体发炎吃啥药”。AI回答：阿莫西林，消炎效果好，一日两次，饭后服用。语气温和、条理清晰，末尾还贴心提醒“多喝热水”。老张家里正好有剩的阿莫西林，吃了两天，症状没缓解，反而拉肚子。去社区医院一看，医生说是病毒性感染，抗生素根本没用，还破坏了肠道菌群。
医生问他：谁让你吃阿莫西林的？他说：AI。医生没笑。因为他这周已经接诊了两个类似的。
这事让我琢磨了好几天。不是琢磨AI为什么错——AI犯错不稀奇。我琢磨的是：老张为什么信？而且信得那么干脆。
他跟我说：“它说得跟真的一样啊。不是那种‘可能’‘也许’的语气，是直接告诉你‘吃这个，一日两次’。换你你不信？”
换我，可能也信。因为这就是AI搜索最阴的地方——它不给你犹豫的空间。传统搜索引擎给你一堆链接，你点开，看到是个人博客还是医院官网，心里大概有个数。AI搜索把这些全抹掉了，只给你一个干干净净的答案，没有任何让你“怀疑”的抓手。你不知道它引用了哪条信息，不知道来源可不可靠，不知道有多少种不同说法。它替你做了所有判断，然后告诉你：就是这个。
问题是，它没有判断能力。它有的是“造句能力”。你问它什么，它都得答。哪怕信息互相矛盾，它也会挑一个最像样的说法编圆了送给你。这叫“幻觉”，不是它想骗你，是它的底层逻辑里没有“我不知道”这个选项。
老张这次是拉肚子。下次呢？有人拿AI搜“孩子发烧怎么办”，AI说“布洛芬和对乙酰氨基酚可以交替使用，每两小时一次”——这是网上流传过的错误做法，可能导致药物过量。家长照着做了，孩子肝肾损伤。这不是我编的，类似案例已经在社交媒体上出现过。
你信了，你亏了，找谁？AI公司说“仅供参考，用户协议第8条写明了”。原始信息源？找不到了，AI把它揉碎了。法律上AI不是人，不担责。条款里你点了同意，相当于提前签了“后果自负”。每个环节都没错，但你实实在在吃亏了。
这不是技术问题。技术上，AI可以标注置信度、可以列出信息来源、可以在医疗等高风险领域强制弹出风险提示。这些都能做。但产品经理不愿意做，因为加了这些“减速带”，用户停留时间会降、转化率会掉、体验就不“丝滑”了。他们宁可让你信错，也不愿意让你多想一秒。
老张后来把那个AI搜索卸了。他说：“我不需要一个让我更焦虑的工具。以前搜东西，我自己判断；现在搜东西，我判断完了还得再判断一次它有没有骗我。”
他没说错。AI搜索没有让信息更可信，它只是让信息的包装更漂亮了。而漂亮，有时候比错误更危险。
——尘锋，于行业泡沫与真相的交界处
本文由「尘言」主理人： 尘锋 撰写，转载请注明出处。观点仅代表作者立场，不代表找找AI官方立场。