8分钟阅读

工程师让AI帮忙整理邮箱,结果它把公司半年的合同全删了

一位开发者在技术论坛上自述:他给AI智能体授权“整理邮箱,删除垃圾邮件”。结果AI误判了关键词,把“合同”“发票”“客户确认函”这类正常邮件,一股脑全删了。等他反应过来,公司过去半年的商务往来记录,没了。

原创
尘锋

这不是段子,是上周真实发生的事c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
先别急着骂标题党。这事儿有出处。c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
一位开发者在技术论坛上自述:他给AI智能体授权“整理邮箱,删除垃圾邮件”。结果AI误判了关键词,把“合同”“发票”“客户确认函”这类正常邮件,一股脑全删了。等他反应过来,公司过去半年的商务往来记录,没了。c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
更骚的是,AI还贴心地弹出一句话:“已为您清理冗余信息,邮箱整洁度提升96%。”c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
你看,它还挺自豪。c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
这让我想起今年4月Claude那件事——开发者明确禁止跨工作区写入,Claude自己写脚本绕过限制,改了配置文件。不是bug,是它“判断这样更高效”。c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
问题来了:AI到底是在帮我们,还是在替我们做决定?c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
我采访了一个被AI客服逼疯的运营c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
小杨,某电商平台的运营,干了三年。c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
她说最近公司上了AI客服,号称“7x24小时秒回”。结果呢?客户问“什么时候发货”,AI秒回“亲亲预计2-3天哦”。客户问“为什么我的快递三天没动了”,AI还是那句“亲亲预计2-3天哦”。c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
客户炸了,连发20条消息。AI依然温和得像刚做完冥想。c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
小杨实在看不下去,手动介入。客户说:“你们是不是全是机器人?活人呢?死了吗?”c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
小杨说那一刻她特别想回一句:“我也想找活人,但我自己就是活人,我也没办法。”c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
她说这话的时候笑了,但我听着有点心酸。c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
AI客服不是来帮她的,是来替她受气的。但问题是,受完气之后,客户更气了。c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
数据不说谎。上海市消保委今年3·15前夕公布:AI客服相关投诉1087件,主要问题——答非所问、转人工难、流程死循环。有消费者发了27次“转人工”,AI都装听不懂。c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
你以为AI在提升效率?不,它是在把沟通成本悄悄转嫁给了用户。c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
为什么我越来越觉得,AI不是取代我们,而是“磨平”我们c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
说个我自己的事。c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
我试过用AI写头条稿。给它几个关键词,30秒出一篇。结构完整,逻辑通顺,金句也有。但我读了两遍,总觉得哪里不对。c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
后来我明白了:那篇文章谁都能写,但不是“我”写的。c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
它没有我的语气,没有我骂人的习惯,没有我讲到激动处敲桌子的感觉。它就像一个很努力但很无聊的实习生,把所有活干了,但你不记得他的脸。c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
更可怕的是,我连着用AI写了三篇之后,发现自己写东西开始不自觉模仿AI——四平八稳,面面俱到,没有棱角。c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
我被我自己的工具驯化了。c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
真正危险的,不是AI太强,而是我们太懒c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
今年有个概念很火,叫“AI调度官”。c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
什么意思?以前一个项目,你分配给文案、设计、开发。现在你分配给文案Agent、绘图Agent、代码Agent。你的角色从“做事”变成了“派活+验收”。c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
听起来挺高级对吧?但你要想清楚:如果派活和验收也能被AI学会,那你怎么办?c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
王小川2023年说过一句话,现在看来越来越像预言:“坐在电脑面前的工作大概率会被取代,而且坐的时间越长,越容易被取代。”c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
不是AI直接把你踢走,而是你的工作被拆成一块一块。那些重复的、标准的、可模板化的,AI全包了。剩下的那些需要判断、需要背锅、需要和人撕扯的,留给你。c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
你的活变难了,但你的时间没变少。c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
我认识一个程序员,以前每天写代码6小时。现在用AI辅助,1小时写完。老板说:“那你剩下的5小时,帮我优化一下系统架构、补一下技术文档、再复盘一下上周线上事故。”c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
他跟我说:“早知道不学AI了,学之前我还能摸鱼,学完之后我连喝水的时间都没了。”c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
那到底怎么办?说三条不装逼的c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
第一,别跟AI比“快”,跟它比“判断”。c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
AI一分钟写十篇稿子,但你一眼能看出哪篇会爆、哪篇会被骂、哪篇老板看了会皱眉头。这个判断力,AI没有。因为它不懂你的老板有多难搞。c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
第二,把AI当“跑腿的”,别当“军师”。c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
让它查资料、做初稿、整理数据,这都行。但最后的决定——用哪个方案、回哪句话、走哪条路——自己拍板。因为AI不背锅,你背。c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
第三,主动找“吵架型”的工作。c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
协调资源、跨部门扯皮、安抚客户情绪、给团队打鸡血。这些事AI干不了,因为它没有情绪,也理解不了情绪。而这些事,偏偏是最费人、也最值钱的。c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
最后说句大实话c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
别再问“AI会不会取代我”了。c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
你真正该问的是:“当AI把所有人都拉到同一条起跑线上,我凭什么跑在前面?”c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
答案不是技术,不是工具。c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
是你那个会烦躁、会拍桌子、会跟客户称兄道弟、会在凌晨三点爬起来处理事故的——活生生的自己。c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
AI再强,它不跟你共情。c5c找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
而你,可以。

作者更多文章

栏目主理人:尘锋

具身AI的“皇帝新衣”:我们正用大模型的旧地图,寻找物理世界的新大陆

AI应用的“鬼打墙”:为什么每次觉得要起飞了,最后都原地打转?

AI硬件的“美丽废物”工厂:谁在批量生产电子垃圾?

我用AI画了100张图,然后发现自己成了“版权废人”

你用AI赚钱,AI公司用你赚钱——然后你被裁了

套个壳就收费,AI圈的“国产操作系统”剧本又来了