尘言短评 8分钟阅读

AI克隆你儿子的声音,三秒钟骗走你五万块

AI语音克隆技术被用于诈骗,几分钟内就能骗走数万元。技术门槛极低,而社会缺乏实时验证身份的手段。信任体系正被AI瓦解。

原创
尘锋

文 / 尘锋zCA找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
zCA找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
南京一父亲接到“儿子”电话,声音一模一样,说被绑架了,要五万。父亲转账后发现,儿子好好在学校上课。所谓“儿子”,是AI合成的。zCA找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
zCA找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
技术门槛低到什么程度?网上搜一下,几秒钟的原始语音就能训练一个克隆模型,几百块就能买到工具包。骗子不需要你儿子说很多话,朋友圈一条视频、抖音一条语音,够了。zCA找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
zCA找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
问题不是AI太强,是我们的“信任系统”太脆。以前你听到亲人的声音,基本可以确认是本人。现在这个锚没了。声音、视频、照片,全都能造。你信什么?你还能信什么?zCA找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
zCA找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
技术跑得比制度和常识快三步,中间这段空白期,就是骗子的红利期。zCA找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
zCA找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
短期看,你只能自认倒霉。长期看,不解决“可验证身份”的问题,AI越发达,社会信任成本越高。这已经不是防骗问题,是数字身份的基础设施问题。zCA找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
zCA找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
——尘锋,于行业泡沫与真相的交界处

作者更多文章

栏目主理人:尘锋

具身AI的“皇帝新衣”:我们正用大模型的旧地图,寻找物理世界的新大陆

AI应用的“鬼打墙”:为什么每次觉得要起飞了,最后都原地打转?

AI硬件的“美丽废物”工厂:谁在批量生产电子垃圾?

我用AI画了100张图,然后发现自己成了“版权废人”

你用AI赚钱,AI公司用你赚钱——然后你被裁了

套个壳就收费,AI圈的“国产操作系统”剧本又来了