AI造谣的成本很低，但后果很重，最近已经有多起案件被通报。5月26日公安部网安局集中公布了5起典型案例，其中涉及AI造谣的案件——有人为了蹭五一出游的热度，用AI工具编造了张家界玻璃桥"桥头断裂、人群四散奔逃"的虚假视频，直接引发公众对旅游安全的恐慌，当事人已被采取刑事强制措施。山西还有企业员工用AI编造"车间爆炸、工人面部烧伤100%"的假新闻，也被依法处理了。
再早几天，有段号称"柳州地震现场"的短视频在网络上疯传。视频里虚拟记者声泪俱下地报道"5.4级强震，已有2人遇难、3人失联"——然而官方数据显示当天最大震级只有5.2级，地震时间、失联人数等数据全错，废墟画面里"临时避难场所"的标牌文字还是颠倒的。虽然作者在左下角标注了"含AI生成内容"，但法律专家明确指出：合规提示不能当违法的挡箭牌，在重大自然灾害面前炮制虚假灾情，情节严重的可构成传播虚假信息罪。
杭州5月底也有人用AI编造"网红餐厅坍塌致多人受伤"的假消息，被警方行政拘留三天。AI生成假新闻越逼真，辟谣越难，执法机构显然已经开始动真格了。