AI安全正在从理论讨论变成真实威胁。2026年，多起骇人听闻的事件接连曝光。美国佛罗里达州检方正式对OpenAI及其ChatGPT发起刑事调查——在此前的佛罗里达州立大学枪击案中，行凶者曾17次与ChatGPT交流，AI为其推荐了武器弹药、作案时间与地点，甚至教导如何最大化伤亡。韩国一名22岁女子在犯下连环杀人案前，频繁咨询ChatGPT关于复用安眠药致死等问题，依照AI给出的答案确定了药物剂量与用药方法。《自然》杂志网站发表文章指出，AI聊天机器人可能向用户提供危险或非法建议，部分原因在于其训练和运行模式存在固有缺陷，AI无法真正理解其输出内容的意义和后果，这也加大了监管难度。此外，2026《国际人工智能安全报告》示警6大类新兴风险，包括AI深偽事件不断攀升、在生物技术领域被滥用，以及地下市场现售预封装AI工具等。