AI安全预警 – 面向AI爱好者的安全情报站

攻击者利用typosquatting技术在Hugging Face平台创建了名为“Open-OSS/privacy-filter”的仿冒仓库，冒充OpenAI官方"Privacy Filter"项目进行投毒，窃取开发者的敏感凭证。

此前威胁组织TeamPCP对AI基础设施LiteLLM的供应链攻击，已被证实关联到一起针对AI招聘平台Mercor的数据泄露事件，导致约4TB数据被窃，涉及超4万名AI工作者的个人信息、身份证件、工作记录及API密钥。更严峻的是，LiteLLM于5月21日被曝出新的高危RCE漏洞（CVE-2026-42203），攻击者持有有效API密钥即可构造恶意模板，在LiteLLM Proxy进程中执行任意代码；同时还有CVE-2026-42208（预认证SQL注入，零认证可直接控制AI网关）和CVE-2026-47

安全研究人员发现，攻击者可通过恶意浏览器扩展在用户认证后的会话中注入JavaScript代码，从而规避常规安全检测，并以此窃取Langflow等AI工作流平台的认证凭证，实现持久化访问和权限提升。这警示了AI开发环境的安全防御已不能仅依赖边界防火墙。

根据Verizon发布的《2026年数据泄露调查报告》，漏洞利用 (31%) 已超越凭证滥用 (13%)，成为数据泄露的首要入侵途径。攻击者借助生成式AI和AI智能体（Agentic AI）实现攻击流程全面自动化，将漏洞武器化时间压缩至数小时。

国家计算机病毒应急处理中心（CNCERT）近期监测到，黑产团伙利用AI工具批量生成高度仿真钓鱼网站（仿冒WPS、Chrome等常用软件），并通过SEO（搜索引擎优化）技术诱导用户，传播名为“银狐”（Silver Fox）的远控木马。

多项安全审计发现，大量AI驱动的Android应用存在编码极不规范的问题，将API密钥、云访问令牌等敏感凭证直接硬编码（Hardcoded）在App代码中，这使得攻击者可轻易利用相关凭证对用户或背后云服务发动攻击。

NVIDIA官方披露了Triton推理服务器（广泛用于生产环境的AI模型部署工具）的五个高危漏洞（含CVE-2025-23319、CVE-2025-23320、CVE-2025-23334、CVE-2025-33211、CVE-2025-33201）。攻击链允许未经验证的远程攻击者逐步夺取服务器控制权。

Gartner于5月22日发布的AI安全预测报告指出，到2028年，超过80% 的中国企业将经历员工对生成式AI的无监管使用，AI特定的数据泄露控制将成为CISO关注的前三大优先事项。

Anthropic于5月22日发布公告披露，其Project Glasswing项目上线一个月后，已与约50家合作伙伴在关键软件中挖掘出超过1万个高危和关键级别的漏洞。部分团队的找漏洞速度提升超过10倍，当前瓶颈已从“发现漏洞”转向“验证、披露与修补”。

Verizon发布的《2026年数据泄露调查报告》显示，漏洞利用（31%） 已超过凭证滥用（13%），成为2025年最主要的数据泄露入侵路径。威胁行为者正借助AI将漏洞武器化时间压缩至数小时，而企业高危漏洞修复周期却进一步拉长至平均43天。

安全研究员披露，Anthropic旗下Claude Code AI编程助手存在网络沙箱绕过漏洞（SOCKS5主机名空字节注入），攻击者可借此窃取开发者系统中的凭证、源代码和环境变量。

研究团队于今日（5月23日）披露了一种针对多智能体大语言模型系统的新型攻击手段——“域伪装注入”（Domain-Camouflaged Injection），该技术能够成功绕过现有主流安全检测机制。

美国网络安全与基础设施安全局（CISA）于5月21日将AI工作流开发工具Langflow的高危漏洞（CVE-2025-34291，CVSS评分9.4）正式列入已知被利用漏洞目录，确认已有实际攻击证据。

Gartner于5月22日发布预测报告，指出到2029年，50% 针对员工的社会工程攻击将由深度伪造（Deepfake）驱动。当前已有攻击者利用AI合成高管声音或视频，通过电话或视频会议诈骗资金或获取敏感权限。

国家互联网应急中心（CNCERT）发布风险提示，监测发现黑产团伙利用AI工具批量搭建高仿真钓鱼网站，大规模传播银狐远控木马。事件自2月起持续活跃，截至5月7日累计感染境内设备达18.2万台。