一、主流技术及核心原理

  1. 数据脱敏对原始敏感信息做替换、掩码、泛化,比如手机号、身份证、姓名打码、假名替换,从源头抹除敏感字段,避免明文进模型训练和推理。
  2. 联邦学习数据不出本地、不上传集中服务器,只上传模型梯度和参数更新,多方协同训练,原始数据全程留存在各自节点,保护数据隐私。
  3. 差分隐私在模型梯度或输出结果里加入可控随机噪声,攻击者无法通过模型反推、还原出单条原始用户数据,保护个体信息不被泄露。
  4. 隐私计算 / 同态加密对数据先加密,直接在密文状态下完成模型计算和推理,全程不解密,杜绝中间环节数据泄露。
  5. 模型水印与模型脱敏给训练好的大模型嵌入隐形水印,溯源防盗用;同时做模型权重脱敏,防止通过模型权重逆向还原训练数据。
  6. 本地私有化部署不调用公有云 API,模型部署在内网、本地服务器,所有数据闭环在企业内部,不对外流出。

二、一句话总结

源头数据脱敏、训练用联邦学习 + 差分隐私、推理用同态加密、部署做私有化本地闭环,全方位防止 AI 训练和使用过程中的隐私泄露。

相关