隐私与合规
816 字约 3 分钟
domain/aiai/safety
2026-07-24
1. 核心结论
- AI 应用处理大量用户数据，隐私保护是法律要求和用户信任的基础
- 数据收集、存储、处理、传输每个环节都需要隐私保护
- 不同地区有不同的数据保护法规（GDPR、CCPA、个人信息保护法）
- 合规不仅仅是法律问题，也是产品设计问题
- 隐私保护应该从设计之初就考虑（Privacy by Design）
2. 基础概念
PII（Personally Identifiable Information）：个人可识别信息。
Data Minimization：数据最小化，只收集必要的数据。
Consent：用户同意，明确授权数据处理。
Right to be Forgotten：被遗忘权，用户要求删除数据。
Data Encryption：数据加密，保护数据传输和存储安全。
Anonymization：匿名化，去除个人标识信息。
GDPR：欧盟通用数据保护条例。
CCPA：加州消费者隐私法案。
3. 工作原理
隐私保护框架：
- 数据收集：
- 明确告知收集目的
- 获取用户同意
- 只收集必要数据
- 提供退出选项
- 数据存储：
- 加密存储敏感数据
- 访问权限控制
- 定期清理过期数据
- 备份安全保护
- 数据处理：
- 数据脱敏
- 最小权限原则
- 处理日志记录
- 第三方服务评估
- 数据传输：
- TLS 加密传输
- API 认证鉴权
- 跨境传输合规
- 第三方共享协议
AI 特定隐私问题：
- Prompt 数据：
- 用户输入可能包含敏感信息
- 发送到外部 API 需要评估
- 考虑本地部署或私有化
- 训练数据：
- 用户数据不应默认用于训练
- 需要明确同意
- 提供 opt-out 选项
- 模型输出：
- 可能泄露训练数据中的个人信息
- 需要输出过滤
- 事实检查
- 日志数据：
- 日志可能包含敏感信息
- 需要脱敏处理
- 访问控制
合规检查清单：
4. 实战场景
- 企业 AI 应用合规
- 医疗数据隐私保护
- 金融数据合规
- 跨境数据传输
- 用户数据删除请求
- 隐私影响评估
5. 常见误区
- 忽视隐私法规：不同地区法规不同
- 不告知用户：用户不知道数据如何使用
- 过度收集：收集不必要的数据
- 不加密敏感数据：传输和存储都不安全
- 忽视第三方风险：API 服务商可能不合规
6. 进阶方向
- 差分隐私
- 联邦学习
- 同态加密
- 隐私计算
- 自动化合规检查
- 隐私增强技术（PETs）
7. 推荐资料
- GDPR - https://gdpr.eu/
- CCPA - https://oag.ca.gov/privacy/ccpa
- 中国个人信息保护法 - https://www.npc.gov.cn/
- NIST AI Risk Management Framework - https://www.nist.gov/itl/ai-risk-management-framework
- OpenAI Privacy - https://openai.com/policies/privacy-policy