10.13.2 数据泄露与 PII 处理
所属:全栈开发面试题库 / 10 AI 应用开发:LLM 与 Agent / 10.13 AI 安全
覆盖范围
- 数据泄露风险
- PII(个人身份信息)识别
- 数据脱敏与匿名化
- 数据留存与删除
- 合规要求(GDPR/个保法)
- 训练数据隐私
高频题速览
| 编号 | 题目 | 难度 | 频率 |
|---|---|---|---|
| 10.13.2-001 | LLM 应用有哪些数据泄露风险? | 基础 | ★★★★ |
| 10.13.2-002 | PII 是什么?怎么识别? | 基础 | ★★★★ |
| 10.13.2-003 | 数据脱敏怎么做? | 进阶 | ★★★★ |
| 10.13.2-004 | 数据留存和删除怎么做? | 进阶 | ★★★ |
| 10.13.2-005 | GDPR 和个保法有什么要求? | 基础 | ★★★ |
| 10.13.2-006 | 训练数据隐私怎么保护? | 高级 | ★★★ |
| 10.13.2-007 | 对话记录会泄露吗? | 基础 | ★★★ |
| 10.13.2-008 | RAG 会泄露敏感数据吗? | 进阶 | ★★★ |
10.13.2-001 LLM 应用有哪些数据泄露风险?
频率 ★★★★ | 难度 基础
一句话结论
风险点:对话记录泄露(用户输入的敏感信息)、RAG 泄露(知识库文档被其他用户访问)、模型记忆(训练数据里的隐私被输出)、日志泄露(请求日志含敏感数据)、第三方 API 泄露(数据发给外部模型)。
概念解释
- 对话记录:用户输入的敏感信息存在数据库。
- RAG:知识库文档可能被其他用户检索到。
- 模型记忆:训练数据里的隐私被模型记住并输出。
- 日志:请求日志里有敏感数据。
- 第三方 API:数据发给外部模型(OpenAI 等)。
原理流程
- 用户输入敏感信息。
- 存到对话记录、日志、发给模型。
- 这些数据可能被泄露。
- 模型可能记住训练数据里的隐私。
代码 / 示例
数据泄露风险:
1. 对话记录: 用户输入的手机号/身份证/病历
2. RAG: A 用户的文档被 B 用户检索到
3. 模型记忆: 训练数据里的隐私被输出
4. 日志: 请求日志里有敏感数据
5. 第三方 API: 数据发给 OpenAI, 可能被用于训练
常见误区
- 误区:本地模型就不会泄露;正解:本地模型也有日志、存储泄露风险。
- 误区:用了第三方 API 就是会泄露;正解:要看 API 的数据政策,有些企业版不用于训练。
追问
- Q:最大的泄露风险是什么? A:用户输入的敏感信息存在日志和对话记录里,这是最常见的泄露途径。
- Q:怎么降低风险? A:最小化收集、脱敏、加密存储、限制留存时间。
10.13.2-002 PII 是什么?怎么识别?
频率 ★★★★ | 难度 基础
一句话结论
PII(Personal Identifiable Information,个人身份信息)是能识别特定个人的信息:姓名、身份证号、手机号、邮箱、地址、银行卡号;要识别并脱敏,不能明文存储和输出。
概念解释
- PII:能识别个人的信息。
- 常见:姓名、身份证、手机号、邮箱、地址、银行卡。
- 识别:用正则或 NER 模型识别。
- 脱敏:替换成占位符,不能明文。
原理流程
- 定义 PII 类型。
- 用正则/NER 识别文本中的 PII。
- 替换成占位符(如 [手机号])。
- 存储和传输的都是脱敏后的数据。
代码 / 示例
import re
def detect_pii(text):
# 手机号
phones = re.findall(r'1[3-9]\d{9}', text)
# 身份证
ids = re.findall(r'\d{17}[\dXx]', text)
# 邮箱
emails = re.findall(r'[\w.+-]+@[\w-]+\.[\w.]+', text)
return phones, ids, emails
常见误区
- 误区:只有身份证才是 PII;正解:姓名+手机号组合也能识别个人,也是 PII。
- 误区:正则就能识别所有 PII;正解:正则能识别格式固定的,复杂的要用 NER 模型。
追问
- Q:哪些算 PII? A:能识别特定个人的都算,包括姓名、身份证、手机号、邮箱、地址、生物特征。
- Q:怎么准确识别 PII? A:正则 + NER 模型结合,正则处理格式固定的,NER 处理复杂的。
10.13.2-003 数据脱敏怎么做?
频率 ★★★★ | 难度 进阶
一句话结论
脱敏方式:替换(手机号 → [手机号])、掩码(138****1234)、哈希(不可逆)、泛化(年龄 → 年龄段);按场景选择,脱敏后不能还原出原始数据。
概念解释
- 替换:直接替换成占位符。
- 掩码:保留部分,其他用 * 代替。
- 哈希:不可逆转换。
- 泛化:把精确值变成范围。
- 要求:脱敏后不能还原出原始数据。
原理流程
- 识别 PII。
- 按类型选择脱敏方式。
- 替换成脱敏后的数据。
- 存储和输出的都是脱敏后的数据。
代码 / 示例
def mask_phone(phone):
return phone[:3] + "****" + phone[-4:]
def mask_id(id_card):
return id_card[:6] + "********" + id_card[-4:]
# 13812345678 → 138****5678
# 110101199001011234 → 110101********1234
常见误区
- 误区:脱敏后还能还原;正解:脱敏要不可逆,或还原要严格权限控制。
- 误区:脱敏就是加星号;正解:不同 PII 类型用不同脱敏方式,按业务需求。
追问
- Q:什么时候用掩码?什么时候用替换? A:需要保留部分信息用于展示的用掩码,不需要保留的用替换。
- Q:脱敏后还能做数据分析吗? A:能,脱敏后的数据可以做统计分析,不影响聚合分析。
10.13.2-004 数据留存和删除怎么做?
频率 ★★★ | 难度 进阶
一句话结论
留存:明确数据存多久,到期自动删除;删除:用户有权要求删除自己的数据(被遗忘权);要建立数据留存和删除的机制,符合合规要求。
概念解释
- 留存策略:不同数据存不同时间,到期自动删。
- 删除请求:用户要求删除自己的数据。
- 被遗忘权:GDPR 要求用户有权要求删除。
- 机制:自动到期删除 + 手动删除请求。
原理流程
- 定义留存策略:对话记录存 90 天,日志存 30 天。
- 到期自动删除。
- 用户提交删除请求。
- 系统找到并删除该用户所有数据。
代码 / 示例
数据留存策略:
- 对话记录: 存 90 天, 自动删除
- 请求日志: 存 30 天, 自动删除
- 用户反馈: 存 1 年, 自动删除
删除请求流程:
1. 用户提交删除请求
2. 找到该用户所有数据
3. 删除 (对话记录/日志/反馈)
4. 通知用户已删除
常见误区
- 误区:数据一直存着;正解:合规要求到期删除,不能无限存。
- 误区:删除就是删数据库;正解:要删所有地方——数据库、日志、备份、缓存。
追问
- Q:备份里的数据怎么删? A:备份里的数据也要按留存策略到期覆盖,或者专门做备份删除流程。
- Q:用户要求删除要多久完成? A:合规要求一般是 30 天内完成。
10.13.2-005 GDPR 和个保法有什么要求?
频率 ★★★ | 难度 基础
一句话结论
GDPR(欧盟通用数据保护条例)和《个人信息保护法》(中国)核心要求:知情同意、最小收集、目的限制、数据可携带、被遗忘权、数据泄露通知;做 LLM 应用要符合这些要求。
概念解释
- 知情同意:用户知道数据怎么用。
- 最小收集:只收集必要数据。
- 目的限制:数据只用于约定目的。
- 被遗忘权:用户有权要求删除。
- 泄露通知:数据泄露要及时通知监管和用户。
原理流程
- 设计产品时考虑合规。
- 收集用户数据前告知用途。
- 只收集必要数据。
- 提供删除和导出功能。
- 数据泄露及时通知。
代码 / 示例
合规要求:
- 知情同意: 用户协议里说明数据用途
- 最小收集: 只收集必要的
- 目的限制: 不用于约定外的用途
- 数据可携带: 用户能导出自己的数据
- 被遗忘权: 用户能要求删除
- 泄露通知: 72 小时内通知监管
常见误区
- 误区:合规是法律部门的事;正解:产品设计就要考虑合规,事后补很难。
- 误区:国内产品不用管 GDPR;正解:如果有欧盟用户,就要符合 GDPR。
追问
- Q:LLM 应用最关键的合规点是什么? A:用户输入的数据(可能含 PII)怎么处理,要告知用户、获得同意、做脱敏。
- Q:数据发给第三方模型(OpenAI)要告知吗? A:要,用户协议里要说明数据会发给第三方模型。
10.13.2-006 训练数据隐私怎么保护?
频率 ★★★ | 难度 高级
一句话结论
保护方式:数据清洗(去 PII)、差分隐私(训练时加噪声)、联邦学习(数据不出本地)、隐私训练(不记住个别样本);是前沿研究方向,工业界还在探索。
概念解释
- 数据清洗:训练数据去掉 PII。
- 差分隐私:训练时加噪声,模型不记住个别样本。
- 联邦学习:数据不出本地,只传梯度。
- 隐私训练:技术上防止模型记住训练数据。
原理流程
- 训练数据清洗去 PII。
- 用差分隐私训练。
- 评估隐私泄露风险。
- 定期更新防护。
代码 / 示例
训练数据隐私保护:
1. 数据清洗: 去掉 PII
2. 差分隐私: 训练时加噪声
3. 联邦学习: 数据不出本地
4. 成员推断检测: 检测模型是否记住了训练数据
常见误区
- 误区:训练数据清洗了就安全;正解:清洗不彻底还是有泄露风险。
- 误区:差分隐私完美解决;正解:差分隐私会牺牲模型效果,是权衡。
追问
- Q:模型会记住训练数据吗? A:会,研究表明模型能复述训练数据里的片段。
- Q:怎么检测模型记住了训练数据? A:成员推断攻击,测试模型是否能区分训练样本和非训练样本。
10.13.2-007 对话记录会泄露吗?
频率 ★★★ | 难度 基础
一句话结论
会,对话记录里有用户输入的敏感信息;要脱敏存储、加密、限制访问、定期删除;不能明文存在数据库里谁都能看。
概念解释
- 对话记录:用户输入的问题和模型的回答。
- 可能含 PII:用户问自己的病历、财务信息。
- 存储风险:数据库被拖库、日志泄露。
- 防护:脱敏、加密、限制访问。
原理流程
- 用户输入可能含 PII。
- 对话记录存数据库。
- 数据库被访问 → 泄露。
- 防护:脱敏 + 加密 + 限制访问。
代码 / 示例
对话记录保护:
1. 存储前脱敏: 手机号/身份证替换
2. 加密存储: 数据库加密
3. 限制访问: 只有授权人员能看
4. 定期删除: 到期自动删
5. 审计日志: 谁看了对话记录
常见误区
- 误区:对话记录是用户自己的,不会泄露;正解:数据库被拖库就全泄露了。
- 误区:开发人员能随便看对话记录;正解:要限制访问,加审计。
追问
- Q:开发人员能看对话记录吗? A:尽量不要,要看也要脱敏,加审计。
- Q:对话记录要存多久? A:按合规要求,一般 90 天到 1 年,不要无限存。
10.13.2-008 RAG 会泄露敏感数据吗?
频率 ★★★ | 难度 进阶
一句话结论
会,RAG 知识库如果没有权限隔离,A 用户的文档可能被 B 用户检索到;要按用户/组织做权限隔离,检索时过滤无权访问的文档。
概念解释
- RAG 知识库:存文档的向量库。
- 权限问题:A 用户的文档被 B 用户检索到。
- 隔离方式:按用户/组织分库,或检索时过滤。
- 多租户:不同租户数据隔离。
原理流程
- 文档入库时标记权限(属于哪个用户/组织)。
- 检索时只返回用户有权访问的文档。
- 多租户:租户之间数据隔离。
代码 / 示例
# RAG 权限隔离
def search(user_id, org_id, query):
# 只检索用户有权访问的文档
results = vector_db.search(
query,
filters={
"org_id": org_id,
"user_id": user_id # 或 ACL 列表
}
)
return results
常见误区
- 误区:RAG 是内部知识库,不会泄露;正解:多租户场景下,A 租户的文档可能被 B 租户检索到。
- 误区:向量数据库自动做权限隔离;正解:要应用层做过滤,向量库本身不管权限。
追问
- Q:怎么做 RAG 权限隔离? A:文档入库时带权限标签,检索时按用户权限过滤。
- Q:权限过滤会影响检索效果吗? A:会,过滤后检索范围小了,但安全优先。
待整理清单
- [ ] 差分隐私的工业实践
- [ ] 联邦学习在 LLM 的应用
- [ ] 数据泄露应急响应流程
- [ ] 隐私计算技术
- [ ] 合规审计清单