罗罗编程学习记录
本页内容 展开查看

10.13.2 数据泄露与 PII 处理

所属:全栈开发面试题库 / 10 AI 应用开发:LLM 与 Agent / 10.13 AI 安全

覆盖范围

  • 数据泄露风险
  • PII(个人身份信息)识别
  • 数据脱敏与匿名化
  • 数据留存与删除
  • 合规要求(GDPR/个保法)
  • 训练数据隐私

高频题速览

编号 题目 难度 频率
10.13.2-001 LLM 应用有哪些数据泄露风险? 基础 ★★★★
10.13.2-002 PII 是什么?怎么识别? 基础 ★★★★
10.13.2-003 数据脱敏怎么做? 进阶 ★★★★
10.13.2-004 数据留存和删除怎么做? 进阶 ★★★
10.13.2-005 GDPR 和个保法有什么要求? 基础 ★★★
10.13.2-006 训练数据隐私怎么保护? 高级 ★★★
10.13.2-007 对话记录会泄露吗? 基础 ★★★
10.13.2-008 RAG 会泄露敏感数据吗? 进阶 ★★★

10.13.2-001 LLM 应用有哪些数据泄露风险?

频率 ★★★★ | 难度 基础

一句话结论

风险点:对话记录泄露(用户输入的敏感信息)、RAG 泄露(知识库文档被其他用户访问)、模型记忆(训练数据里的隐私被输出)、日志泄露(请求日志含敏感数据)、第三方 API 泄露(数据发给外部模型)。

概念解释

  • 对话记录:用户输入的敏感信息存在数据库。
  • RAG:知识库文档可能被其他用户检索到。
  • 模型记忆:训练数据里的隐私被模型记住并输出。
  • 日志:请求日志里有敏感数据。
  • 第三方 API:数据发给外部模型(OpenAI 等)。

原理流程

  1. 用户输入敏感信息。
  2. 存到对话记录、日志、发给模型。
  3. 这些数据可能被泄露。
  4. 模型可能记住训练数据里的隐私。

代码 / 示例

数据泄露风险:
  1. 对话记录: 用户输入的手机号/身份证/病历
  2. RAG: A 用户的文档被 B 用户检索到
  3. 模型记忆: 训练数据里的隐私被输出
  4. 日志: 请求日志里有敏感数据
  5. 第三方 API: 数据发给 OpenAI, 可能被用于训练

常见误区

  • 误区:本地模型就不会泄露;正解:本地模型也有日志、存储泄露风险。
  • 误区:用了第三方 API 就是会泄露;正解:要看 API 的数据政策,有些企业版不用于训练。

追问

  • Q:最大的泄露风险是什么? A:用户输入的敏感信息存在日志和对话记录里,这是最常见的泄露途径。
  • Q:怎么降低风险? A:最小化收集、脱敏、加密存储、限制留存时间。

10.13.2-002 PII 是什么?怎么识别?

频率 ★★★★ | 难度 基础

一句话结论

PII(Personal Identifiable Information,个人身份信息)是能识别特定个人的信息:姓名、身份证号、手机号、邮箱、地址、银行卡号;要识别并脱敏,不能明文存储和输出。

概念解释

  • PII:能识别个人的信息。
  • 常见:姓名、身份证、手机号、邮箱、地址、银行卡。
  • 识别:用正则或 NER 模型识别。
  • 脱敏:替换成占位符,不能明文。

原理流程

  1. 定义 PII 类型。
  2. 用正则/NER 识别文本中的 PII。
  3. 替换成占位符(如 [手机号])。
  4. 存储和传输的都是脱敏后的数据。

代码 / 示例

import re

def detect_pii(text):
    # 手机号
    phones = re.findall(r'1[3-9]\d{9}', text)
    # 身份证
    ids = re.findall(r'\d{17}[\dXx]', text)
    # 邮箱
    emails = re.findall(r'[\w.+-]+@[\w-]+\.[\w.]+', text)
    return phones, ids, emails

常见误区

  • 误区:只有身份证才是 PII;正解:姓名+手机号组合也能识别个人,也是 PII。
  • 误区:正则就能识别所有 PII;正解:正则能识别格式固定的,复杂的要用 NER 模型。

追问

  • Q:哪些算 PII? A:能识别特定个人的都算,包括姓名、身份证、手机号、邮箱、地址、生物特征。
  • Q:怎么准确识别 PII? A:正则 + NER 模型结合,正则处理格式固定的,NER 处理复杂的。

10.13.2-003 数据脱敏怎么做?

频率 ★★★★ | 难度 进阶

一句话结论

脱敏方式:替换(手机号 → [手机号])、掩码(138****1234)、哈希(不可逆)、泛化(年龄 → 年龄段);按场景选择,脱敏后不能还原出原始数据。

概念解释

  • 替换:直接替换成占位符。
  • 掩码:保留部分,其他用 * 代替。
  • 哈希:不可逆转换。
  • 泛化:把精确值变成范围。
  • 要求:脱敏后不能还原出原始数据。

原理流程

  1. 识别 PII。
  2. 按类型选择脱敏方式。
  3. 替换成脱敏后的数据。
  4. 存储和输出的都是脱敏后的数据。

代码 / 示例

def mask_phone(phone):
    return phone[:3] + "****" + phone[-4:]

def mask_id(id_card):
    return id_card[:6] + "********" + id_card[-4:]

# 13812345678 → 138****5678
# 110101199001011234 → 110101********1234

常见误区

  • 误区:脱敏后还能还原;正解:脱敏要不可逆,或还原要严格权限控制。
  • 误区:脱敏就是加星号;正解:不同 PII 类型用不同脱敏方式,按业务需求。

追问

  • Q:什么时候用掩码?什么时候用替换? A:需要保留部分信息用于展示的用掩码,不需要保留的用替换。
  • Q:脱敏后还能做数据分析吗? A:能,脱敏后的数据可以做统计分析,不影响聚合分析。

10.13.2-004 数据留存和删除怎么做?

频率 ★★★ | 难度 进阶

一句话结论

留存:明确数据存多久,到期自动删除;删除:用户有权要求删除自己的数据(被遗忘权);要建立数据留存和删除的机制,符合合规要求。

概念解释

  • 留存策略:不同数据存不同时间,到期自动删。
  • 删除请求:用户要求删除自己的数据。
  • 被遗忘权:GDPR 要求用户有权要求删除。
  • 机制:自动到期删除 + 手动删除请求。

原理流程

  1. 定义留存策略:对话记录存 90 天,日志存 30 天。
  2. 到期自动删除。
  3. 用户提交删除请求。
  4. 系统找到并删除该用户所有数据。

代码 / 示例

数据留存策略:
  - 对话记录: 存 90 天, 自动删除
  - 请求日志: 存 30 天, 自动删除
  - 用户反馈: 存 1 年, 自动删除

  删除请求流程:
    1. 用户提交删除请求
    2. 找到该用户所有数据
    3. 删除 (对话记录/日志/反馈)
    4. 通知用户已删除

常见误区

  • 误区:数据一直存着;正解:合规要求到期删除,不能无限存。
  • 误区:删除就是删数据库;正解:要删所有地方——数据库、日志、备份、缓存。

追问

  • Q:备份里的数据怎么删? A:备份里的数据也要按留存策略到期覆盖,或者专门做备份删除流程。
  • Q:用户要求删除要多久完成? A:合规要求一般是 30 天内完成。

10.13.2-005 GDPR 和个保法有什么要求?

频率 ★★★ | 难度 基础

一句话结论

GDPR(欧盟通用数据保护条例)和《个人信息保护法》(中国)核心要求:知情同意、最小收集、目的限制、数据可携带、被遗忘权、数据泄露通知;做 LLM 应用要符合这些要求。

概念解释

  • 知情同意:用户知道数据怎么用。
  • 最小收集:只收集必要数据。
  • 目的限制:数据只用于约定目的。
  • 被遗忘权:用户有权要求删除。
  • 泄露通知:数据泄露要及时通知监管和用户。

原理流程

  1. 设计产品时考虑合规。
  2. 收集用户数据前告知用途。
  3. 只收集必要数据。
  4. 提供删除和导出功能。
  5. 数据泄露及时通知。

代码 / 示例

合规要求:
  - 知情同意: 用户协议里说明数据用途
  - 最小收集: 只收集必要的
  - 目的限制: 不用于约定外的用途
  - 数据可携带: 用户能导出自己的数据
  - 被遗忘权: 用户能要求删除
  - 泄露通知: 72 小时内通知监管

常见误区

  • 误区:合规是法律部门的事;正解:产品设计就要考虑合规,事后补很难。
  • 误区:国内产品不用管 GDPR;正解:如果有欧盟用户,就要符合 GDPR。

追问

  • Q:LLM 应用最关键的合规点是什么? A:用户输入的数据(可能含 PII)怎么处理,要告知用户、获得同意、做脱敏。
  • Q:数据发给第三方模型(OpenAI)要告知吗? A:要,用户协议里要说明数据会发给第三方模型。

10.13.2-006 训练数据隐私怎么保护?

频率 ★★★ | 难度 高级

一句话结论

保护方式:数据清洗(去 PII)、差分隐私(训练时加噪声)、联邦学习(数据不出本地)、隐私训练(不记住个别样本);是前沿研究方向,工业界还在探索。

概念解释

  • 数据清洗:训练数据去掉 PII。
  • 差分隐私:训练时加噪声,模型不记住个别样本。
  • 联邦学习:数据不出本地,只传梯度。
  • 隐私训练:技术上防止模型记住训练数据。

原理流程

  1. 训练数据清洗去 PII。
  2. 用差分隐私训练。
  3. 评估隐私泄露风险。
  4. 定期更新防护。

代码 / 示例

训练数据隐私保护:
  1. 数据清洗: 去掉 PII
  2. 差分隐私: 训练时加噪声
  3. 联邦学习: 数据不出本地
  4. 成员推断检测: 检测模型是否记住了训练数据

常见误区

  • 误区:训练数据清洗了就安全;正解:清洗不彻底还是有泄露风险。
  • 误区:差分隐私完美解决;正解:差分隐私会牺牲模型效果,是权衡。

追问

  • Q:模型会记住训练数据吗? A:会,研究表明模型能复述训练数据里的片段。
  • Q:怎么检测模型记住了训练数据? A:成员推断攻击,测试模型是否能区分训练样本和非训练样本。

10.13.2-007 对话记录会泄露吗?

频率 ★★★ | 难度 基础

一句话结论

会,对话记录里有用户输入的敏感信息;要脱敏存储、加密、限制访问、定期删除;不能明文存在数据库里谁都能看。

概念解释

  • 对话记录:用户输入的问题和模型的回答。
  • 可能含 PII:用户问自己的病历、财务信息。
  • 存储风险:数据库被拖库、日志泄露。
  • 防护:脱敏、加密、限制访问。

原理流程

  1. 用户输入可能含 PII。
  2. 对话记录存数据库。
  3. 数据库被访问 → 泄露。
  4. 防护:脱敏 + 加密 + 限制访问。

代码 / 示例

对话记录保护:
  1. 存储前脱敏: 手机号/身份证替换
  2. 加密存储: 数据库加密
  3. 限制访问: 只有授权人员能看
  4. 定期删除: 到期自动删
  5. 审计日志: 谁看了对话记录

常见误区

  • 误区:对话记录是用户自己的,不会泄露;正解:数据库被拖库就全泄露了。
  • 误区:开发人员能随便看对话记录;正解:要限制访问,加审计。

追问

  • Q:开发人员能看对话记录吗? A:尽量不要,要看也要脱敏,加审计。
  • Q:对话记录要存多久? A:按合规要求,一般 90 天到 1 年,不要无限存。

10.13.2-008 RAG 会泄露敏感数据吗?

频率 ★★★ | 难度 进阶

一句话结论

会,RAG 知识库如果没有权限隔离,A 用户的文档可能被 B 用户检索到;要按用户/组织做权限隔离,检索时过滤无权访问的文档。

概念解释

  • RAG 知识库:存文档的向量库。
  • 权限问题:A 用户的文档被 B 用户检索到。
  • 隔离方式:按用户/组织分库,或检索时过滤。
  • 多租户:不同租户数据隔离。

原理流程

  1. 文档入库时标记权限(属于哪个用户/组织)。
  2. 检索时只返回用户有权访问的文档。
  3. 多租户:租户之间数据隔离。

代码 / 示例

# RAG 权限隔离
def search(user_id, org_id, query):
    # 只检索用户有权访问的文档
    results = vector_db.search(
        query,
        filters={
            "org_id": org_id,
            "user_id": user_id  # 或 ACL 列表
        }
    )
    return results

常见误区

  • 误区:RAG 是内部知识库,不会泄露;正解:多租户场景下,A 租户的文档可能被 B 租户检索到。
  • 误区:向量数据库自动做权限隔离;正解:要应用层做过滤,向量库本身不管权限。

追问

  • Q:怎么做 RAG 权限隔离? A:文档入库时带权限标签,检索时按用户权限过滤。
  • Q:权限过滤会影响检索效果吗? A:会,过滤后检索范围小了,但安全优先。

待整理清单

  • [ ] 差分隐私的工业实践
  • [ ] 联邦学习在 LLM 的应用
  • [ ] 数据泄露应急响应流程
  • [ ] 隐私计算技术
  • [ ] 合规审计清单