10.13 AI 安全
所属:全栈开发面试题库 / 10 AI 应用开发:LLM 与 Agent
覆盖范围
- 提示注入与工具越权
- 数据泄露与 PII 处理
- 模型窃取与对抗样本
- 生成内容合规与风控
子主题
| 编号 | 主题 | 核心内容 |
|---|---|---|
| 10.13.1 | 提示注入与工具越权 | 直接/间接注入、工具越权、Agent 安全边界、防护措施、红队测试 |
| 10.13.2 | 数据泄露与 PII 处理 | PII 识别、数据脱敏、数据留存与删除、GDPR/个保法、训练数据隐私 |
| 10.13.3 | 模型窃取与对抗样本 | API 蒸馏、模型窃取、对抗样本、模型水印、知识产权保护 |
| 10.13.4 | 生成内容合规与风控 | 内容审核、中国生成式 AI 合规要求、内容标识、风控规则、用户反馈 |
高频题索引
| 编号 | 题目 | 难度 | 频率 | 所在页面 |
|---|---|---|---|---|
| 10.13.1-001 | 什么是提示注入? | 中 | 高 | 10.13.1 |
| 10.13.2-001 | LLM 应用有哪些数据泄露风险? | 中 | 高 | 10.13.2 |
| 10.13.3-001 | 什么是模型窃取? | 中 | 中 | 10.13.3 |
| 10.13.4-001 | 生成内容为什么要审核? | 中 | 高 | 10.13.4 |
当前状态
- 4 个主题页,每主题页 8 题,合计 32 题。
- 本章只写攻击面与防护,与 10.5 工程化不重叠。
- 合规要求以最新法规为准,本章节不编造具体处罚金额或条款编号。