罗罗编程学习记录
本页内容 展开查看

10.13 AI 安全

所属:全栈开发面试题库 / 10 AI 应用开发:LLM 与 Agent

覆盖范围

  • 提示注入与工具越权
  • 数据泄露与 PII 处理
  • 模型窃取与对抗样本
  • 生成内容合规与风控

子主题

编号 主题 核心内容
10.13.1 提示注入与工具越权 直接/间接注入、工具越权、Agent 安全边界、防护措施、红队测试
10.13.2 数据泄露与 PII 处理 PII 识别、数据脱敏、数据留存与删除、GDPR/个保法、训练数据隐私
10.13.3 模型窃取与对抗样本 API 蒸馏、模型窃取、对抗样本、模型水印、知识产权保护
10.13.4 生成内容合规与风控 内容审核、中国生成式 AI 合规要求、内容标识、风控规则、用户反馈

高频题索引

编号 题目 难度 频率 所在页面
10.13.1-001 什么是提示注入? 中 高 10.13.1
10.13.2-001 LLM 应用有哪些数据泄露风险? 中 高 10.13.2
10.13.3-001 什么是模型窃取? 中 中 10.13.3
10.13.4-001 生成内容为什么要审核? 中 高 10.13.4

当前状态

  • 4 个主题页,每主题页 8 题,合计 32 题。
  • 本章只写攻击面与防护,与 10.5 工程化不重叠。
  • 合规要求以最新法规为准,本章节不编造具体处罚金额或条款编号。