12.6.5 代码审查自动化与风险
所属:全栈开发面试题库 / 12 待归类与新技术观察 / 12.6 AI 编程工具与工作流
覆盖范围
- AI 生成代码的幻觉问题:编造 API、不存在的库、看似合理但错误的代码
- 安全风险:注入漏洞、硬编码密钥、不安全依赖
- 测试覆盖:AI 生成测试的盲区与偏差
- 人工把关流程:AI 审查的定位、人审的边界
- 供应链风险:AI 引入的依赖、许可证问题
高频题速览
| 编号 | 题目 | 难度 | 频率 |
|---|---|---|---|
| 12.6.5-001 | AI 生成代码的幻觉有哪些典型表现? | 中等 | ★★★★★ |
| 12.6.5-002 | 如何防止 AI 引入安全漏洞? | 高级 | ★★★★★ |
| 12.6.5-003 | AI 生成的测试可信吗? | 中等 | ★★★★☆ |
| 12.6.5-004 | 人工审查 AI 代码应该重点看什么? | 高级 | ★★★★☆ |
| 12.6.5-005 | AI 引入新依赖的风险怎么控制? | 中等 | ★★★★☆ |
| 12.6.5-006 | 如何建立 AI 代码审查流程? | 高级 | ★★★★☆ |
| 12.6.5-007 | AI 生成代码的许可证风险? | 中等 | ★★★☆☆ |
| 12.6.5-008 | 哪些场景不适合用 AI 生成代码? | 高级 | ★★★☆☆ |
12.6.5-001 AI 生成代码的幻觉有哪些典型表现?
一句话结论
典型表现:编造不存在的 API/函数名、引用不存在的库或版本、看似合理但逻辑错误的算法、忽略框架特定的坑、生成能编译但行为错误的代码;核心特征是「看起来对」但「实际跑不通或结果错」。
概念解释
- API 幻觉:模型编造了一个不存在的函数名或参数。
- 库幻觉:引用了不存在的 npm 包或错误版本。
- 逻辑幻觉:代码能跑但算法/逻辑有隐蔽错误。
- 框架幻觉:忽略框架的特定行为(如 React Hooks 规则、Spring 生命周期)。
原理流程
- 模型基于训练数据生成代码。
- 遇到训练数据中不完整或过时的信息时,模型「编造」补全。
- 生成的代码语法正确、看似合理。
- 实际运行时才发现 API 不存在或行为错误。
代码 / 示例
幻觉示例:
1. API 幻觉:
模型写了 user.findByIdAndRemove() 但实际 Mongoose 的方法是 findByIdAndDelete()
2. 库幻觉:
模型建议安装 "cool-utils" 包,实际这个包不存在或完全不同
3. 逻辑幻觉:
排序算法写得看起来对,但边界条件处理错误
(如空数组、单元素数组)
4. 框架幻觉:
在 React 组件中写了异步 useEffect,但没处理清理函数
常见误区
- 误区:能编译通过就是对的;正解:语法正确不代表逻辑正确,幻觉代码常常能编译。
- 误区:大模型不会幻觉;正解:模型越大幻觉越少但不会消失,尤其在小众库和新 API 上。
追问 / 延伸
- Q:怎么快速发现 API 幻觉? A:运行代码看报错,或用 IDE 的类型检查。
- Q:小众库更容易幻觉吗? A:是的,训练数据少的库/框架更容易编造 API。
12.6.5-002 如何防止 AI 引入安全漏洞?
一句话结论
四层防线:输入层(不把敏感信息放入 Prompt)、生成层(规则文件明确禁止硬编码密钥、SQL 拼接等危险模式)、审查层(AI 代码必须过安全扫描工具如 SAST)、流程层(关键代码必须人工审查,AI 不能直接合入生产)。
概念解释
- 输入层:敏感数据不进入 AI 上下文,防止泄露。
- 生成层:规则文件明确安全红线。
- 审查层:自动化安全扫描工具(SAST、依赖检查)。
- 流程层:人工把关,AI 代码不能自动合入。
原理流程
- 规则文件写明安全规范:不用 SQL 拼接、密钥从环境变量读、输入必须校验。
- AI 生成代码。
- 自动运行 SAST 工具扫描。
- 人工审查安全相关代码。
- 通过后才能合入。
代码 / 示例
# 规则文件中的安全红线
- 禁止硬编码密钥、密码、Token,一律从环境变量读取
- 禁止字符串拼接 SQL,必须用参数化查询
- 所有用户输入必须校验(DTO Validation)
- 禁止使用 eval、new Function 等动态执行
- 密码必须用 bcrypt/argon2 加密
- JWT 密钥长度至少 32 字符
常见误区
- 误区:AI 知道安全规范就不会写漏洞代码;正解:模型可能「知道」规范但在生成时忽略,必须靠工具和流程把关。
- 误区:用 AI 写安全关键代码更安全;正解:AI 生成的代码更需要审查,因为它写得「太自信」,容易让人放松警惕。
追问 / 延伸
- Q:AI 能自动发现漏洞吗? A:AI 辅助代码审查可以,但不能替代专业安全扫描工具。
- Q:最常见的 AI 安全漏洞是什么? A:SQL 注入(拼接 SQL)、硬编码密钥、不安全的依赖版本。
12.6.5-003 AI 生成的测试可信吗?
一句话结论
部分可信:AI 能很好地覆盖正常路径和基本分支,但容易遗漏边界情况、异常路径、并发场景和业务逻辑特殊性;AI 测试可能「自己测自己」——生成的实现和测试有相同的理解偏差,导致测试通过但功能错误。
概念解释
- 正常路径:AI 覆盖好。
- 边界情况:空输入、极大值、并发——容易漏。
- 自证偏差:AI 对需求的理解偏差同时体现在实现和测试中,测试通过不代表功能正确。
原理流程
- AI 根据理解生成实现。
- AI 根据同样的理解生成测试。
- 如果 AI 对需求理解有偏差,实现和测试都偏。
- 测试「通过」但功能不符合业务预期。
代码 / 示例
自证偏差示例:
需求:"密码错误 5 次后锁定 15 分钟"
AI 理解:"密码错误 5 次后锁定"(漏了 15 分钟)
AI 实现:错误 5 次后永久锁定
AI 测试:错误 5 次后锁定 → 通过
问题:测试通过,但业务要求的是临时锁定
常见误区
- 误区:测试覆盖率高就安全;正解:AI 测试覆盖率可能很高,但覆盖的是「AI 理解的需求」,不是「真实需求」。
- 误区:AI 写的测试不用看;正解:测试用例本身需要人工审查,特别是边界情况。
追问 / 延伸
- Q:怎么避免自证偏差? A:人先写验收标准(Given/When/Then),让 AI 按标准写测试,而非让 AI 自己理解需求。
- Q:AI 能补全边界测试吗? A:可以提示 AI「补充边界情况:空值、极大值、并发、异常路径」。
12.6.5-004 人工审查 AI 代码应该重点看什么?
一句话结论
重点看五件事:业务逻辑正确性(是否真正实现了需求)、安全漏洞(注入、密钥、权限)、边界情况(异常输入、并发、超时)、依赖合理性(是否引入了不必要的库)、代码可维护性(命名、结构、是否符合项目规范);语法和风格问题交给工具。
概念解释
- 业务逻辑:AI 是否理解了真实需求。
- 安全:注入、权限、密钥。
- 边界:异常路径是否处理。
- 依赖:是否引入不必要的包。
- 可维护性:代码是否符合项目风格。
原理流程
- 先跑构建和测试,确保能运行。
- 审查业务逻辑:对比需求,确认实现正确。
- 审查安全:检查注入、密钥、权限。
- 审查边界:异常路径是否处理。
- 审查依赖:新增依赖是否合理。
- 检查代码风格是否符合项目规范。
代码 / 示例
人工审查清单:
[ ] 业务逻辑:实现是否符合需求文档/Spec
[ ] 安全:有无 SQL 拼接、硬编码密钥、权限问题
[ ] 边界:空值、异常、超时、并发是否处理
[ ] 依赖:新增包是否必要、版本是否安全
[ ] 规范:命名、结构、注释是否符合项目规范
[ ] 测试:测试用例是否覆盖了关键路径和异常路径
常见误区
- 误区:AI 写的代码随便看看就行;正解:正因为是 AI 写的,更要仔细看——它「看起来对」但可能错。
- 误区:审查只看新增代码;正解:还要看 AI 是否修改了原有代码、是否破坏了现有逻辑。
追问 / 延伸
- Q:审查 AI 代码比人写的快吗? A:不一定——AI 代码量可能更大,且需要验证幻觉,审查时间可能更长。
- Q:团队怎么分工? A:AI 写的代码,作者本人审查一遍,再走正常 PR 流程。
12.6.5-005 AI 引入新依赖的风险怎么控制?
一句话结论
三原则:禁止 AI 自动安装新依赖、新增依赖必须人工审核(必要性 + 安全性 + 许可证)、优先使用项目已有依赖;在规则文件中明确写「不要主动引入新依赖,如需引入必须说明理由」。
概念解释
- 自动安装:AI 直接运行 npm install 添加新包。
- 必要性:是否真的需要这个包,还是已有包能实现。
- 安全性:包是否有已知漏洞、是否被恶意维护。
- 许可证:是否与项目许可证兼容。
原理流程
- 规则文件明确:不主动引入新依赖。
- AI 需要新依赖时,先说明理由。
- 人工评估:必要性、安全性、许可证。
- 确认后才添加。
代码 / 示例
# 规则文件
## 依赖管理
- 不要主动引入新 npm/pip 包
- 如果需要引入,先说明:为什么需要、是否有替代方案、许可证是什么
- 优先使用项目已有的依赖
- 禁止引入:未知来源、维护不活跃、有已知漏洞的包
常见误区
- 误区:AI 选的包一定是最好的;正解:AI 可能选了不常用、维护不活跃的包,甚至幻觉出不存在的包。
- 误区:小项目不用管依赖安全;正解:供应链攻击是真实威胁,npm 包被投毒事件屡见不鲜。
追问 / 延伸
- Q:怎么检查包的安全性? A:用 npm audit、Snyk 等工具检查已知漏洞,看维护频率和下载量。
- Q:许可证问题常见吗? A:AGPL 等强 copyleft 许可证可能与商业项目冲突,需审核。
12.6.5-006 如何建立 AI 代码审查流程?
一句话结论
流程:AI 生成代码 → 自动检查(构建 + 测试 + SAST + 依赖扫描)→ 开发者自审(对照 Spec 验证)→ 正常 PR 审查(同事 review)→ 合入;AI 代码必须走完整 PR 流程,不能直接 push 到主干。
概念解释
- 自动检查:工具能跑的都跑掉。
- 开发者自审:作者自己对照需求验证。
- PR 审查:同事 review,与正常代码流程一致。
原理流程
- AI 在特性分支上生成代码。
- 自动检查:构建、测试、SAST、依赖扫描。
- 开发者自审:对照 Spec 逐条验证。
- 提交 PR,走正常 review 流程。
- 通过后合入。
代码 / 示例
AI 代码审查流程:
AI 生成 → 自动检查(lint/test/SAST)→ 自审 → PR → Review → 合入
每一步不通过都要打回重来
常见误区
- 误区:AI 代码量少就不用 PR;正解:无论代码量多少,AI 生成的都走完整流程。
- 误区:自动检查通过就够了;正解:自动检查只覆盖语法、漏洞、依赖,业务逻辑仍需人审。
追问 / 延伸
- Q:小团队也要走完整流程吗? A:至少走自审 + 一人 review,不能省。
- Q:怎么度量 AI 代码质量? A:看 PR 一次通过率、review 反馈密度、线上 bug 率。
12.6.5-007 AI 生成代码的许可证风险?
一句话结论
风险:AI 训练数据包含开源代码,生成代码可能与某个开源项目高度相似,引入许可证合规风险;缓解措施:不直接复制大段代码、优先生成原创实现、引入许可证扫描工具、对关键代码做相似度检查。
概念解释
- 训练数据:AI 训练时见过大量开源代码。
- 相似度:生成代码可能与某个开源项目代码高度相似。
- 许可证:如果相似代码是 GPL 等强 copyleft 许可证,可能要求你的代码也开源。
原理流程
- AI 训练时学习了开源代码。
- 生成代码时可能「复现」了训练数据中的代码片段。
- 如果片段与某个 GPL 项目相似,可能触发许可证义务。
代码 / 示例
风险场景:
AI 生成了一个排序算法实现
恰好与某个 GPL 项目的代码几乎一样
→ 你的项目可能被要求开源
缓解:
- 不要让 AI 直接复制大段代码
- 让 AI 用自己的方式实现,而非照搬
- 引入许可证扫描工具
常见误区
- 误区:AI 生成的代码没有版权问题;正解:训练数据的版权问题仍在法律讨论中,谨慎为上。
- 误区:短代码片段不会有问题;正解:即使是小片段,也可能触发许可证义务。
追问 / 延伸
- Q:这个问题有明确法律结论吗? A:尚在演进中,不同司法辖区结论不同,企业应咨询法务。
- Q:怎么降低风险? A:让 AI 生成原创实现,不复制特定项目的代码模式,关键代码做相似度扫描。
12.6.5-008 哪些场景不适合用 AI 生成代码?
一句话结论
不适合的场景:安全关键代码(加密、认证、支付)、核心业务逻辑(算法正确性要求极高)、性能敏感路径(AI 可能写出低效实现)、复杂遗留系统(AI 不熟悉的老代码)、合规要求极高的领域(金融、医疗的监管代码);这些场景 AI 只能辅助,不能主导。
概念解释
- 安全关键:出错后果严重的代码。
- 核心业务:算法正确性要求极高。
- 性能敏感:AI 可能写出 O(n²) 而非 O(n log n)。
- 遗留系统:AI 不熟悉的老框架和模式。
- 合规领域:监管要求严格的行业。
原理流程
- 判断代码的风险等级。
- 高风险场景:AI 只做辅助(写注释、补测试),人主导写实现。
- 低风险场景:AI 主导,人审查。
代码 / 示例
适合 AI 生成:
- CRUD 接口
- 前端页面
- 单元测试
- 文档生成
- 重构重命名
不适合 AI 主导:
- 加密算法实现
- 支付流程
- 权限认证核心逻辑
- 高频交易系统
- 医疗设备控制代码
常见误区
- 误区:AI 能写所有代码;正解:高风险场景 AI 只能辅助,人必须主导。
- 误区:AI 写测试就不用自己写了;正解:关键测试人写,AI 补边缘用例。
追问 / 延伸
- Q:怎么判断风险等级? A:出错后的影响范围和严重程度——影响资金、安全、生命的就是高风险。
- Q:AI 能辅助写安全关键代码吗? A:可以做草稿,人必须逐行审查,最好有安全专家 review。
待整理清单
- [ ] AI 代码审查清单模板(按技术栈分类)
- [ ] 团队 AI 代码使用规范
- [ ] 许可证扫描工具对比
- [ ] AI 代码质量度量指标体系