罗罗编程学习记录
本页内容 展开查看

12.6.5 代码审查自动化与风险

所属:全栈开发面试题库 / 12 待归类与新技术观察 / 12.6 AI 编程工具与工作流

覆盖范围

  • AI 生成代码的幻觉问题:编造 API、不存在的库、看似合理但错误的代码
  • 安全风险:注入漏洞、硬编码密钥、不安全依赖
  • 测试覆盖:AI 生成测试的盲区与偏差
  • 人工把关流程:AI 审查的定位、人审的边界
  • 供应链风险:AI 引入的依赖、许可证问题

高频题速览

编号 题目 难度 频率
12.6.5-001 AI 生成代码的幻觉有哪些典型表现? 中等 ★★★★★
12.6.5-002 如何防止 AI 引入安全漏洞? 高级 ★★★★★
12.6.5-003 AI 生成的测试可信吗? 中等 ★★★★☆
12.6.5-004 人工审查 AI 代码应该重点看什么? 高级 ★★★★☆
12.6.5-005 AI 引入新依赖的风险怎么控制? 中等 ★★★★☆
12.6.5-006 如何建立 AI 代码审查流程? 高级 ★★★★☆
12.6.5-007 AI 生成代码的许可证风险? 中等 ★★★☆☆
12.6.5-008 哪些场景不适合用 AI 生成代码? 高级 ★★★☆☆

12.6.5-001 AI 生成代码的幻觉有哪些典型表现?

一句话结论

典型表现:编造不存在的 API/函数名、引用不存在的库或版本、看似合理但逻辑错误的算法、忽略框架特定的坑、生成能编译但行为错误的代码;核心特征是「看起来对」但「实际跑不通或结果错」。

概念解释

  • API 幻觉:模型编造了一个不存在的函数名或参数。
  • 库幻觉:引用了不存在的 npm 包或错误版本。
  • 逻辑幻觉:代码能跑但算法/逻辑有隐蔽错误。
  • 框架幻觉:忽略框架的特定行为(如 React Hooks 规则、Spring 生命周期)。

原理流程

  1. 模型基于训练数据生成代码。
  2. 遇到训练数据中不完整或过时的信息时,模型「编造」补全。
  3. 生成的代码语法正确、看似合理。
  4. 实际运行时才发现 API 不存在或行为错误。

代码 / 示例

幻觉示例:

1. API 幻觉:
   模型写了 user.findByIdAndRemove() 但实际 Mongoose 的方法是 findByIdAndDelete()

2. 库幻觉:
   模型建议安装 "cool-utils" 包,实际这个包不存在或完全不同

3. 逻辑幻觉:
   排序算法写得看起来对,但边界条件处理错误
   (如空数组、单元素数组)

4. 框架幻觉:
   在 React 组件中写了异步 useEffect,但没处理清理函数

常见误区

  • 误区:能编译通过就是对的;正解:语法正确不代表逻辑正确,幻觉代码常常能编译。
  • 误区:大模型不会幻觉;正解:模型越大幻觉越少但不会消失,尤其在小众库和新 API 上。

追问 / 延伸

  • Q:怎么快速发现 API 幻觉? A:运行代码看报错,或用 IDE 的类型检查。
  • Q:小众库更容易幻觉吗? A:是的,训练数据少的库/框架更容易编造 API。

12.6.5-002 如何防止 AI 引入安全漏洞?

一句话结论

四层防线:输入层(不把敏感信息放入 Prompt)、生成层(规则文件明确禁止硬编码密钥、SQL 拼接等危险模式)、审查层(AI 代码必须过安全扫描工具如 SAST)、流程层(关键代码必须人工审查,AI 不能直接合入生产)。

概念解释

  • 输入层:敏感数据不进入 AI 上下文,防止泄露。
  • 生成层:规则文件明确安全红线。
  • 审查层:自动化安全扫描工具(SAST、依赖检查)。
  • 流程层:人工把关,AI 代码不能自动合入。

原理流程

  1. 规则文件写明安全规范:不用 SQL 拼接、密钥从环境变量读、输入必须校验。
  2. AI 生成代码。
  3. 自动运行 SAST 工具扫描。
  4. 人工审查安全相关代码。
  5. 通过后才能合入。

代码 / 示例

# 规则文件中的安全红线
- 禁止硬编码密钥、密码、Token,一律从环境变量读取
- 禁止字符串拼接 SQL,必须用参数化查询
- 所有用户输入必须校验(DTO Validation)
- 禁止使用 eval、new Function 等动态执行
- 密码必须用 bcrypt/argon2 加密
- JWT 密钥长度至少 32 字符

常见误区

  • 误区:AI 知道安全规范就不会写漏洞代码;正解:模型可能「知道」规范但在生成时忽略,必须靠工具和流程把关。
  • 误区:用 AI 写安全关键代码更安全;正解:AI 生成的代码更需要审查,因为它写得「太自信」,容易让人放松警惕。

追问 / 延伸

  • Q:AI 能自动发现漏洞吗? A:AI 辅助代码审查可以,但不能替代专业安全扫描工具。
  • Q:最常见的 AI 安全漏洞是什么? A:SQL 注入(拼接 SQL)、硬编码密钥、不安全的依赖版本。

12.6.5-003 AI 生成的测试可信吗?

一句话结论

部分可信:AI 能很好地覆盖正常路径和基本分支,但容易遗漏边界情况、异常路径、并发场景和业务逻辑特殊性;AI 测试可能「自己测自己」——生成的实现和测试有相同的理解偏差,导致测试通过但功能错误。

概念解释

  • 正常路径:AI 覆盖好。
  • 边界情况:空输入、极大值、并发——容易漏。
  • 自证偏差:AI 对需求的理解偏差同时体现在实现和测试中,测试通过不代表功能正确。

原理流程

  1. AI 根据理解生成实现。
  2. AI 根据同样的理解生成测试。
  3. 如果 AI 对需求理解有偏差,实现和测试都偏。
  4. 测试「通过」但功能不符合业务预期。

代码 / 示例

自证偏差示例:
  需求:"密码错误 5 次后锁定 15 分钟"
  
  AI 理解:"密码错误 5 次后锁定"(漏了 15 分钟)
  AI 实现:错误 5 次后永久锁定
  AI 测试:错误 5 次后锁定 → 通过
  
  问题:测试通过,但业务要求的是临时锁定

常见误区

  • 误区:测试覆盖率高就安全;正解:AI 测试覆盖率可能很高,但覆盖的是「AI 理解的需求」,不是「真实需求」。
  • 误区:AI 写的测试不用看;正解:测试用例本身需要人工审查,特别是边界情况。

追问 / 延伸

  • Q:怎么避免自证偏差? A:人先写验收标准(Given/When/Then),让 AI 按标准写测试,而非让 AI 自己理解需求。
  • Q:AI 能补全边界测试吗? A:可以提示 AI「补充边界情况:空值、极大值、并发、异常路径」。

12.6.5-004 人工审查 AI 代码应该重点看什么?

一句话结论

重点看五件事:业务逻辑正确性(是否真正实现了需求)、安全漏洞(注入、密钥、权限)、边界情况(异常输入、并发、超时)、依赖合理性(是否引入了不必要的库)、代码可维护性(命名、结构、是否符合项目规范);语法和风格问题交给工具。

概念解释

  • 业务逻辑:AI 是否理解了真实需求。
  • 安全:注入、权限、密钥。
  • 边界:异常路径是否处理。
  • 依赖:是否引入不必要的包。
  • 可维护性:代码是否符合项目风格。

原理流程

  1. 先跑构建和测试,确保能运行。
  2. 审查业务逻辑:对比需求,确认实现正确。
  3. 审查安全:检查注入、密钥、权限。
  4. 审查边界:异常路径是否处理。
  5. 审查依赖:新增依赖是否合理。
  6. 检查代码风格是否符合项目规范。

代码 / 示例

人工审查清单:
  [ ] 业务逻辑:实现是否符合需求文档/Spec
  [ ] 安全:有无 SQL 拼接、硬编码密钥、权限问题
  [ ] 边界:空值、异常、超时、并发是否处理
  [ ] 依赖:新增包是否必要、版本是否安全
  [ ] 规范:命名、结构、注释是否符合项目规范
  [ ] 测试:测试用例是否覆盖了关键路径和异常路径

常见误区

  • 误区:AI 写的代码随便看看就行;正解:正因为是 AI 写的,更要仔细看——它「看起来对」但可能错。
  • 误区:审查只看新增代码;正解:还要看 AI 是否修改了原有代码、是否破坏了现有逻辑。

追问 / 延伸

  • Q:审查 AI 代码比人写的快吗? A:不一定——AI 代码量可能更大,且需要验证幻觉,审查时间可能更长。
  • Q:团队怎么分工? A:AI 写的代码,作者本人审查一遍,再走正常 PR 流程。

12.6.5-005 AI 引入新依赖的风险怎么控制?

一句话结论

三原则:禁止 AI 自动安装新依赖、新增依赖必须人工审核(必要性 + 安全性 + 许可证)、优先使用项目已有依赖;在规则文件中明确写「不要主动引入新依赖,如需引入必须说明理由」。

概念解释

  • 自动安装:AI 直接运行 npm install 添加新包。
  • 必要性:是否真的需要这个包,还是已有包能实现。
  • 安全性:包是否有已知漏洞、是否被恶意维护。
  • 许可证:是否与项目许可证兼容。

原理流程

  1. 规则文件明确:不主动引入新依赖。
  2. AI 需要新依赖时,先说明理由。
  3. 人工评估:必要性、安全性、许可证。
  4. 确认后才添加。

代码 / 示例

# 规则文件
## 依赖管理
- 不要主动引入新 npm/pip 包
- 如果需要引入,先说明:为什么需要、是否有替代方案、许可证是什么
- 优先使用项目已有的依赖
- 禁止引入:未知来源、维护不活跃、有已知漏洞的包

常见误区

  • 误区:AI 选的包一定是最好的;正解:AI 可能选了不常用、维护不活跃的包,甚至幻觉出不存在的包。
  • 误区:小项目不用管依赖安全;正解:供应链攻击是真实威胁,npm 包被投毒事件屡见不鲜。

追问 / 延伸

  • Q:怎么检查包的安全性? A:用 npm audit、Snyk 等工具检查已知漏洞,看维护频率和下载量。
  • Q:许可证问题常见吗? A:AGPL 等强 copyleft 许可证可能与商业项目冲突,需审核。

12.6.5-006 如何建立 AI 代码审查流程?

一句话结论

流程:AI 生成代码 → 自动检查(构建 + 测试 + SAST + 依赖扫描)→ 开发者自审(对照 Spec 验证)→ 正常 PR 审查(同事 review)→ 合入;AI 代码必须走完整 PR 流程,不能直接 push 到主干。

概念解释

  • 自动检查:工具能跑的都跑掉。
  • 开发者自审:作者自己对照需求验证。
  • PR 审查:同事 review,与正常代码流程一致。

原理流程

  1. AI 在特性分支上生成代码。
  2. 自动检查:构建、测试、SAST、依赖扫描。
  3. 开发者自审:对照 Spec 逐条验证。
  4. 提交 PR,走正常 review 流程。
  5. 通过后合入。

代码 / 示例

AI 代码审查流程:
  AI 生成 → 自动检查(lint/test/SAST)→ 自审 → PR → Review → 合入
  每一步不通过都要打回重来

常见误区

  • 误区:AI 代码量少就不用 PR;正解:无论代码量多少,AI 生成的都走完整流程。
  • 误区:自动检查通过就够了;正解:自动检查只覆盖语法、漏洞、依赖,业务逻辑仍需人审。

追问 / 延伸

  • Q:小团队也要走完整流程吗? A:至少走自审 + 一人 review,不能省。
  • Q:怎么度量 AI 代码质量? A:看 PR 一次通过率、review 反馈密度、线上 bug 率。

12.6.5-007 AI 生成代码的许可证风险?

一句话结论

风险:AI 训练数据包含开源代码,生成代码可能与某个开源项目高度相似,引入许可证合规风险;缓解措施:不直接复制大段代码、优先生成原创实现、引入许可证扫描工具、对关键代码做相似度检查。

概念解释

  • 训练数据:AI 训练时见过大量开源代码。
  • 相似度:生成代码可能与某个开源项目代码高度相似。
  • 许可证:如果相似代码是 GPL 等强 copyleft 许可证,可能要求你的代码也开源。

原理流程

  1. AI 训练时学习了开源代码。
  2. 生成代码时可能「复现」了训练数据中的代码片段。
  3. 如果片段与某个 GPL 项目相似,可能触发许可证义务。

代码 / 示例

风险场景:
  AI 生成了一个排序算法实现
  恰好与某个 GPL 项目的代码几乎一样
  → 你的项目可能被要求开源

缓解:
  - 不要让 AI 直接复制大段代码
  - 让 AI 用自己的方式实现,而非照搬
  - 引入许可证扫描工具

常见误区

  • 误区:AI 生成的代码没有版权问题;正解:训练数据的版权问题仍在法律讨论中,谨慎为上。
  • 误区:短代码片段不会有问题;正解:即使是小片段,也可能触发许可证义务。

追问 / 延伸

  • Q:这个问题有明确法律结论吗? A:尚在演进中,不同司法辖区结论不同,企业应咨询法务。
  • Q:怎么降低风险? A:让 AI 生成原创实现,不复制特定项目的代码模式,关键代码做相似度扫描。

12.6.5-008 哪些场景不适合用 AI 生成代码?

一句话结论

不适合的场景:安全关键代码(加密、认证、支付)、核心业务逻辑(算法正确性要求极高)、性能敏感路径(AI 可能写出低效实现)、复杂遗留系统(AI 不熟悉的老代码)、合规要求极高的领域(金融、医疗的监管代码);这些场景 AI 只能辅助,不能主导。

概念解释

  • 安全关键:出错后果严重的代码。
  • 核心业务:算法正确性要求极高。
  • 性能敏感:AI 可能写出 O(n²) 而非 O(n log n)。
  • 遗留系统:AI 不熟悉的老框架和模式。
  • 合规领域:监管要求严格的行业。

原理流程

  1. 判断代码的风险等级。
  2. 高风险场景:AI 只做辅助(写注释、补测试),人主导写实现。
  3. 低风险场景:AI 主导,人审查。

代码 / 示例

适合 AI 生成:
  - CRUD 接口
  - 前端页面
  - 单元测试
  - 文档生成
  - 重构重命名

不适合 AI 主导:
  - 加密算法实现
  - 支付流程
  - 权限认证核心逻辑
  - 高频交易系统
  - 医疗设备控制代码

常见误区

  • 误区:AI 能写所有代码;正解:高风险场景 AI 只能辅助,人必须主导。
  • 误区:AI 写测试就不用自己写了;正解:关键测试人写,AI 补边缘用例。

追问 / 延伸

  • Q:怎么判断风险等级? A:出错后的影响范围和严重程度——影响资金、安全、生命的就是高风险。
  • Q:AI 能辅助写安全关键代码吗? A:可以做草稿,人必须逐行审查,最好有安全专家 review。

待整理清单

  • [ ] AI 代码审查清单模板(按技术栈分类)
  • [ ] 团队 AI 代码使用规范
  • [ ] 许可证扫描工具对比
  • [ ] AI 代码质量度量指标体系