局限与责任

LLM 会错、会漏、会过时；Copilot/Cursor 不会 替你在 incident 报告上签字。把 AI 当 junior 搭档：快，但 每一行合并的代码与发布的讲义，责任在你。

学习目标

• 列举 AI 辅助编程的主要局限
• 建立「过度依赖」的自检信号
• 明确工程师在 CodeRoadMap 与生产环境中的最终责任

结构性局限

局限	说明
幻觉	编造 API、路径、测试结果
上下文有限	长仓、长对话丢约束
知识截止	新框架、内部模块不熟
无真正执行理解	未跑你的测试就不知失败
一致性	同一问题多次答案可能不同

这些不是「再换一个好模型」就能彻底消除——是 使用方式 问题。

过度依赖的信号

• 不再 读 diff，只信 AI「已完成」
• 遇到编译错误 只会 整段贴 Chat，不查文档
• 测试失败让 AI 「再试一次」循环，不 根因分析
• 讲义 draft 未通读 就 merge

对策：保留 git-status-log 的 diff 习惯；保留 test-tdd 的「红绿重构」思维——AI 不能替代思考。

责任边界

AI 建议 → 你理解 → 你测试 → 你 commit → 你 merge → 你值班

• 版权与内容：CodeRoadMap 讲义 AI 起草后，维护者保证 准确与原创性
• 安全事件：密钥泄露因误贴 prompt，轮换与报告 是你的流程
• 线上故障：不能写「Copilot 写的」作为免责理由

何时该关掉 AI

• 设计 核心算法、权限模型、加密方案——需要深度专注与形式化推理
• 学习新概念 的第一周——先手写再 AI，否则技能空心化
• 情绪压力大赶工——最易 blind accept

AI 是 加速器，不是 拐杖；基础仍来自路线图上的 Java、Spring、Git、Testing 等课。

与 ai-intro 呼应

本 track 开头说 AI 辅助不替代工程；本课是 纪律收尾：工具会变，责任不变。

练习

• 写三条个人规则：何时用 Agent、何时只用手写
• 回顾最近一次 AI 改动，找一处若未审查会出 bug 的地方
• 与同伴讨论：团队 incident 里 AI 相关条目应怎么写

小结

局限是常态；过度依赖可自检；你是 author、reviewer、owner。 下一课团队工作流与内容创作。