AI 工具治理下的失败案例

共 17 题
#

1. 讲一次 AI 生成代码导致线上事故的经历

A AI 生成代码应完全信任,无需审查
B 线上事故责任应全部归咎于 AI 工具
C AI 生成代码必须经过严格测试与人工审查,并建立事故复盘与防复发机制 ✓ 正确答案
D AI 生成代码不会出问题,无需处理
#

2. 讲一次 AI 工具生成代码通过审查但仍出问题的经历

A 审查通过就代表代码绝对可靠
B 审查通过后出错应归咎于审查者个人
C 审查通过不等于可靠,应补充边界测试、警惕同质化审查并增加灰度验证 ✓ 正确答案
D 通过现有测试就足以保证安全
#

3. 当 Copilot 等工具给出错误 API 时你如何验证

A AI 给出的 API 错误应直接归咎于工具
B AI 工具给出的 API 通常准确,可直接使用
C 应核对官方文档、检查版本、运行最小示例并验证边界,以文档与运行为准 ✓ 正确答案
D 无需验证,凭经验判断即可
#

4. 讲一次提示注入导致数据外泄或不当响应的经历

A 应通过输入过滤、权限最小化、输出检测与异常监控等系统性措施防御提示注入 ✓ 正确答案
B 提示注入是危言耸听,不会真实发生
C 提示注入只能靠模型自身防御
D 提示注入无法预防,只能事后补救
#

5. 你如何在团队会议中讨论"AI 幻觉"的成因与对策

A AI 幻觉无法应对,只能接受
B 应结合成因与案例讨论,用检索增强、事实校验、人工复核等对策并落地为规范 ✓ 正确答案
C 讨论 AI 幻觉应只谈成因,不谈对策
D AI 幻觉只发生在测试环境,无需重视
#

6. 你是否愿意把 AI 工具失败写进团队复盘报告

A 把 AI 失败写进报告会损害团队士气,应隐瞒
B AI 失败只应口头讨论,不应记录
C 应透明地把 AI 失败写入复盘,客观区分工具局限与使用责任,沉淀经验 ✓ 正确答案
D 复盘报告应只写成功案例
#

7. AI 工具治理明显不到位时你如何客观判断事故责任应归属工具还是使用者

A 综合工具能力、治理机制与使用者行为分析各自失守环节,并从系统层面改进 ✓ 正确答案
B AI 事故责任应全部归咎于工具
C AI 事故责任应全部归咎于使用者
D 责任归属无需分析,凭直觉判断
#

8. 你如何避免在高压场景下过度依赖 AI 助手而造成自身判断力被削弱的失误

A 过度依赖 AI 不会影响判断力
B 高压下应完全信任 AI,节省时间
C 先形成自己的判断再参考 AI,对关键输出保持验证,并定期独立练习以保持判断力 ✓ 正确答案
D 应完全不用 AI 以避免依赖
#

9. 面对 AI 生成代码引入的隐性安全漏洞你如何组织复盘并推动系统性改进

A 组织复盘定位根因,并将安全审查、安全测试、准入清单等纳入机制层面改进 ✓ 正确答案
B 只需修复漏洞本身即可,无需改进流程
C 隐性安全漏洞无法识别,只能等被发现
D 安全漏洞治理应只由安全团队负责
#

10. 讲一次 AI 工具因合规规则被停用的经历

A 合规停用会阻碍效率,应继续使用
B 合规规则只适用于数据敏感部门
C 工具停用后无需考虑替代方案
D 合规是底线,应支持停用并寻找合规替代方案,同时在引入前做合规审查 ✓ 正确答案
#

11. 讲一次你主动提交"AI 使用风险登记"的过程

A AI 使用风险登记是多余工作,无需主动
B 应主动登记工具的数据、输出、安全、依赖等风险及应对措施,并纳入引入流程 ✓ 正确答案
C 风险登记应等事故发生后再做
D AI 使用无需风险治理
#

12. 你认为公司 AI 治理最薄弱的一环是什么

A AI 治理最薄弱的是没有工具
B 公司 AI 治理通常没有薄弱环节
C AI 治理无需流程,只需规范
D 常见薄弱环节是治理滞后于使用、缺乏统一审批与风险登记、责任边界不清,应建立可执行的闭环 ✓ 正确答案
#

13. AI 治理的责任中 AI 出错造成损失时如何界定工具方、使用方与管理方的责任边界?

A AI 出错责任应全部由工具方承担
B AI 出错责任应全部由使用方承担
C 按工具方、使用方、管理方各自失守环节客观界定,并从系统层面补齐责任 ✓ 正确答案
D 责任界定应由使用方单方决定
#

14. AI 失败的复盘中复盘 AI 相关失败时如何同时改进使用流程、验证手段与工具配置?

A 同时从使用流程、验证手段与工具配置三层面改进,并协同生效 ✓ 正确答案
B 只需改进工具配置即可
C 只需改进验证手段即可
D 复盘 AI 失败只需归因,无需改进
#

15. AI 使用的边界中如何划定哪些环节可全自动、哪些必须保留人工审批与复核?

A AI 有能力就应全自动,无需人工
B 按风险与可逆性分级,低风险可自动、高风险保留人工审批与复核 ✓ 正确答案
C 所有环节都应保留人工复核以避免风险
D 自动化边界应完全由 AI 决定
#

16. AI 事故的沟通中 AI 引发事故时如何向客户与团队诚实说明并同步补救措施?

A AI 事故应尽量隐瞒,避免影响信任
B 对客户与团队分层诚实说明事实、影响、进展与补救措施,并持续同步到闭环 ✓ 正确答案
C AI 事故沟通只需对客户,无需对团队
D 沟通时应夸大 AI 责任以减轻自身压力
#

17. AI 治理的机制中如何设计 AI 工具引入的审批、运行监控与异常回退机制?

A AI 工具引入后无需监控与回退
B AI 治理只需引入审批,无需后续流程
C 设计引入审批、运行监控与异常回退三阶段闭环,确保 AI 受控、可监控、可回退 ✓ 正确答案
D 异常回退应由 AI 自动决定,无需预案