EU AI Act 对高风险 AI 系统的合规要求包括哪些？
EU AI Act 对高风险 AI 系统要求全生命周期合规：风险管理体系（建立并维护风险识别与缓解）；数据治理（训练/验证数据质量、代表性、无偏差）；技术文档（记录系统设计、目的、性能、风险）；日志记录（可追溯）；透明度与人工监督（向使用者说明、人工监控）；准确性、稳健性与安全性；上市前符合性评估、注册（EU 数据库）、CE 标记；上市后监测与持续更新。GenAI 产品若落入高风险范围需满足上述要求。
高风险系统是 EU AI Act 最重的义务。合规覆盖设计、数据、文档、评估、注册到上市后监测全流程。
生成内容显式/隐式标识（AI 水印、AIGC 标识办法）在应用层如何落地（存储层注入、前端展示、分发元数据），如何防止标识被剥离？
落地：存储层注入（生成时把隐式标识写入文件元数据/水印，实现不可篡改）；前端展示（在内容展示时叠加显式标识，如"AI 生成"角标）；分发元数据（在导出的文件/接口中保留标识元数据）。防剥离：水印用抗篡改/抗编辑技术（如鲁棒水印）、元数据用签名保护、显式标识在展示层叠加；检测标识被剥离（定期校验元数据完整性）并告警。
标识需"存储层+前端+分发"全链路落地，防剥离靠水印鲁棒性、元数据签名与检测。
NIST AI RMF（Risk Management Framework）的工程价值是什么？
NIST AI RMF 的工程价值：提供 Govern/Map/Measure/Manage 结构化的风险治理流程，把 AI 风险从概念转化为可执行的活动；支持组织建立风险登记册、评估流程、缓解措施与持续监控；Generative AI Profile 补充生成式 AI 特定风险。工程上可用它驱动安全评审、测试、门禁与监控，实现"识别-评估-缓解-监控"闭环，提升治理规范性与可审计性。
RMF 的价值是把风险治理"流程化、可执行、可审计"。作为治理框架，它支撑 AI 安全工程落地。
算法备案与大模型备案对应用接入第三方模型有何影响？选型时应核验哪些备案状态证据？
算法备案与大模型备案是合规要求，接入第三方模型时需确认该模型/服务已按当地法规完成备案，否则应用可能因接入未备案模型而被认定违规。选型时应核验：备案状态（备案号、备案信息、公开可查记录）、备案主体与模型一致性、备案范围是否覆盖使用场景、备案的时效与变化。未备案或备案不明确的模型应避免接入或走合规评估。
备案是选型"合规门槛"。核验备案号、主体、范围与时效，确保接入的模型合规。
数据出境与境外模型 API 调用的合规边界在哪里（个人信息出境、重要数据）？技术层如何验证请求确实未离境？
合规边界：向境外模型 API 发送个人信息、重要数据构成数据出境，需符合数据出境法律（安全评估、标准合同、认证等）与告知同意；跨境前需评估数据类型与目的地。技术层验证请求未离境：对境内数据，把模型部署在境内区域、路由固定到境内端点、禁用跨区域故障转移；用网络出口监控、DNS/路由审计、数据流日志验证请求目的地；对数据出境场景做合规评估与记录。
边界在于"数据是否离开境内 + 是否合规"。技术验证（路由、出口监控、区域驻留）确保请求不越界。
不同区域模型的备案与合规状态差异如何在路由配置中管理，防止未备案模型被误路由到受限区域？
管理区域模型合规差异：建立模型清单，记录每个模型在各区域的备案/合规状态；路由配置按地域选择该区域允许的模型，把未备案或不合规的模型从该区域路由中排除；用地域路由策略 + 模型白名单强制，防止未备案模型被误路由到受限区域；路由决策记录审计，定期复核模型合规状态并更新路由。
关键在"模型合规状态"与"地域路由"联动。用清单 + 白名单路由 + 审计，防止误路由。
Prompt 缓存命中时如何确保缓存内容不跨越租户与权限边界？缓存命中记录应如何纳入审计日志？
缓存要按租户与权限隔离：缓存键纳入租户/身份维度，命中时校验当前用户与缓存条目的租户/权限是否一致，防止跨租户命中返回他人数据；对敏感内容不缓存或按权限标记。缓存命中记录纳入审计：记录缓存键、命中的租户/权限上下文、请求 ID、结果，供审计追溯，验证缓存未越权。通过隔离与审计双保险。
缓存易被忽略其权限边界。按租户隔离 + 命中校验 + 审计记录，防止缓存跨越权限。
流式响应（SSE、WebSocket）的增量内容与 usage 记录应如何留痕，以满足合规审计与争议追溯要求？
流式响应需在服务端对增量内容做留痕：汇总完整输出（而非只留增量），记录完整 Prompt 与最终输出、usage（token 用量、模型、耗时）、请求上下文与时间戳，写入审计日志。对 SSE/WebSocket 的每个流式会话记录会话 ID、消息序列与最终结果，满足争议追溯（可还原对话）。流式记录需脱敏、加密与访问控制。
流式是"增量到达"，但审计需"完整还原"。留痕应保存完整会话与 usage，供争议追溯。
实时语音会话的录音留存、转写脱敏与用户同意（生物特征合规）应如何设计，才能满足隐私审计要求？
实时语音合规设计：录音留存（按需、最小化留存，设置保留期与访问控制）；转写脱敏（对转写文本做 PII 脱敏，语音数据与文本数据分域管理）；用户同意（采集前明确告知并取得同意，涉及生物特征需专门同意与合规评估）；生物特征合规（语音可能构成生物特征，需遵循专门的同意与处理规则）。通过数据最小化、脱敏、同意与审计满足隐私要求。
语音含生物特征与隐私内容。设计需覆盖录音留存、转写脱敏、用户同意与生物特征合规，并支持审计。
多模态输入（图片/音频）中的个人信息与敏感内容在传输、存储与缓存环节应如何合规处理？
多模态输入合规：传输（加密传输、避免明文过境）；存储（最小化留存、加密存储、分类分级、按保留期删除）；缓存（缓存按租户/权限隔离、对敏感内容不缓存或受限、脱敏）。图像/音频中的个人信息（人脸、生物特征、可识别内容）需识别并做脱敏、同意与访问控制。覆盖传输、存储与缓存全环节。
多模态含敏感内容，需全环节合规。传输加密、存储保护、缓存隔离 + 脱敏与同意。
并行工具调用的审计留痕：并发执行的副作用操作如何保证日志完整、可回滚与可追责？
并行工具调用需保证审计留痕完整：为每个并行调用分配唯一调用 ID，记录发起者、参数、时间、结果与关联会话；日志按顺序/时间戳完整记录，避免并发丢失；对副作用操作（写操作）记录操作与补偿信息，支持回滚；通过调用链与 trace 关联实现可追责。并发场景需用幂等与事务日志保证一致性。
并行调用易产生日志缺失与追责困难。用唯一 ID、完整顺序记录、补偿信息与 trace 关联保证可追责。
模型路由决策如何与合规要求联动（数据驻留、备案状态、行业资质）？合规路由规则的审计如何落地？
模型路由决策与合规联动：根据数据驻留（数据留在允许区域）、备案状态（该区域已备案）、行业资质（符合行业监管）选择模型；路由规则把合规条件作为硬约束，未满足即不路由到该模型。合规路由审计：记录每次路由决策的输入（区域、数据、模型合规状态）与结果，审计路由是否违反合规约束，定期复核路由规则与模型合规状态。
路由是"合规执行点"。把数据驻留、备案、资质作为路由硬约束，并用审计验证路由合规。
模型升级前后的合规能力回归：内容审核、数据驻留与备案状态变化如何纳入发布门禁？
模型升级前需做合规能力回归：验证新模型的内容审核能力（安全过滤、违规内容检测）不下降；数据驻留（新模型部署区域、数据路径）符合要求；备案状态（新版本是否仍备案、是否变更）核验。把合规回归结果纳入发布门禁：审核、驻留、备案不达标则不发布。升级后持续监控合规状态。
模型升级可能改变合规状况。把内容审核、驻留、备案纳入升级门禁，防止升级破坏合规。
美国 AI Executive Order、California SB 1047 等境外法规对出海 AI 应用的工程影响是什么？合规评估应如何开展？
美国 AI Executive Order 关注 AI 安全、公平与透明度，要求高风险 AI 评估与报告；California SB 1047 对大型前沿模型提出安全、测试与责任要求（如灾难性风险防护、安全协议）。出海 AI 应用需评估这些法规对其适用性（模型规模、业务范围、用户所在地），开展合规评估：识别适用的法规、评估模型风险与能力、落实安全测试、保持文档与审计，结合当地数据与隐私要求。
境外法规影响出海产品和模型安全责任。合规评估需识别适用法规、评估风险并落实安全与文档。
ISO/IEC 42001（AIMS）、ISO/IEC 23894 在企业 AI 治理中的工程落地：管理体系、风险评估与审计证据应如何组织？
ISO/IEC 42001 提供 AI 管理体系（AIMS）框架，要求建立 AI 治理政策、流程、职责与持续改进；ISO/IEC 23894 提供 AI 风险管理指南，指导风险识别、评估与缓解。工程落地：建立 AI 管理体系（政策、角色、流程）、执行风险评估（识别、评估、缓解、监控）、组织审计证据（政策文档、风险评估记录、控制措施、监控与整改记录）。两者结合支撑认证与审计。
42001 管"体系"，23894 管"风险"。两者结合，以体系承载治理、以证据支撑审计。
AI Bias（偏见）的工程检测：如何使用 Fairlearn、Aequitas 等工具检测偏见？
用 Fairlearn、Aequitas 等工具检测偏见：对模型输出按敏感属性（性别、种族、年龄等）分组评估公平性指标，如不同群体间的准确率差异、机会均等、统计均等；通过比较各组表现识别偏见；对检测出的偏见用再平衡、阈值调整、约束训练等缓解。工程上把偏见检测纳入评估流程，定期对模型与数据做公平性审计。
偏见检测是"按敏感属性分组评估 + 公平性指标 + 缓解"。把公平性纳入持续评估以事前预防。
AI Transparency（透明度）与 Explainability（可解释性）的工程实现是什么？
AI 透明度：向用户与监管披露 AI 的使用、能力、局限、数据来源与决策依据，包括生成内容标识、交互告知、模型卡等。可解释性：让模型的决策可理解，采用简单模型、特征重要性（SHAP/LIME）、决策路径展示、或对高风险场景提供解释。工程落地：在交互层提供披露与解释、在文档层维护模型卡与说明、在评估层验证解释质量，满足透明度与可解释合规。
透明度是"告知"，可解释性是"让决策可理解"。两者是合规与信任的基础，需在交互、文档、评估层落地。
AI 应用的隐私工程（DPIA、数据最小化）应如何落地？
AI 隐私工程落地：DPIA（数据保护影响评估）在开发前评估数据处理对隐私的影响，识别风险与缓解；数据最小化（只收集完成 AI 任务所需的最少数据，减少不必要字段）；隐私设计（privacy by design）把隐私要求嵌入架构（脱敏、加密、访问控制、保留期）。工程上建立 DPIA 流程、数据清单与最小化原则，持续评估与审计。
DPIA 管"事前评估"，最小化管"数据范围"，隐私设计管"嵌入架构"。三者构成隐私工程基础。
语义缓存（Semantic Caching）的合规风险：命中结果可能绕过内容审核与个性化授权，应如何设置审核与权限边界？
语义缓存通过语义相似度命中缓存，可能返回未经过内容审核的结果，或绕过个性化授权（不同用户权限不同却命中同一缓存）。合规风险：缓存结果未审核、跨权限返回。应对：缓存键纳入租户/权限维度，命中时校验当前用户权限与结果是否匹配；对缓存结果做内容审核（或缓存前审核）；对敏感/个性化内容不缓存或按权限分级缓存；缓存命中记录纳入审计。
语义缓存降低成本但可能绕过审核与授权。需权限边界 + 审核 + 审计，防止缓存引发合规问题。
实时语音（如 GPT-4o 实时语音、Pipecat 等 SDK 方案）上线前，端到端加密、用户同意与内容审核等合规要求应如何评估并纳入发布门禁？
实时语音上线前需评估：端到端加密（语音传输与存储加密，防止数据被窃听）；用户同意（采集语音前明确告知并取得同意，含生物特征合规）；内容审核（对实时语音内容做审核，过滤违规内容）；数据留存与脱敏（录音、转写最小化与脱敏）。把这些合规评估结果纳入发布门禁：未满足加密、同意、审核、留存要求不发布，并做合规回归。
实时语音涉及敏感数据与生物特征。上线门禁需覆盖加密、同意、审核与留存，确保合规。
