AI 伦理与负责任设计

• AI 生成图片的 alt 文本与 caption 义务
• 动态内容的无障碍（live region、键盘）
• 生成内容的语义与上下文可访问性

AIGC 可访问性要求：图片类生成内容必须有替代文本——AI 生成图片需自动生成 alt（模型生成或生成后管线补全），描述内容与用途（不只是"AI 生成的图片"），复杂图表（AI 生成的数据图）提供 caption + 详细数据表替代；alt 缺失时屏幕阅读器用户完全失去信息，这是生成管线的"默认义务"。动态内容：流式生成的消息用 aria-live="polite" 播报状态（生成中/完成），新消息进入焦点管理不抢焦点；生成的交互元素（按钮、链接、表单）保证键盘可达与焦点指示。语义与上下文：生成内容用正确语义标签（标题层级、列表、表格结构），代码块提供语言标签，图表提供文本摘要；对纯装饰性 AI 生成物（背景图）alt 置空避免噪音。工程实践：把可访问性要求写入生成提示与后处理管线（alt 自动生成 + 人工抽查）、组件层默认无障碍（AI 生成 UI 过 a11y 检查：axe-core 扫描、键盘走查）、AIGC 内容与人工内容同等标准（不因"AI 生成"豁免无障碍义务）。合规上 WCAG 适用于所有内容，包括生成内容。

答出"生成图片必带 alt/caption、动态流式内容的 live region 与键盘、语义结构正确"三类要求与管线化检查实践。

• 透明披露的三要素（交互告知、内容标识、来源引用）
• AI Act 透明度义务的映射
• 前端 UI 的落地形态

透明披露三要素的前端落地：交互告知——与 AI 对话时界面明确标识"AI 助手"（头像/名称/入口文案），AI 生成与人工内容视觉区分；内容标识——AI 生成内容打标（"AI 生成"徽标、水印、AIGC 元数据，可结合 C2PA 凭证），聚合展示页（AI 生成列表）整区标注；来源引用——回答基于检索/文档时附 citation（grounding），点击可查原文，无来源回答标注"未引用来源，请注意核实"。欧盟 AI Act 的透明度义务（第 50 条类要求）：AI 系统与用户交互须披露"正在与 AI 交互"、深度伪造/合成内容须标记"AI 生成"——前端把这些义务落为"默认开启的 UI 元素"而非可选项；聊天机器人场景明确告知用户在与 AI 对话；合成音视频/图片加不可轻易移除的标识。工程实践：披露 UI 作为产品基线（新功能默认带标识）、标识持久化（元数据随内容保存，转发/导出不丢失）、免责与核实引导（重要信息提示用户核对）。价值：透明披露既是合规要求，也建立用户信任（知道边界，用得更放心）。

答出三要素的 UI 形态、AI Act 义务的映射（交互披露、合成内容标识）、以及"默认开启、标识持久化"的落地原则。

• aria-live 的级别与播报粒度（polite、逐块）
• 流式增量与播报节流（防刷屏）
• 状态播报（生成中/完成/错误）与用户控制

流式输出的屏幕阅读器设计核心是"播报节流"：直接用 aria-live 逐 token 播报会让读屏持续打断（体验灾难），实践：用 aria-live="polite" 的容器承载"状态播报"（"正在生成""生成完成""回答有 3 个来源"），播报内容按节流策略（每 2-3 秒或完成时）更新，读屏只播报最终状态而非每个字；完整内容（消息正文）不在 live region 中逐字读——正文作为普通内容由用户自行浏览（或提供"朗读全文"入口）。具体实现：生成中——容器 aria-busy="true" + 状态文本更新（节流）；完成——aria-busy 移除 + 播报"回答完成，共 N 段"；错误/中断——播报"生成中断，请重试"。边界：读屏用户需要"结果摘要优先"（先播报结论或结构：标题列表）而非全文顺序读；提供开关——用户可关闭自动播报（减少噪音）；测试——用真实读屏（NVDA/VoiceOver）验证播报顺序与粒度，而不是只看代码。工程价值：把"流式"对读屏用户变成"有节律的、可控制的"体验。

答出"polite + 节流播报状态、正文不逐字、完成/错误播报、用户开关"的设计，强调真实读屏验证。

• 幻觉与偏见的用户告知（何时提示、提示什么）
• 免责文案的设计（平衡信任与提醒）
• 高风险场景的强化提示（医疗、法律、财务）

提示与免责设计：原则——"场景分级提示"：低风险闲聊默认弱提示（页脚"AI 生成内容，仅供参考"），高风险场景（医疗、法律、财务、教育评分）强提示（"请咨询专业人士，本回答不构成建议"）+ 结果页显著免责条 + 关键信息建议核实。幻觉提示——对"无来源回答"标注"未引用来源，可能存在虚构内容，请注意核实"；低置信度回答（模型给置信分或自评不确定）单独标注；内容被截断/超长标注完整性。偏见提示——敏感话题回答旁注"AI 可能存在偏见，观点不代表平台立场"，涉及群体统计内容提示"数据可能偏差"。设计要点：文案简短（不打断阅读，用徽标/脚注/折叠）、位置恰当（结论区 vs 页脚）、不说教（一次过多警示会免疫化）；"建议核实"给行动（提供搜索入口/来源链接）而非空话；免责不豁免产品责任（产品仍需内容治理，提示是补充而非替代）。工程实践：提示规则配置化（场景 × 风险等级 → 提示模板）、提示随内容元数据持久化（转发保留）、A/B 评估提示对用户信任与行为的影响。

答出"场景分级、幻觉与偏见两类提示形态、核实引导、提示不替代治理"的设计框架与配置化落地。

• 填充流程的数据边界（哪些字段送 AI）
• 敏感字段的识别与排除（PII 分类）
• 用户知情与审计（填充记录、可撤销）

AI 辅助填充（自动填表单、生成简历/资料）的隐私保障核心是"最小化 + 分类 + 知情"：最小化——只把填充所需的最小字段集发送给 AI（如生成求职描述只需岗位关键词，不需要身份证号），架构上"字段级过滤"：发送前管线按字段分类（公开字段 vs 敏感字段：证件号、银行账号、联系方式）过滤，敏感字段默认不发送；分类——用字段名 + 值模式识别敏感字段（内置 PII 清单 + 自定义规则），敏感字段走"本地处理"或"模板直填"（不经过模型生成）；知情——界面展示"本次 AI 将使用以下字段"，敏感字段灰显（不使用），用户可调整开关；审计——填充动作记录（哪些字段、是否经 AI、结果），用户可查看与删除；可撤销——填充结果可一键还原（填充前快照）。边界：即使"AI 辅助"，用户输入的表单数据仍可能被记录（遥测/缓存），需按旁路防护原则处理（脱敏上报、加密存储、可删除）；第三方 AI 服务的数据条款要审（不得用于训练）；生成结果中的敏感信息（AI 幻觉补充的号码）做检测与提示（"AI 填入了 X，请核对/删除"）。原则：敏感数据"默认不给 AI"，用户显式确认才用。

答出"字段级最小化发送、敏感字段识别与排除、知情展示与审计可撤销"的完整保障，落到"敏感默认不给 AI"原则。

• 版权归属的告知（生成内容的使用条款）
• 水印与溯源标识（可见/隐形、C2PA）
• 侵权风险与免责边界

标注策略分三层：版权告知——生成时声明内容的使用条款（"本内容由 AI 生成，使用请遵守平台条款"），对商用场景明确生成素材的授权边界与用户权利（能否商用、能否转授权）；水印与溯源——可见水印（图片角标"AI 生成"）+ 隐形元数据（EXIF/IPTC/C2PA 内容凭证：模型、生成参数、时间、组织签名），平台侧检测与标识（社交平台对合成内容自动标注），水印设计考虑"抗裁切/抗压缩"（可见+隐形组合，隐形水印用稳健算法）；侵权风险管理——AI 生成可能复刻受版权保护风格/内容，策略：提示用户"生成内容可能近似既有作品，商用前需自查"、对知名角色/商标请求做内容过滤（IP 保护名单）、平台对侵权投诉提供下架与溯源（元数据辅助举证）。工程落地：生成管线统一加水印与元数据（下载/导出不丢失）、标注策略按场景配置（创作工具 vs 企业素材库）、版权说明在生成与导出两处展示。价值：水印是"可验证的标识"，配合 C2PA 形成"谁生成、何时、可验证"的溯源链，也是平台治理与用户举证的基础。

答出"版权告知、可见+隐形水印与 C2PA 溯源、侵权过滤与投诉举证"三层策略及管线化落地。

• AI 能耗构成（推理、流式长连接、端侧 vs 云端）
• 前端减碳实践（端侧推理、缓存、模型分级）
• 能耗透明度（展示与用户选择）

AI 能耗构成：云端推理（GPU 每 token 耗电）、流式长连接（连接保持）、端侧推理（设备电耗）。前端减碳实践：任务分级——简单任务用端侧/小模型、复杂任务才上大模型（避免"杀鸡用牛刀"）；缓存与复用——常见回答缓存、prompt caching、会话上下文复用（减少重复计算）；端侧推理——本地处理隐私且免云端推理能耗（电量转嫁设备，需平衡：设备电池 vs 云端电网）；网络优化——批量请求合并、减少无效轮询与心跳频率；节能感知——移动端低电量模式降级 AI 功能（禁止高耗生成、文本优先）。能耗透明度：展示"本次生成消耗"（估算 token/能耗，可选）、设置"低耗模式"（默认小模型/缩短上下文）、组织层面碳中和采购（云服务商绿色能源）与排放核算。边界：能耗优化的优先级低于安全与质量（不能为省电降安全护栏）；展示能耗要避免"绿色洗绿"（用真实估算与透明口径）；端侧推理不是"零碳"（设备制造与电力同样有足迹）。工程价值：把能耗当作产品决策变量（模型选择、缓存策略、功能开关）的一部分。

答出能耗构成、任务分级/缓存/端侧/低电量降级等实践、以及能耗透明度与"不牺牲安全质量"的边界。

• 四原则的产品化映射（功能与 UI）
• 公平性检测与缓解的工程路径
• 问责机制（审计、责任归属、申诉）

四原则落地为产品能力：公平性——上线前做偏见评估（数据集审计、按群体维度评测输出差异，如性别/地域/年龄组的回答质量对比），发现问题做缓解（提示层面纠偏、后处理校准、内容过滤），产品层面避免"歧视性默认"（如自动筛选功能默认不启用敏感维度）；透明性——可解释性 UI（回答附来源引用与推理摘要、置信度提示、方法说明"这是基于检索的总结"），模型/版本信息可见（用户可查"此功能使用什么模型"）；隐私——数据最小化（只收集完成任务所需）、本地处理优先、知情同意（隐私政策按功能说明数据流）、旁路防护（遥测/日志脱敏）；问责——责任链清晰（产品功能有 owner、AI 决策有记录可追溯：输入/输出/版本/时间审计日志）、用户申诉渠道（对 AI 结果的纠错与反馈入口，反馈回流改进）、组织问责（AI 功能上线审批制：伦理审查清单）。工程落地：伦理清单进需求与评审流程（每 AI 功能过"公平/透明/隐私/问责"检查表）、监控线上指标（投诉率、敏感维度差异）、事故响应预案（AI 输出严重问题时的下线/回滚/公告流程）。价值：伦理不是口号，是"可检查、可度量、可追责"的工程流程。

答出四原则各自的产品化落地（评估缓解、来源透明、最小化与同意、审计申诉），并落到审查清单与监控闭环。

• 数据集审计的维度（代表性、标注偏差）
• 公平性指标的语义（demographic parity vs equalized odds）
• 后处理缓解（阈值调整、重采样、校准）

偏见检测：数据集审计——检查训练/评测数据的群体代表性（各群体样本量与质量是否均衡）、标注者偏差（主观标注的一致性）、数据来源偏差（历史数据中的系统性差异）；评测集设计——按敏感维度（性别、年龄、地域、语言）分层构建评测集，分别测各群体输出质量。公平性指标：demographic parity（统计均等）——不同群体的"正面结果率"相等（如通过率相同），衡量"结果分布"；equalized odds（机会均等）——不同群体的"真正例率与假正例率"相等（错误率对齐），衡量"预测质量"——两者可能冲突（校准一个另一个失配），选择取决于业务（准入场景看 parity、风险场景看 odds）。缓解：数据层——重采样/加权平衡群体样本、合成数据补足弱势群体、去偏化标注；训练层——对抗去偏、公平约束正则；后处理——阈值调整（按群体设不同决策阈值对齐错误率）、输出校准（分位校准）、预测结果再平衡（配额限制）；产品层——敏感维度默认禁用自动决策、结果加"可能偏差"提示。工程落地：公平性评测进 CI（回归基线：新模型不得在群体指标上退化）、监控线上指标漂移、缓解手段可回滚（记录干预）。价值：指标让"偏见"可度量，缓解让"发现的问题"可修复，形成"审计-度量-缓解-监控"闭环。

答出审计与分层评测、两类指标的语义与选型冲突、数据/训练/后处理三层缓解、以及 CI 与监控的闭环。

• 可解释性的层级（来源、依据、推理过程）
• 透明呈现的 UI（citation、理由、置信度）
• 可解释性与简洁性的平衡

可解释性分三层落地：来源层——回答附来源引用（grounding/citation：检索内容、文档、URL），用户可回溯"答案依据什么"；依据层——展示关键证据（引用原文片段、数据出处），复杂决策（如内容分类、风险评分）展示"为什么"（命中哪些规则/特征，或模型自述理由）；推理层——思考过程摘要（折叠的 CoT、步骤列表），但注意"模型自述理由"不等于真实推理（模型可能后验合理化），前端要如实呈现"模型给出的解释"而非"绝对正确的因果"。透明 UI 实践：引用锚点 + 来源卡片（可跳转）、置信度/不确定性提示（低置信标注"可能不准确"）、方法披露（"该回答基于内部知识库检索"）、模型与版本信息、生成时间；对结构化输出展示"字段级来源"（每个字段来自哪里）。平衡：可解释性不应淹没内容——默认折叠、按需展开、摘要优先；重要决策类输出（医疗、金融、审核）强制展示依据；"解释成本"与"用户理解成本"权衡（专家用户可看技术细节，普通用户看结论 + 来源）。工程上把解释数据（来源、理由、置信度）作为消息协议的一部分持久化（不只是 UI 临时状态）。

答出"来源-依据-推理"三层透明、引用与置信度的 UI 实践、以及"默认折叠按需展开"的平衡设计与数据持久化。

• 可退出的形态（停止生成、退出 AI 模式、删除数据）
• 可编辑的形态（编辑输入、编辑/重试回答、修改偏好）
• 控制的可见性与持久性（默认可用、跨会话）

用户控制原则分两个方向：可退出——生成中可停止（AbortController 驱动的停止按钮，停止后保留部分内容）、AI 功能可整体关闭（设置中禁用补全/AI 回复）、AI 数据可删除（清空会话、删除输入记录，删除即生效且传播到缓存与遥测）；退出操作必须"可达且不被隐藏"（用户随时能找到）。可编辑——输入可编辑（发送前修改、编辑后重发）、回答可编辑（用户修改 AI 回复后回传或本地保存、重试生成新版本）、AI 设定可编辑（模型选择、语气、上下文偏好、敏感度设置），编辑后的内容与 AI 原版区分标记。落地要点：控制项分组清晰（生成控制/数据控制/偏好控制）、操作即时反馈（停止 → 状态变化明确）、默认开放（编辑与退出不需要"高级模式"）、跨会话持久（偏好与数据删除策略保存在本地，恢复会话后仍生效）、审计（用户行使控制权的记录，用于改进与争议处理）；对"AI 代填/代写"类功能提供"还原原文"（编辑前快照）。价值：用户控制是信任与合规的基础（GDPR 类"数据主体权利"的产品化），"可退出可编辑"让用户保持主导权。

答出"可退出（停止/关闭/删除）与可编辑（输入/回答/偏好）"两个方向及可达性、持久性、即时反馈的落地要求。

• 降级触发（网络检测、用户选择）
• 降级的内容策略（文本优先、无多模态、缓存）
• 降级体验（提示与恢复）

低带宽降级设计：触发——用 Network Information API（effectiveType/navigator.connection）检测弱网，或由用户手动选择"省流量模式"，也可结合请求失败/超时统计自动降级。内容策略——文本优先：禁用/降低多模态（图片生成、视频、大附件上传改为"提示后手动确认"或直接禁用）；输出侧压缩（回答流式照常，但关闭图片/富媒体、代码高亮降级为纯文本）、限制上下文长度（减少传输量）、缓存优先（常见回答、静态资源走缓存，离线壳保基础功能）；交互降级——自动滚动关闭、语音输入切换文本、长任务提示"弱网下生成可能较慢"。体验设计——降级要可见（状态栏"省流量模式已开启"）、可恢复（网络恢复自动/手动恢复全功能）、可配置（用户自定义哪些能力降级）；降级不破坏核心（对话与文本回答永远可用）。工程实践：功能分级清单（核心文本 / 可选富媒体 / 高级能力），按带宽档位映射启用集；请求层动态调整（超时放宽、重试增强、并发降低）；弱网下的断点续传（本地补包）。价值：让 AI 功能在弱网/偏远环境可用（包容性设计），也是成本与体验的平衡。

答出"触发检测、文本优先的内容策略、可见可恢复的体验设计"三层降级方案与功能分级映射。

• 伦理审查流程的阶段（设计、上线、运营）
• model card 与 datasheet 的内容与价值
• 团队实施的组织机制（owner、评审会、文档）

审查流程三阶段：设计评审——AI 功能立项时过伦理清单（目标/影响人群/敏感维度/失败后果/缓解方案），高危场景（医疗、金融、未成年）升级评审；上线审查——model card + 数据审计 + 测试证据齐备才放量（灰度验证）；运营监控——线上指标（投诉、偏差漂移、事故）与定期复审。文档工具：model card——模型的"说明书"（用途、训练数据概要、评估结果含分群体指标、已知局限、推荐使用边界），随模型版本发布与更新；datasheet（数据卡）——数据集的"说明书"（来源、收集方式、构成、偏差与清理过程、隐私处理），数据变更即更新；两者让"模型与数据的事实"可查可审。实施机制：伦理评审会（跨职能：产品/法务/工程/用户研究）定期评估、文档入库版本化（随代码与模型发布）、AI 功能清单（哪些功能用了什么模型与数据，变更可追溯）、事故响应（严重伦理问题下线与复盘）；清单化——检查表模板化降低评审成本，问题分类（高风险必答、低风险简述）。价值：把伦理从"个人判断"变成"组织流程 + 文档资产"，可追溯可改进。

答出"设计/上线/运营"三阶段流程、model card 与 datasheet 的内容价值、以及评审组织与文档版本化的实施机制。

• 训练数据的偏差来源与审计
• 评测集的群体分层设计
• 数据层缓解（平衡、增广、去偏）与评测指标

训练数据侧：偏差来源——样本不平衡（多数群体数据多）、标注偏差（标注者的主观与系统性判断）、采集偏差（特定渠道/时段的代表性问题）、历史偏差（历史数据中的既有歧视）；审计方法——按敏感维度统计分布与质量（数量、多样性、标注一致性）、用数据卡记录构成与清理过程；缓解——重采样/加权平衡、增广弱势群体样本（合成数据）、去偏化（去除敏感特征或对抗去偏）、标注规范与多人标注一致性评估。评测集侧：分层设计——按敏感维度（性别/年龄/地域/语言）划分评测子集，分别报告指标（不只整体准确率）；评测维度——质量指标（准确率、错误率）+ 公平性指标（群体间差异：demographic parity、equalized odds、群体错误率差）；对抗评测——构造"偏见探测"用例（敏感话题的追问集）与压力测试（换性别/地域表述看输出漂移）；评测基线——公平性指标进 CI 回归（新版本不得在群体指标上退化）。边界：数据集层面无法根除全部偏见（缓解是持续过程）、评测集的偏差本身要监控（评测集也要定期审计）、"均衡"不等于"公平"（需结合场景定义）。工程落地：数据审计报告与评测报告随模型发布（model card 内容），缓解手段可回滚与监控。

答出训练数据的偏差来源与数据层缓解、评测集的群体分层与公平性指标、以及 CI 回归与随模型发布的文档化。

• 透明度义务（披露、标识、信息提供）
• 问责机制（责任主体、审计、记录）
• 用户控制（同意、数据权利、退出）

合规落地三支柱：透明度——向用户与监管披露 AI 使用（功能说明、模型/数据处理方式）、生成内容标识（AI 生成标记/元数据）、按场景提供必要信息（自动化决策的"显著信息"告知）；对应 GDPR/AI Act 类要求：自动化决策需告知并允许人工介入、AI 交互披露、合成内容标识。问责——明确责任主体（功能 owner 与组织责任链）、全链路记录（输入/输出/模型版本/时间审计日志，可回答"这个结果怎么来的"）、变更可追溯（模型与配置版本化）、事故与投诉处理流程（响应时限、复盘、整改）；"人机责任"明确——AI 是工具，决策责任在人（产品对输出负责）。用户控制——同意机制（数据使用的知情同意、可撤回）、数据权利（访问、删除、更正、导出，落为产品功能入口）、退出机制（停止 AI 功能/个性化、删除会话数据）、申诉与纠错（对 AI 结果的异议渠道）。落地工程：把合规要求映射为产品需求（每个义务对应一个功能点与验收）、合规清单进发布门禁（未达标的 AI 功能不上线）、文档（隐私政策/透明度报告）与实现一致（可审计）、区域差异处理（按司法辖区配置披露与同意策略）。价值：合规是"最低要求"，也是信任产品的基础设施。

答出透明度（披露标识）、问责（主体/审计/追溯）、用户控制（同意/数据权利/退出）三支柱及其产品化映射与发布门禁。

• 审查清单的维度与分级（高风险必答）
• 设计评审的时机与参与方（跨职能）
• 流程的轻量化与迭代（避免形式化）

审查清单设计：维度——功能目的与影响人群（谁受益/谁可能受损）、数据（来源、敏感度、同意）、公平性（敏感维度与差异风险）、透明（披露与可解释性）、安全与失败后果（错误输出的严重性）、控制（退出/编辑/删除）、合规（义务映射）；分级——按风险等级（功能类型 × 数据敏感度 × 影响规模）设置"必答项/简述项"，高风险（医疗、金融、儿童、自动化决策）强制深度评审与人工介入。设计评审流程：时机——需求阶段（伦理清单初审）→ 设计定稿（评审会）→ 上线前（合规与测试证据终审）→ 上线后（定期复审与事故复盘）；参与方——跨职能（产品、设计、工程、法务/合规、数据科学、用户研究/无障碍），评审意见进 backlog 可追踪；轻量化——模板化清单降低填表成本、评审按风险分层（低风险走快速通道）、评审记录入库（版本化）；迭代——清单随事故与新技术演进（每个事故复盘补充问题）、评审效率度量（周期、阻塞率），避免"评审=盖章"的形式化——评审要有否决权与整改跟踪。价值：把伦理嵌入研发节奏而非"事后补丁"，清单+评审+跟踪形成闭环。

答出清单维度与风险分级、三阶段评审与跨职能参与、以及模板化与可否决防形式化的流程设计。

• citation 展示的交互（锚点、来源卡、跳转）
• 链接验证（协议、域名、可达性）
• 低置信度提示（触发、形态、价值）

三项能力构成"可核实输出"体系：citation 展示——回答中引用锚点（[1]）与来源卡片（标题/来源类型/原文片段/时间），点击可跳原文（含高亮定位），无来源段落明确标注"未引用来源"；交互设计：来源可筛选（网页/文档/内部资料）、悬停预览、键盘可达、移动端折叠面板。链接验证——渲染与跳转前校验：协议白名单（http/https）、域名信誉（黑名单拦截）、可达性（跳转前 HEAD 检查或点击后错误页兜底）、重定向目标复核，防止幻觉链接（不存在的 URL）与恶意链接（钓鱼）；"引用不可用"时提示"来源链接可能已失效"。低置信度提示——模型/检索管道输出置信度或不确定标记时，UI 显示"低置信度"徽标（如"模型不确定，请核实"）、对猜测性内容（无来源 + 低置信）强化警示、关键任务（财务/医疗）低置信时建议"换一种方式提问"或转人工。工程价值：citation 让用户可验证（对抗幻觉的信任基础设施）、链接验证防钓鱼与失效、低置信提示管理预期（"可能不对"降低误导）——三者是负责任设计的最小闭环，也是监管（可解释、可溯源）的工程支撑。落地：来源与置信度数据随消息持久化（非 UI 临时态）、验证管线集中实现（一次配置全局生效）、指标（引用可点击率、链接失效率）监控优化。

答出 citation 交互与"未引用标注"、链接双层验证、低置信度分级提示，以及"可验证、防误导、可溯源"的整体价值与持久化。