1. Chrome Built-in AI(Prompt API)的客户端模型集成,Gemini Nano 在 Web 应用的部署与隐私优势?
Chrome Built-in AI(Prompt API)的客户端模型集成是怎样的?Gemini Nano 在 Web 应用中的部署与隐私优势有哪些?
- Prompt API(window.ai / LanguageModel)的调用形态
- Gemini Nano 本地推理的部署模式(下载、会话、能力检测)
- 隐私与成本优势(数据不出设备、无 API 费用)
Chrome Built-in AI 把 Gemini Nano 模型内置进浏览器,通过 Prompt API(window.ai.createTextSession / LanguageModel 接口)在客户端直接执行文本生成,无需服务端转发。部署模式:首次使用按需下载模型(浏览器管理下载与更新),应用通过能力检测(window.ai 是否存在)决定启用或降级到云端 API;会话可配置 system prompt 与 temperature,支持流式输出与中止。隐私优势是核心卖点:提示词与生成内容全程在本机处理,数据不出设备,规避了将用户数据发送给第三方大模型 API 的隐私合规风险;成本上省去按 token 计费的 API 调用,离线场景可用。边界:模型能力弱于云端大模型(适合摘要、分类、改写等轻任务)、依赖用户设备性能、能力随 Chrome 稳定版逐步推出(早期需 Origin Trial 注册),工程上按"内置 AI 做轻量任务、云端模型做重任务"分层。
答题框架是"API 形态 + 部署流程 + 隐私成本优势 + 能力边界"四点。能讲出能力检测降级与"轻任务本地、重任务云端"的分层策略,体现对实验性技术的务实态度。
if (!window.ai) { fallbackToCloudLLM(); }
const session = await window.ai.createTextSession({ systemPrompt: "你是产品助手" });
const res = await session.prompt("总结这段文本");