# 1. 私有化 LLM 部署的形态,纯软件包(Ollama/vLLM/llama.cpp)、一体机(DGX/HGX)、混合云三类的工程取舍? A 纯软件包灵活成本低但依赖客户硬件与运维,一体机开箱即用但贵,混合云兼顾合规与弹性,按需求取舍 ✓ 正确答案 B 一体机最便宜,任何场景都应选 C 混合云无法满足数据不出域 D 三种形态部署效果完全相同,无需选择
# 2. 国产开源模型(Qwen、DeepSeek、GLM、Baichuan、Hunyuan)在私有化场景的选型,能力、中文、工具链、合规生态? A 只看 benchmark 分数即可,无需关注部署与合规 B 所有国产模型能力完全相同 C 需从能力、中文、工具链(推理/微调/国产芯片)、合规生态四维评估,并结合自有评测集 ✓ 正确答案 D 中文能力与选型无关
# 3. 模型许可证合规,Qwen/DeepSeek/GLM 的商用条款、衍生作品义务、再分发限制? A 所有国产模型许可证完全相同,可统一按 Apache 处理 B 微调后的模型无需遵守原许可证 C 需逐版本核对许可证(Qwen Apache 2.0、DeepSeek MIT 等),明确商用、衍生作品与再分发义务 ✓ 正确答案 D 再分发无需考虑许可证
# 4. 私有化部署的交付清单,模型、推理服务、数据、运维与升级如何打包? A 只需交付模型权重即可,服务由客户自己搞定 B 交付物无需版本化与校验 C 交付清单含模型、推理服务、数据、运维与升级包,版本化打包并支持回滚 ✓ 正确答案 D 升级不需要回滚包
# 5. 离线交付链路,air-gapped 环境下模型权重、依赖镜像与升级包的传递、哈希与签名校验如何设计? A 直接拷贝文件即可,无需哈希与签名校验 B 交付物逐个做哈希校验并数字签名,客户验签后导入,防篡改防伪造 ✓ 正确答案 C 数字签名只防误删,不防篡改 D 离线环境无需考虑安全校验
# 6. 客户侧验收评测,如何在客户数据上构建评测集与基线,避免演示集过拟合与验收争议? A 用演示数据评测即可,无需客户真实数据 B 用客户真实数据构建评测集、建立量化基线,透明口径并抽样人工复核,避免过拟合与争议 ✓ 正确答案 C 验收标准由系统方单方面定,无需客户确认 D 评测记录无需保留,无法复现也没关系
# 7. 私有化场景的网络隔离方案,air-gapped 部署、离线模型更新、向量库迁移的工程挑战? A 隔离环境可在线拉取依赖,无需特殊处理 B air-gapped 需介质传递+内网镜像,离线更新需校验与回滚,向量库迁移需版本对齐与数据校验 ✓ 正确答案 C 向量库迁移只需复制文件即可 D 离线模型更新无需兼容性评估
# 8. 私有化环境(内网/信创 GPU)的模型兼容与性能压测如何做? A 只需在开发机压测,无需在客户硬件上验证 B 压测无需覆盖真实负载分布 C 信创 GPU 与 N 卡算子完全兼容,无需验证 D 需在目标(信创)硬件上验证算子/精度兼容,并压测 TTFT/吞吐/并发/显存,定位瓶颈 ✓ 正确答案
# 9. 私有化交付的 License、订阅与安全审计(日志/模型文件保护)如何设计? A License 无需绑定硬件,可随意复制 B 审计日志无需防篡改 C 模型文件可明文存放,无需保护 D 用机器指纹+签名做离线授权防复制,日志防篡改与模型文件加密防泄露,形成商业与安全闭环 ✓ 正确答案
# 10. 私有化交付的验收清单,安装部署、数据初始化、性能压测与安全基线应包含哪些项? A 验收只需看服务能启动即可 B 性能与安全基线无需纳入验收 C 验收清单覆盖安装部署、数据初始化、性能压测与安全基线,逐项留证据并由双方确认 ✓ 正确答案 D 验收无需证据,口头确认即可
# 11. 私有化交付的验收与 SLA,性能基准(TTFT/吞吐)、稳定性压测与安全基线如何写入交付清单与验收流程? A SLA 只需口头承诺,无需量化 B 安全基线不参与验收 C 稳定性压测可选做,不影响验收 D 性能基准(TTFT/吞吐)、稳定性压测与安全基线都应量化为可测阈值,写入交付清单并按流程验收 ✓ 正确答案
# 12. 远程运维通道,内网部署的远程诊断、日志回传与安全通道如何设计,远程与现场支持如何分工? A 远程运维可随意直连内网,无需认证与审计 B 远程支持应处理所有问题,包括硬件故障 C 日志应全量明文回传,便于分析 D 经授权 VPN/跳板机+多因素认证+审计做远程诊断,日志脱敏加密回传,远程与现场按边界分工 ✓ 正确答案
# 13. 信创(国产芯片+OS+数据库)全栈下的 LLM 推理适配,昇腾/海光/寒武纪/天数等硬件支持现状? A 国产芯片算子与 N 卡完全兼容,可直接运行 B 信创适配与 OS 和数据库无关 C 只需适配昇腾,其他芯片无需考虑 D 昇腾/海光/寒武纪/天数等生态成熟度不一,需逐模型逐算子验证、精度回归与全栈(OS/数据库)适配 ✓ 正确答案
# 14. 私有化模型的选择,许可证、数据合规与定制能力应如何评估 A 只要有开源许可证即可,无需看数据合规 B 需评估许可证(商用/再分发)、数据合规(不出域/隐私)与定制能力(微调/领域适配),综合选择 ✓ 正确答案 C 模型定制能力无所谓,直接用原版即可 D 数据合规与私有化部署无关
# 15. 私有化交付的运维,模型版本、监控告警与升级回滚应如何管理 A 模型版本管理、分层监控告警与灰度升级回滚需结合,并保证多组件升级一致性 ✓ 正确答案 B 模型升级可一次性全量,无需回滚预案 C 监控只需看 GPU 利用率,无需看服务指标 D 升级失败无需回滚,重启即可
# 16. 私有化的性能,单机/多机推理的吞吐与显存规模如何估算,瓶颈如何定位 A 显存只算模型权重,与 KV cache 和并发无关 B 显存需算权重+KV cache+激活,吞吐受算力/带宽限制,多机扩展受通信开销影响,瓶颈需分类定位 ✓ 正确答案 C 多机吞吐随卡数线性增长,无通信开销 D 瓶颈定位无需 profiling 工具
# 17. 私有化与 SaaS 的边界,数据不出域的要求? A 私有化把系统部署在客户域内,满足"数据不出域",且需覆盖数据、日志、模型、密钥等全链路 ✓ 正确答案 B 私有化与 SaaS 只是部署位置不同,数据合规要求相同 C 数据不出域只指业务数据,日志可随意外传 D 私有化部署数据仍可放厂商云
# 18. 私有化的运维,GPU 监控、模型更新与回滚? A 模型更新可全量直接发布,无需回滚预案 B GPU 监控覆盖利用率/显存/温度并关联服务,模型更新走灰度验证、回滚保证多组件一致 ✓ 正确答案 C GPU 监控只需看利用率,无需看温度与显存 D 回滚只需换模型文件,其他组件无需处理
# 19. 私有化环境的模型更新策略,模型版本升级的灰度、回滚与数据迁移(向量库/缓存)? A 模型升级只换权重,与向量库和缓存无关 B 回滚无需恢复旧索引 C 灰度升级不需要验证,直接全量即可 D 升级走灰度与回滚,embedding/tokenizer 变化时需重建向量库索引并失效缓存,保证数据一致 ✓ 正确答案
# 20. 多租户资源隔离,多部门共用私有化集群时显存、队列与数据如何隔离,配额如何管理? A 多部门可共享同一显存池,无需隔离 B 用多实例/GPU 分区隔离显存、独立队列调度、数据 namespace 隔离,并按部门设配额防超限 ✓ 正确答案 C 数据隔离与资源隔离无关 D 配额管理无需限制,部门可随意使用