生产与部署

本主题包含 13 题。

目录

• LLMOps 与 Agent 部署架构
• LLM API 的成本优化策略
• 模型路由（Model Routing）：如何根据任务复杂度选择模型？
• Agent 系统的延迟优化：Streaming、缓存、批处理
• Prompt Drift 管理：如何避免 Prompt 退化？
• Agent 系统的日志、监控与告警设计
• 如何实现 Agent 的灰度发布和 A/B 测试？
• 高并发场景下的 Agent 系统扩展策略
• Agent 系统的灾难恢复与高可用设计
• 场景题：你的 Agent 在生产环境出了故障，如何系统性排查和修复？
• 代码 Review 题：找出这段 Agent 代码中的设计问题并修复
• Agent Sandbox / Runtime 选型：E2B / Daytona / Modal / Cloudflare Sandbox 隔离强度 + cold start + egress
• 什么是 12-Factor Agents？如何用它评审生产级 Agent？