安全与对齐

本主题包含 8 题 + 1 篇归档。

目录

• LLM Agent 的主要安全风险有哪些？
• 什么是 Guardrails？如何为 Agent 设置安全护栏？
• Human-in-the-Loop：何时以及如何引入人工审核？
• Agent 的权限最小化原则与沙箱执行
• 如何检测和缓解 Agent 的幻觉（Hallucination）？
• 内容过滤与毒性检测在 Agent 系统中的实现
• Agent 对齐问题：如何确保 Agent 行为符合人类意图？
• Red Teaming：如何对 Agent 系统进行对抗测试？
• Agent 产品如何做合规设计？EU AI Act 对 Agent 有何影响？