智能体安全

将火山方舟 Agent 的长期规则写入 Instructions，只开放必要 Tools，并用 always_ask 控制高风险工具。

Manus 卡在登录或验证码时，按云端浏览器接管、人工验证、交回控制处理；区分 Cloud Browser 与本地 Operator，并用只读文档任务核对恢复是否成功。

调用 OpenAI Moderation 检查文本和图片，把 flagged 与分类结果映射到放行、拦截和人工复核。

区分智能体系统指令与知识库资料，给出提示词注入样例及权限边界测试。

想搭建一个可用的 aiagent靶场，核心不是把模型接上工具就算完成，而是要构造一个隔离环境、可控数据、可观测日志、可复现攻击路径的测试系统。适合的做法是：先用本地或私有环境部署一个带工具调用能力的智能体，再准备一组模拟业务任务和风险样本，最后通过提示注入、越权调用、敏感信息泄露、工具滥用等场景验证防护效果。这样既能训练团队，也能在上线前发现真实风险。 一、…