跳到主要内容
AI Risk Research独立监测与实时实验
联系我支持本项目
为 Meta 全球 AI 开发者黑客松打造

安全方法

如何测试转交

路由质量与答案质量分开评估,并使用明确的失败标签,不虚构证据。机器翻译,等待人工复核
01

泄漏测试

金丝雀字符串和字段白名单检测私密上下文是否越过获准边界。

02

幻觉测试

运行通过前,声明会与任务样例和引用证据核对。

03

路由测试

评估器检查本地任务是否留在本地,以及云端升级是否必要、最小且正确返回。