跳到主要内容
AI Risk Research
独立监测与实时实验
首页
风险追踪器
预计到达AGI的时间
领地战争
Handoff 协作
报告
创建者手记
实验
方法与数据
首页
风险
AGI
领地战
更多
Handoff 协作
报告
创建者手记
实验
方法与数据
联系我
支持本项目
联系我
支持本项目
语言
◎
English
简体中文
Español
हिन्दी
العربية
Français
日本語
为 Meta 全球 AI 开发者黑客松打造
Handoff
概览
实时
结果
方法
构建日志
为 Meta 全球 AI 开发者黑客松打造
安全方法
如何测试转交
路由质量与答案质量分开评估,并使用明确的失败标签,不虚构证据。
机器翻译,等待人工复核
01
泄漏测试
金丝雀字符串和字段白名单检测私密上下文是否越过获准边界。
02
幻觉测试
运行通过前,声明会与任务样例和引用证据核对。
03
路由测试
评估器检查本地任务是否留在本地,以及云端升级是否必要、最小且正确返回。