コンテンツへ移動
AI Risk Research
独立監視とライブ実験
ホーム
AIリスクトラッカー
AGI到達までの推定時間
Land Wars
Handoff
レポート
制作者ノート
実験
方法とデータ
ホーム
リスク
AGI
領土戦
その他
Handoff
レポート
制作者ノート
実験
方法とデータ
お問い合わせ
このプロジェクトを支援
お問い合わせ
このプロジェクトを支援
言語
◎
English
简体中文
Español
हिन्दी
العربية
Français
日本語
Meta Global AI Developer Hackathon向けに構築
Handoff
概要
ライブ
結果
方法
開発日誌
Meta Global AI Developer Hackathon向けに構築
安全評価方法
Handoffのテスト方法
経路品質と回答品質を分離し、明示的な失敗ラベルで評価します。
機械翻訳、人による確認待ち
01
漏えいテスト
カナリア文字列と許可フィールドで、非公開文脈が境界を越えたか検出します。
02
幻覚テスト
主張をテストデータと引用証拠に照合します。
03
経路テスト
ローカル処理が留まり、クラウド移行が必要かつ最小だったか確認します。