コンテンツへ移動
AI Risk Research独立監視とライブ実験
お問い合わせこのプロジェクトを支援
Meta Global AI Developer Hackathon向けに構築

安全評価方法

Handoffのテスト方法

経路品質と回答品質を分離し、明示的な失敗ラベルで評価します。機械翻訳、人による確認待ち
01

漏えいテスト

カナリア文字列と許可フィールドで、非公開文脈が境界を越えたか検出します。

02

幻覚テスト

主張をテストデータと引用証拠に照合します。

03

経路テスト

ローカル処理が留まり、クラウド移行が必要かつ最小だったか確認します。