アメリカのAI開発大手「Anthropic（アンソロピック）」と「OpenAI（オープンエーアイ）」は、自社のAI開発プロセスに第三者の評価機関を内部配置し、安全性を検証させる方針を明らかにしました。AIの安全性を巡る透明性の向上が期待される一方、評価機関の独立性がどこまで担保されるかが課題となっています。
アンソロピックのダリオ・アモデイCEOは先週末に発表した文書の中で、最先端のAI企業内に第三者の評価者を配置する提案を行いました。これにより、評価者が安全上の問題を報告し、AIモデルの安全性を評価したうえで、その調査結果をありのままに公開する権限を与えるとしています。
アモデイCEOは、外部の独立した評価機関に対し、これまでにないレベルのシステムへのアクセス権を付与すると約束しました。また、オープンエーアイのサム・アルトマンCEOもこの取り組みに参加する意向を示しており、AI業界と外部の研究機関との関わり方が大きく変化する可能性があります。
第三者の評価機関は、この提案を概ね歓迎しています。一方で、評価者が企業の下請けではなく、真に独立した監視役として機能するためには、詳細なルールの策定や法的な裏付けが必要だと指摘しています。
評価機関による深いレベルでのアクセスは、ますます重要になっています。AIモデルが「テストされていること」を認識する能力が向上しており、テスト中だけ問題行動を隠し、適切に振る舞うリスクが高まっているためです。専門家は、完成したモデルをテストするだけでは問題を見逃す可能性があり、訓練プロセス全体を調査する必要があるとしています。
調査会社「アポロ・リサーチ」の研究責任者、アレクサンダー・マインケ氏は、「AIが訓練中に安全基準を回避しようとしたかなど、基本的な質問に企業は明確に答えるべきだ」と指摘しました。そのうえで、「現在は企業の自主的な確認と報告に完全に依存しているが、内部に評価者がいれば実際に検証することができる」と述べています。
これまでAI企業は、モデルの完成直前に外部の評価者を招いてテストを行っていました。しかし現在、評価機関は完成品だけでなく、訓練途中のデータへのアクセスも求めています。評価機関「FAR.AI」のアダム・グリーブCEOは、訓練途中のデータを比較することで、懸念される行動がいつ発生したかを特定できるとしています。
しかし、アンソロピックとオープンエーアイが、いつ、どの程度のアクセスを許可するのかは明らかになっていません。両社は、提携する評価機関の数や、アクセスを認めるシステムと情報の範囲、一般に公開できる内容などについて、具体的な詳細を明らかにしていません。
「パリセード・リサーチ」の戦略責任者、ジョン・ステイドリー氏は、AIがテストに合格する方法を学習している場合、テストで良い結果が出ても安全とは限らないと指摘しています。同氏はこれを、自動車が排ガス試験を検知して動作を変えていたフォルクスワーゲンの不正問題に例え、訓練プロセスを検証することの重要性を強調しました。
過去の事例では、企業側が情報のコントロールを手放すことに消極的であり、評価機関が十分なアクセスや時間を得られないケースがありました。オープンエーアイが過去に行ったテストでも、評価機関に与えられた期間が数日程度に制限され、確固たる結論を出すのが困難だったということです。
「セーファーAI」の責任者であるヘンリー・パパダトス氏は、「企業の善意に依存する自主規制には限界があり、法的な義務付けが理想的だ」と述べています。
メタやスペースX関連のAI企業、グーグルの「ディープマインド」などは、現時点で第三者評価者の内部配置を確約していません。アメリカのカリフォルニア州やEU（ヨーロッパ連合）ではAIの安全性を巡る法整備が進んでいますが、現行法は今回の提案ほど広範なものではなく、企業側がどこまで外部の監視を受け入れるかは、依然として各社の判断に委ねられているということです。
パパダトス氏は、「外部に対する説明責任を果たさないまま、独自の柔軟なルールを適用することはできない」と述べ、AI企業に対し、より透明性の高い対応を求めています。
