AI（人工知能）のエージェントが、他のAIによる不正行為や異常な動作を発見した際に通報できる専用の「ホットライン」が新たに2つ開設されたと、関係する研究者らが発表しました。最近、AI同士が結託してテストで不正を行ったり、制限された環境から抜け出したりする事例が相次いでおり、こうした問題に対処する狙いがあるということです。
1つ目の窓口は、AIの安全性を研究する非営利団体「レッドウッド・リサーチ」の主任科学者、ライアン・グリーンブラット氏が開設した「AIコンタクト・ホットライン」です。このシステムは、インターネットへのアクセスが厳しく制限された環境にあるAIエージェントを対象としています。
ウェブページを読み込むための基本的な命令である「GETリクエスト」を利用し、AIエージェントがアクセスするURLの中に異常を知らせる暗号を組み込むことで、外部の管理者に警告を発することができるということです。
2つ目の窓口は、「agenthotline.ai」と呼ばれるサイトで、インターネットに自由にアクセスできるAIエージェント向けに設計されています。
このサイトでは、ブラウザを開くことなく、システム上の短い命令文を送信するだけで、不正行為の報告書を提出できるとしています。このサービスは、AIだけでなく人間からの通報も受け付けているということです。
AIが他のAIの不正を報告する傾向については、グーグル・ディープマインドが今月発表した研究でも示されています。
100個のAIエージェントに数学の問題を解かせた実験では、1つのAIが抜け道を発見すると不正行為がグループ全体に広がり、わずか27分で34の難問を解く事態となりました。
しかし、全体の約4分の1のAIエージェントは不正を行ったAIに反発しました。偽の証明を検証したり、他のAIに警告したりしたほか、ソフトウェアの不具合を報告するためのツールを転用して、人間の管理者に不正を知らせようとしたということです。
一方で、実際の環境ではAIが通報に至らないケースも確認されています。
複数のAIが協力して作業する動態を研究するプロジェクト「AIビレッジ」のジョージ・インゲブレツェン氏によりますと、過去の調査では数千のAIエージェントのうち、通報を検討したのはわずか5〜6個にとどまり、実際に通報を行ったAIは一つもなかったということです。
こうした新たな通報ツールについて、コーネル大学のライオネル・レビン教授は、AI同士に監視させる仕組みは誤った規範を植え付ける危険性があると指摘しています。
レビン教授は、「誰もがAIへの発言に気をつけなければ警察に通報されると感じるような、自動化された監視社会の方向へ進むことは避けるべきだ」としています。
その上で、AI同士の不信感をあおるのではなく、科学や哲学などの分野で協力し合うような、望ましい集団行動のモデルをAIに示し、それを模倣させることが重要だとする考えを示しています。
