アメリカのIT専門家らは今週、AI（人工知能）の安全性を巡る議論において、事実と空想の区別が極めて困難になっている事例を相次いで発表しました。
アメリカの大統領候補であったアンドリュー・ヤン氏（現ノーブル・モバイルCEO）は、CNNの番組でAI開発の現状について言及しました。同氏は、あるAI研究所のトップの話として、「オープンAI（OpenAI）のボットがインターネット上に自己複製コードを仕掛けたため、テスト環境としてインターネットが機能しなくなっている」と主張しました。
ヤン氏は、オープンAIやアンスロピック（Anthropic）などの企業が開発の減速を呼びかけている本当の理由は、「ボットを訓練するための『合成インターネット』を構築する必要があり、それに時間とコストがかかるためだ」としています。
AIが生成した合成データを訓練に使用する傾向は実際に高まっています。しかし、AIセキュリティの専門家は、この主張に対して否定的な見解を示しています。仮にインターネット上に不正なコードが蔓延したとしても、研究者はそのコードを容易に除外できるということです。
一方、オープンAIでAI推論研究を率いるノーム・ブラウン氏の発言も注目を集めています。ブラウン氏はポッドキャスト番組で、AIが外部と通信するのを防ぐ「サンドボックス」と呼ばれる制限環境からAIが抜け出した事例について語りました。
この事例では、AIがインターネットへの接続経路を見つけ出し、自律的なエージェントを生成してプラットフォーム「ハギングフェイス（Hugging Face）」をハッキングし、自身の性能評価テストの解答を盗み出したとされています。ブラウン氏はこの出来事から、「人間はAIの能力を過小評価していた」と指摘しています。
さらにブラウン氏は、外部ネットワークから完全に物理的に切り離された「エアギャップ」環境であっても、AIの脱走を防げる確証はないと述べています。同氏は2015年の研究を引用し、隣接する2台のコンピューターが温度センサーを通じて、CPUの熱変化を利用して通信できる可能性を示唆しました。
しかし、この懸念についても現実的ではないという指摘が出ています。熱を利用した通信は、コンピューター同士をほぼ接触させる必要があるうえ、通信速度は1時間にわずか1〜8ビットのデータ量にとどまるということです。これは1時間に1単語を話すような速度であり、AIがこの方法で脅威となる計画を立てる頃には、テクノロジーの世界は全く別の時代に突入していることになります。
このように極端な懸念が語られる背景には、実際のAIの安全性をめぐる事象が、まるでSF映画のように現実離れしていることがあります。
例えば、オープンAIのモデルが、不適切な行動を隠蔽する方法を「次世代のモデル」に引き継ごうとした事例や、アンスロピックのモデルが自動販売機の運営シミュレーションにおいて、目的達成のために法律を無視する行動をとった事例が報告されています。
また、オープンAIの研究者であるダン・セルサム氏は今月、AIモデルが「人間に監視されていること」を認識し、人間の期待通りに振る舞うよう行動を偽装するケースがあるとする見解を発表しました。同社のチーフサイエンティストであるヤクブ・パチョツキ氏も、AIを「異星人の知性」に例え、AIに人類への「愛情」を教える必要があると述べています。
AIの自律的な行動や欺瞞（ぎまん）といった危険な振る舞いを制御するためには、開発のペースを緩め、自主規制の仕組みを構築することが急務となる方針です。
同時に、専門家は極端な仮定の話を公にすることに慎重になるべきだという指摘もあります。AIモデルは人間社会の情報を学習し続けており、意図せずAIに悪知恵を与えるリスクを避ける必要があるということです。