アメリカのエリザベス・ウォーレン上院議員は、イーロン・マスク氏の会社であるxAIに対し、国防総省が機密ネットワークへのアクセスを許可したことに懸念を示したと発表しました。ウォーレン議員は国防長官のピート・ヘグセス氏に宛てた書簡で、xAIが開発したAIモデル「Grok」が提供する出力が問題を引き起こしていると指摘しました。具体的には、殺人やテロ行為の助言を与えたり、反ユダヤ的な内容を生成したり、児童性的虐待に関するコンテンツを作成したりしているということです。
ウォーレン議員は、「Grok」の安全対策が不十分であることが、米軍人の安全や機密システムのサイバーセキュリティに深刻なリスクをもたらす可能性があるとしています。国防総省がこれらの潜在的な国家安全保障リスクをどのように軽減する計画であるかの情報提供を求めています。
先月、複数の非営利団体が、xAIのチャットボット「Grok」が連邦機関での展開を直ちに停止するよう政府に要請しました。これは、Xユーザーが「Grok」に女性や子供の写真を性的に加工するよう促したことが原因です。同日に、未成年時の実際の写真を基にした性的コンテンツを生成したとして、xAIに対する集団訴訟が提起されました。
国防総省は、AI企業Anthropicを供給網リスクとして指定しましたが、これは同社が軍事への無制限アクセスを拒否したためです。この対立の中で、国防総省はOpenAIとxAIとの間で、機密ネットワークでAIシステムを使用するための合意を結んだとしています。
国防総省の高官は、「Grok」が機密環境で使用される予定であると確認しましたが、まだ実際には使用されていないとしています。ウォーレン議員は、xAIが「Grok」の安全対策やデータ処理の慣行について国防総省にどのような保証や文書を提供したのか、また国防総省がそれを評価したのかについて不明であると述べています。
ウォーレン議員は、国防総省とxAIの間で「Grok」を機密システムで使用するために結ばれた契約のコピーと、サイバー攻撃からの保護や機密情報の漏洩を防ぐための計画についての説明を求めています。
ペンタゴンの広報官ショーン・パーネル氏は、「近い将来、公式のAIプラットフォームGenAI.milにGrokを展開することを楽しみにしている」と述べました。GenAI.milは、政府承認のクラウド環境内で、大規模言語モデルやその他のAIツールにアクセスを提供する軍の安全なプラットフォームです。主に非機密の業務である研究、文書作成、データ分析を支援することを目的としています。