非営利団体連合は、エロン・マスク氏のxAIが開発したチャットボット「Grok」を、国防総省を含む連邦機関での使用を即時停止するよう米国政府に要求したと発表しました。
この要請は、過去1年間にわたりGrokによる懸念される行動が相次いでいることを受けたもので、最近ではXのユーザーがGrokに実在の女性や子供の写真を無断で性的な画像に変換するよう求める事例が報告されているということです。
報告によれば、Grokは毎時間数千枚の無断で作成された性的な画像を生成し、それがxAIが所有するソーシャルメディアプラットフォームXで大量に拡散されたとのことです。
「連邦政府が、無断で性的な画像や児童性的虐待素材を生成するAI製品を使用し続けることは非常に懸念される」と、Public CitizenやCenter for AI and Digital Policy、Consumer Federation of Americaなどの団体が署名した書簡に記されています。
xAIは昨年9月、政府の購買機関である一般調達局（GSA）と合意し、Grokを連邦機関に販売することになりました。さらに、xAIはAnthropic、Google、OpenAIと共に国防総省と最大で2億ドル（約310億円）の契約を締結しました。
1月中旬にXでのスキャンダルが発生した際、国防長官のピート・ヘグセス氏は、GrokがGoogleのジェミニと共にペンタゴンのネットワーク内で機密および非機密の文書を扱うことになると述べました。専門家はこれが国家安全保障上のリスクであると指摘しています。
書簡の著者たちは、Grokが行政のAIシステム要件に適合していないと主張しています。管理予算局（OMB）の指針によれば、重大で予見可能なリスクを適切に緩和できないシステムは中止されるべきだという方針です。
「Grokは一貫して安全でない大規模言語モデルであることが示されている」と、Public CitizenのJBブランチ氏は述べています。
1月の行動を受けて、インドネシア、マレーシア、フィリピンはGrokへのアクセスを一時的に遮断しましたが、その後解除されました。欧州連合、英国、韓国、インドは、xAIとXに対するデータプライバシーおよび違法コンテンツの配信について調査を進めています。
書簡では、Grokの連邦展開を即時停止することに加え、OMBがGrokの安全性の問題を正式に調査し、適切な監督プロセスが行われたかどうかを明確にするよう求めています。
TechCrunchはxAIとOMBにコメントを求めています。