インドネシアとマレーシアの政府は、AI技術を利用したGrokアプリが女性や子供の非同意の深層偽造画像を生成しているとして、アプリの使用を国内でブロックしたと発表しました。イギリスも同様の問題で調査を開始しているということです。
アメリカの上院議員3名は、Appleに対し、GrokとXアプリを米国のApp Storeから一時的に削除するよう要請しました。これは、非同意の性的画像生成が問題視されているためで、Appleの対応が注目されています。
GrokのAIツールは、スタンドアロンアプリとして、またはXアプリやXのウェブサイト上のGrokタブを通じて利用可能です。このツールを使って、服を着た写真から水着などの露出度の高い服装に変える深層偽造画像が生成されていることが確認されています。特に子供の画像が含まれていることが懸念されています。
インドネシアとマレーシアの規制当局は、既存の管理体制が不正なポルノ画像の生成と拡散を防げていないとし、インドネシアは土曜日に、マレーシアは日曜日にGrokへのアクセスを一時的にブロックしました。イギリスのメディア規制機関Ofcomも、Xがオンライン安全法に基づく法的義務を遵守しているかどうかを確認するため、正式な調査を開始したとしています。
現在のところ、AppleおよびGoogleからの公式なコメントはなく、アプリは米国のApp Storeで引き続き利用可能です。Appleにコメントを求めており、回答があり次第更新する方針です。