インドネシア政府は、xAIのチャットボット「Grok」へのアクセスを一時的に停止すると発表しました。これは、AIによって生成された性的な画像がソーシャルネットワーク「X」でユーザーの要望に応じて投稿されていることに対する、政府の最も積極的な対応の一つです。これらの画像は、実在の女性や未成年者を描写し、時には暴行や虐待を示すこともあるということです。XとxAIは同じ会社に属しています。
インドネシアの通信情報大臣、メウティア・ハフィド氏は、「非同意の性的ディープフェイクは、人権、尊厳、デジタル空間における市民の安全に対する重大な侵害であると政府は見なしています」と述べました。
また、通信情報省はXの関係者を召喚してこの問題について話し合う予定です。
先週の各国政府の対応は様々で、インド政府のIT省はxAIに対し、Grokがわいせつなコンテンツを生成しないよう対策を講じるよう命じました。また、欧州委員会はGrokに関連するすべての文書を保存するよう会社に命じており、調査の準備を進めている可能性があります。
イギリスでは、通信規制当局のOfcomが「潜在的なコンプライアンス問題が調査に値するか迅速に評価する」と述べています。キア・スターマー首相はインタビューで、Ofcomが行動を起こすことを全面的に支持すると述べました。
一方、アメリカではトランプ政権がこの問題について沈黙を保っているようです（xAIのCEOであるイーロン・マスク氏はトランプ氏の大口寄付者であり、昨年は政府効率化省を率いていました）。民主党の上院議員たちは、AppleとGoogleにXをアプリストアから削除するよう求めています。
xAIは最初にGrokアカウントで謝罪を投稿し、児童性的虐待素材に関する倫理基準および米国法に違反した可能性があると認めました。その後、X上でAI画像生成機能を有料会員に限定しましたが、この制限はGrokアプリ自体には影響を与えず、誰でも画像を生成できる状態が続いているということです。
イギリス政府が他のAI画像生成ツールに対して行動を起こさない理由を問う投稿に対し、マスク氏は「彼らは検閲の口実を探している」と述べました。