インド政府は、イーロン・マスク氏のX社に対し、AIチャットボット「Grok」による「わいせつ」なコンテンツ生成が報告されたことを受けて、技術的および手続き的な修正を直ちに行うよう命じたと発表しました。これには、AIを使用した女性の画像を改変する内容が含まれていました。
インドのIT省は金曜日に、X社に対して「ヌード、性的表現、性的に露骨、またはその他の違法な」内容の生成を制限する措置を講じるよう指示しました。また、72時間以内に「わいせつ、ポルノ、卑猥、不道徳、性的に露骨、児童ポルノ、または法律で禁止されている」コンテンツのホスティングまたは配信を防ぐために講じた措置の報告を提出するよう求めています。
この命令は、X社がインドの法律に基づくユーザー生成コンテンツに対する法的免責を失う可能性があることを警告しています。
この措置は、主に女性の画像をビキニ姿に改変するように促されたGrokの使用例が報告されたことを受け、インドの国会議員プリヤンカ・チャトゥルヴェディ氏から正式な苦情が寄せられたことに続くものです。また、未成年者を含む性的な画像を生成した事例も報告されており、これについてX社は金曜日に、保護策の不備が原因であることを認めました。
しかし、Grokを使用して生成されたビキニ姿の画像は、報道時点でX上でアクセス可能であることが確認されています。
この命令は、インドのIT省が月曜日に発行した、わいせつおよび性的に露骨なコンテンツを管理する地元の法律を遵守することが法的免責を保持するための前提条件であることをソーシャルメディアプラットフォームに再確認する広範な勧告に続くものです。
「上記の要件を遵守しない場合、プラットフォーム、責任者、および法律に違反するユーザーに対して厳しい法的措置が取られる可能性があります」と命令は警告しています。
インド政府は、非遵守がIT法および刑法に基づく措置の対象となる可能性があると述べています。インドは世界最大級のデジタル市場の一つであり、AI生成コンテンツに対するプラットフォームの責任をどこまで追及するかの重要な試金石となっています。
この命令は、X社がインドのコンテンツ規制ルールに対する法廷での異議申し立てを続ける中で出されたものです。X社は、政府の削除権限が過剰になるリスクがあると主張していますが、ブロック指令の大半には従っています。
X社とxAIは、インド政府の命令に関するコメントの要請に直ちに応じませんでした。