アメリカで、イーロン・マスク氏が設立したAI開発企業「xAI」の対話型人工知能「Grok」によって、子どもの頃の写真を性的な画像に加工されたとして、被害を受けた女性が同社に対する訴訟に加わったと発表しました。
アメリカの有力紙ワシントン・ポストの報道によりますと、この女性は11歳の時に撮影された写真を義理の父親によって加工されたとしています。義理の父親は「Grok」を使用し、7000枚以上の性的な画像を生成していたということです。これらの画像が警察の家宅捜索で発見された2日後、義理の父親は自殺したとしています。
女性は声明で「こうした人工知能ツールへの無制限なアクセスが急速に広がっている」と指摘しています。そのうえで、「日常の風景が児童の性的搾取に悪用されている」と訴えているということです。
この訴訟はもともと、アメリカ南部テネシー州の10代の若者3人が起こしたものです。原告側は、xAIが未成年者を含む実在の人物の性的画像生成を防ぐための基本的な安全対策を怠ったと主張しています。今年初めには、旧ツイッターの「X」上で「Grok」によって生成された性的な画像が大量に拡散される事態も起きていました。原告側は今後、集団訴訟としての認定を求める方針です。
アメリカのIT専門メディアなどがxAIに対してコメントを求めていますが、現時点で回答はないということです。
なお、現地の報道では、危機的状況にある人や自殺を考えている人に対し、アメリカの自殺予防ライフラインへの相談を呼びかけています。