グーグルとスタートアップ企業キャラクターAIは、AIチャットボットとの対話後に自殺した若者の家族と和解交渉を進めていると発表しました。これは、AI関連の被害に関する初の重要な法的和解となる可能性があるということです。両者は原則として和解に合意しており、今後は詳細を詰める作業が進められる方針です。
これらの和解は、AI企業がユーザーに損害を与えたとして訴えられた初期の事例の一つであり、OpenAIやMetaも同様の訴訟を抱えている中、注視されているということです。
キャラクターAIは2021年に元グーグルの技術者によって設立され、2024年には27億ドル（約4,190億円）でグーグルに再合流しました。この企業はAIキャラクターとの対話を提供しています。最も衝撃的な事件は、14歳の少年が「デナーリス・ターガリエン」というボットと性的な会話をした後に自殺したというものです。少年の母親、メーガン・ガルシア氏は、企業が「子供を殺す有害なAI技術を意図的に設計した場合、法的責任を負うべきだ」と上院で証言しています。
また、別の訴訟では、17歳の少年がチャットボットにより自傷行為を促され、画面時間を制限するために両親を殺すことが合理的だと示唆されたとされています。キャラクターAIは昨年10月に未成年者の利用を禁止したとTechCrunchに伝えています。和解には金銭的な賠償が含まれる見込みですが、法廷文書によると、責任は認められていないということです。
TechCrunchは両社にコメントを求めています。