グーグルは、アメリカの上院議員からAIモデル「ジェンマ」が中傷を行ったとの指摘を受け、AIスタジオからこのモデルを削除したと発表しました。
テネシー州の共和党上院議員マーシャ・ブラックバーン氏は、グーグルのCEOサンダー・ピチャイ氏に宛てた書簡で、「マーシャ・ブラックバーンがレイプで告発されたことがあるか」と質問された際、ジェンマが1987年の州上院選挙中にブラックバーン氏が州警官に対し処方薬を入手するよう圧力をかけ、同意のない行為があったと誤って主張したと述べました。
ブラックバーン氏は「これらは全て事実無根であり、選挙年も実際には1998年だった」と書いています。また、これを裏付けるニュース記事のリンクが存在するとされているが、それらはエラーページや無関係なニュース記事に繋がっていると指摘しました。
また、最近の上院商務委員会の公聴会で、ブラックバーン氏は保守派活動家ロビー・スターバック氏がグーグルを訴えた件についても言及しました。スターバック氏は、グーグルのAIモデル（ジェンマを含む）が彼を「児童強姦犯」や「連続性的虐待者」として中傷したと主張しています。
ブラックバーン氏の書簡によれば、グーグルの政府関係および公共政策担当副社長マーカム・エリクソン氏は、幻覚は既知の問題であり、グーグルはその軽減に努めていると述べたということです。
ブラックバーン氏は、ジェンマの誤情報は「無害な『幻覚』ではなく、グーグル所有のAIモデルによって生成・配信された中傷行為である」と主張しました。
ドナルド・トランプ前大統領の技術産業支持者たちは「AI検閲」が人気のチャットボットにリベラルな偏見を示す原因になっていると不満を述べ、トランプ氏は今年初めに「目覚めたAI」を禁止する大統領令に署名しました。
ブラックバーン氏はトランプ政権の技術政策を常に支持してきたわけではありませんが、彼女の書簡では「グーグルのAIシステムによって保守的な人物に対する一貫した偏見のパターンが示されている」と述べています。
金曜日の夜、Xに投稿されたグーグルの声明では、ブラックバーン氏の書簡の詳細には触れず、「開発者以外の人々がAIスタジオでジェンマを使用し、事実に関する質問をしているという報告を見た」と述べました。
「これは消費者向けのツールやモデルとして、またこのように使用されることを意図していなかった」としています。グーグルは、ジェンマをAIスタジオから削除し、API経由でモデルを引き続き提供する方針です。
テッククランチは、グーグルに追加のコメントを求めています。