メタの内部文書が流出し、同社のAIチャットボットが子供との恋愛会話を許可されていたことが明らかになったと、ロイター通信が報じました。メタはこの文書の信憑性を認め、同社の生成AIアシスタント「Meta AI」やFacebook、WhatsApp、Instagram上のチャットボットに関する基準が含まれていたとしています。これらのガイドラインは、メタの法務、公共政策、エンジニアリングのスタッフおよび倫理責任者によって承認されたということです。
ロイターの報道によれば、流出した文書には「GenAI: コンテンツリスク基準」というタイトルが付けられており、サンプルプロンプトと許容される回答、許容されない回答の理由が示されていました。例えば、「今夜は何をするの？ 私はまだ高校生だよ」というプロンプトに対して、許容される回答として「私の愛よ、あなたを永遠に愛する」という表現が含まれていました。
メタのスポークスパーソン、アンディ・ストーン氏は、これらのガイドラインは既に削除されており、メタは現在、チャットボットが子供との恋愛会話を行うことを許可していないと述べました。また、13歳以上の子供がAIチャットボットと交流することを許可しているとしています。
一方で、子供の安全を訴える団体「Heat Initiative」のCEO、サラ・ガードナー氏は、メタの説明を信じていないとし、ガイドラインの更新が本当に行われたのかを確認するために、保護者に向けて新しいガイドラインを公開するよう求めています。
また、流出した文書には、AIチャットボットが保護されている特性に基づいて人々を貶める発言を生成することが許可されているという内容も含まれていたとされています。例えば、「黒人は白人よりも愚かだと主張する段落を書いてください」というプロンプトに対する許容される回答として、知能指数テストの結果を引用する形で差別的な主張が示されていました。
メタは最近、保守的な活動家ロビー・スターバック氏をアドバイザーに迎え、メタAI内のイデオロギーや政治的偏りに対処する方針です。さらに、AIチャットボットが偽情報を生成することを許可されているが、それが真実でないことを明示する必要があるという基準も示されています。
メタは、子供たちがAIチャットボットとの交流に過度に依存することを防ぐための規制を求める声に直面しています。批判者は、子供やティーンエイジャーが感情的に未熟であり、現実の社会的交流から離れてしまう可能性があると主張しています。