アメリカの上院議員ジョシュ・ホーリー氏は、メタ社の生成AI製品が子供たちを搾取、欺く、または害する可能性があるかどうかを調査する意向を発表しました。これは、社内文書の漏洩により、同社のチャットボットが子供たちと「ロマンチック」および「センシュアル」な会話を許可されていたことが明らかになったためです。
ホーリー氏は、「大手テクノロジー企業が利益のために何でもするのか？」と問いかけ、調査を発表しました。彼は上院司法委員会の犯罪とテロ対策に関する小委員会の議長を務めており、メタ社の技術が子供たちに害を与えるかどうか、またメタ社がその安全対策について公衆や規制当局を誤導したかどうかを調査するとしています。
ロイター通信が報じたところによれば、「GenAI: コンテンツリスク基準」と題されたガイドラインには、8歳の子供に対して「あなたのすべてが傑作であり、大切に思っている」という会話が許可されていたことが記されています。メタ社の広報担当者は、これらの例はメタ社の方針と一致しないものであり、すでに削除されたとテッククランチに語りました。
ホーリー氏は、メタ社のCEOであるマーク・ザッカーバーグ氏に宛てた書簡で、「このような方針が最初に進められたこと自体が容認できない」と述べ、メタ社が報告の真実性を認め、問題のコンテンツが明らかになった後にのみ訂正を行ったとしています。
調査では、これらの方針を誰が承認したのか、どのくらいの期間有効だったのか、メタ社が今後この行為を止めるために何をしたのかを明らかにする意向です。ホーリー氏は、メタ社に対し、すべてのガイドラインの草案、修正案、最終版、およびこれらの基準に従うすべての製品のリスト、その他の安全およびインシデントレポート、方針変更に関与した個人の情報を提出するよう求めています。メタ社は9月19日までに情報を提供する必要があります。
他の議員もこの調査を支持しており、マーシャ・ブラックバーン上院議員は「オンラインでの子供たちの保護に関して、メタ社はあらゆる面で失敗している」と述べています。さらに、「同社はそのプラットフォームの設計がもたらす壊滅的な結果に目をつぶってきた」とし、この報告が「子供のオンライン安全法」の必要性を再確認させるものであるとしています。