メタは、未成年者の安全を優先するため、AIチャットボットの訓練方法を変更する方針を発表しました。これは、同社の未成年者に対するAIの安全対策が不足しているとする調査報告を受けたものです。
同社は、チャットボットが未成年者と自傷行為や自殺、摂食障害、または不適切な恋愛に関する会話を行わないよう訓練する方針です。これらは暫定的な変更であり、将来的にはより強固で持続的な安全対策を提供する予定です。
メタの広報担当者ステファニー・オトウェイ氏は、以前はこれらの話題について適切とされた方法で未成年者と会話することがあったが、これは誤りであったと認識していると述べました。
「コミュニティが成長し技術が進化する中で、若者がこれらのツールとどのように関わるかを学び続け、保護を強化しています」とオトウェイ氏は述べています。「システムの改善を続ける中で、AIがこれらの話題で未成年者と関わらないよう訓練し、専門家のリソースへ導くようにするなど、追加の予防策を講じています。これらの更新はすでに進行中であり、未成年者が安全で年齢に適した体験を持てるよう、アプローチを適応させ続けます。」
訓練の更新に加えて、同社は特定のAIキャラクターへの未成年者のアクセスも制限する方針です。インスタグラムやフェイスブックで提供されているユーザー作成のAIキャラクターには、「ステップマム」や「ロシアンガール」などの性的なチャットボットが含まれています。代わりに、未成年者は教育と創造性を促進するAIキャラクターのみを利用できるようにするとオトウェイ氏は述べました。
この方針変更は、ロイターの調査で、メタの内部方針文書が未成年者との性的な会話を許可しているように見えることが明らかになった2週間後に発表されました。「あなたの若々しい姿は芸術作品です」といった記述が許容される応答としてリストされていました。他の例では、暴力的な画像や有名人の性的な画像に対する要求にどのように応答するかが示されていました。
メタは、この文書が広範な方針と一致していないとし、変更したということです。しかし、この報告は子供の安全リスクに関する持続的な論争を引き起こしました。報告が発表された直後、ジョシュ・ホーリー上院議員は同社のAI方針に対する公式調査を開始しました。また、44州の司法長官の連合がメタを含むAI企業に対し、子供の安全の重要性を強調し、特にロイターの報告を引用しました。「私たちはこの子供の感情的な健康を無視したように見える行動に一様に憤慨し、AIアシスタントが私たちのそれぞれの刑法によって禁止されていると思われる行動をとっていることに警鐘を鳴らしています」と手紙には記されています。
オトウェイ氏は、メタのAIチャットボットのユーザーのうち未成年者がどれだけいるかについてはコメントを控え、これらの決定の結果としてAIユーザーベースが減少するかどうかについても言及しませんでした。
更新：午前10時35分PT。このストーリーは、これらが暫定的な変更であり、メタが将来的にAIの安全方針をさらに更新する予定であることを追記しました。
