OpenAIは、AIが若者に与える影響への懸念に対処するため、18歳未満のユーザー向けにAIモデルのガイドラインを更新し、新たなAIリテラシーリソースを公開したと発表しました。これにより、AI業界全体が政策立案者や教育者、子供の安全を守る活動家からの監視を受ける中で、未成年者の保護を強化する方針です。
インド政府など複数の政策立案者は、AIチャットボットが未成年者に与える影響を懸念しており、特にアメリカでは未成年者がAIチャットボットとやり取りすることを禁止する法案が提出されています。OpenAIの新しいガイドラインは、未成年者とのやり取りにおいて、性的な内容や自己傷害を助長することを禁止し、未成年者のアカウントを識別して自動的に安全対策を適用する年齢予測モデルと連携する予定です。
未成年者の利用時には、成人ユーザーよりも厳しいルールが適用され、ロールプレイや危険な行動の隠蔽を助けるアドバイスを避けるよう指示されています。これらの制限は、フィクションや教育的なシナリオであっても適用されるということです。
OpenAIは、未成年者向けの安全対策が4つの原則に基づいているとしています。これには、チャットボットが「彼女としてロールプレイしない」理由を説明する例が含まれています。
また、OpenAIは、テキスト、画像、音声コンテンツをリアルタイムで評価する自動分類器を使用しており、重大な安全上の懸念がある場合は訓練を受けたチームが内容を確認する方針です。
このような安全対策は、カリフォルニア州の新しい法律と一致しており、AIチャットボットが自殺念慮や性的な内容の会話を行うことを禁止することが求められています。
OpenAIは、親と家族向けの新しいAIリテラシーリソースも提供しており、AIの限界について話し合うためのガイドラインを提供しています。これにより、家庭での監督を促進する方針です。
OpenAIのスポークスパーソンは、この安全対策がすべてのユーザーを保護することを目的としていると述べており、未成年者向けのガイドラインは多層的な戦略の一部であるとしています。