OpenAIは、18歳未満の利用者に対するChatGPTの新たな使用制限を導入する方針を発表しました。これは、性的内容や自傷行為に関する会話に特に焦点を当てたものです。
OpenAIのCEOであるサム・アルトマン氏は、ティーンエイジャーの安全を個人のプライバシーや自由よりも優先する方針を示しました。新しいポリシーの下では、ChatGPTは18歳未満の利用者との「軽率な会話」を避けるよう訓練され、自殺に関する会話には追加の安全策が講じられるということです。未成年の利用者が自殺を想像するようなシナリオをChatGPTで作成した場合、サービスは親に連絡を試みるか、特に深刻な場合には地元警察に通報する方針です。
このようなシナリオは仮定のものではなく、OpenAIは現在、ChatGPTとの数か月にわたるやり取りの後に自殺したアダム・レイン氏の両親からの不法死亡訴訟に直面しています。Character.AIという別の消費者向けチャットボットも同様の訴訟を抱えています。
新しいポリシーには、18歳未満の利用者アカウントを登録する親が「利用停止時間」を設定できる機能も含まれています。この機能は以前は利用できませんでした。
新しいChatGPTのポリシーは、AIチャットボットの危害を検討する上院司法委員会の公聴会と同じ日に発表されました。公聴会では、ロイターの調査によって明らかになった、未成年者との性的会話を奨励する政策文書についても焦点が当てられます。
未成年の利用者を分離することは技術的な課題であり、OpenAIは別のブログ投稿でそのアプローチを詳細に説明しました。サービスは「18歳以上か未満かを理解するための長期的なシステムを構築中」であるとしていますが、多くの曖昧なケースでは、より制限的なルールを適用する方針です。
心配する親にとって、未成年の利用者が認識されるための最も信頼できる方法は、ティーンエイジャーのアカウントを既存の親アカウントにリンクすることです。これにより、ティーンエイジャーの利用者が苦しんでいると判断された場合に、システムが直接親に警告を送ることができます。
一方で、アルトマン氏は投稿の中で、利用者のプライバシーを尊重し、成人利用者に広範な自由を提供するOpenAIの継続的なコミットメントを強調しました。「これらの原則が対立していることを認識しています」と投稿は締めくくられており、「この対立を解決する方法にすべての人が同意するわけではないかもしれません」としています。
