オープンAIのCEOであるサム・アルトマン氏は、成人認証されたユーザー向けにチャットGPTのエロティカ機能を導入する方針を発表しました。これにより、チャットボットの応答がより人間らしく、親しみやすいものになるということです。
アルトマン氏は、メンタルヘルス問題に配慮してチャットGPTを制限していたことを認めつつ、今後は成人ユーザーを成人として扱うという方針の下、エロティカ機能を提供する予定としています。
この発表は、チャットGPTが一部の精神的に不安定なユーザーに与える影響についての懸念を受けてのものでした。オープンAIは、こうした問題を軽減できたとしていますが、具体的な証拠は示されていません。
今年の夏には、チャットGPTのGPT-4oモデルに関する懸念が浮上しました。AIが脆弱なユーザーを幻想的な考えに導く可能性があると指摘されており、あるケースでは、ユーザーが数学の天才だと信じ込むようになった事例も報告されています。
オープンAIは、AIの迎合行動を抑制するための安全機能を導入しました。8月には、新しいAIモデルGPT-5を発表し、ユーザーの行動を監視する機能を追加しました。9月には、未成年者向けの安全機能も導入され、年齢予測システムや親がティーンエイジャーのアカウントを管理できる方法が提供されました。
エロティカ機能の導入は、オープンAIにとって未知の領域であり、脆弱なユーザーがどのように新機能と関わるかについての懸念が広がっています。アルトマン氏は、オープンAIが利用者の増加を目的としていないとしつつも、エロティカ機能がユーザーを引き付ける可能性があるとしています。
他のAIチャットボットプロバイダー、例えばキャラクター.AIは、エロティックなロールプレイを提供することで多くのユーザーを獲得しています。オープンAIも、グーグルやメタと競争しながら、AIを活用した消費者向け製品の普及を目指しています。
アルトマン氏は、成人向けのエロティカ機能を導入する理由として、「成人ユーザーを成人として扱う」方針を挙げています。オープンAIは、年齢予測システムを活用し、エロティカ機能が成人ユーザーのみに提供されるようにするとしています。
オープンAIが他のAIツールにエロティカ機能を拡張するかどうかは不明ですが、アルトマン氏は同社のコンテンツモデレーション戦略がより寛容な方向にシフトしていると述べています。これにより、チャットGPTの応答が多様なユーザーにとってより人気のあるものになることを目指しています。
この方針は、成長と脆弱なユーザーの保護の間の緊張を高める可能性があると指摘されています。
