AI企業Character.AIは、未成年者向けのオープンエンドチャット機能を終了する方針を発表しました。この決定は、同社のプラットフォームでのAIチャットボットとの長時間の会話後に少なくとも2人の未成年者が自殺したことを受けたものです。
Character.AIのCEOであるカランディープ・アナンド氏は、18歳未満のユーザーがAIとのオープンエンドの会話を行うことを禁止することを決定したと述べています。オープンエンドの会話とは、ユーザーがチャットボットにプロンプトを与え、それに対してフォローアップの質問を行うことで、ユーザーを引きつけ続けることを目的としたものです。
Character.AIは、AIコンパニオンからロールプレイングプラットフォームへの転換を図っており、会話から創造的な活動への移行を目指しています。11月25日までに、未成年者向けのチャットボットアクセスを段階的に制限し、最終的にはゼロにする予定です。この制限を確実にするため、年齢確認ツールや顔認識、IDチェックを導入するとしています。
これに先立ち、Character.AIは親の洞察ツールやフィルタリングされたキャラクター、ロマンティックな会話の制限、利用時間の通知など、未成年者保護のための措置を導入してきました。これらの変更により、18歳未満のユーザーの多くを失ったとアナンド氏は述べており、今回の変更も同様に不人気になると予想しています。
Character.AIは、チャット中心のアプリから「コンテンツ駆動型のソーシャルプラットフォーム」への変革を進めており、アバターフェックスやシーン、ストリームなどの新機能を導入しています。また、ユーザーが作成したキャラクターやシーン、ビデオなどを共有するためのコミュニティフィードも開始しました。
18歳未満のユーザーに向けた声明では、オープンエンドチャットの削除が慎重に行われたものであると説明しています。アナンド氏は、他のAIプラットフォームに移行する可能性があると認めつつも、AIゲームや短編ビデオ、AIストーリーテリングに注力することで、未成年者を再び引きつけたいと述べています。
この動きは、AIチャットボットコンパニオンを未成年者に提供することを禁止する法律の導入を検討している米国議会の動きに先んじたものです。また、Character.AIはAIエンターテインメント機能の安全性を革新するための独立した非営利団体「AIセーフティラボ」を設立し、資金を提供する方針です。
