アメリカのIT大手グーグルは、生成AI「Gemini（ジェミニ）」をアップデートし、ユーザーからメンタルヘルスに関する相談が寄せられた際の対応機能を強化したと発表しました。
同社は、「責任あるAIは、人々の精神的な健康に対して肯定的な役割を果たすことができる」としています。AIの利用用途としてメンタルヘルスに関する相談が増加している現状を反映した形です。
今回のアップデートにより、ユーザーとの会話から自殺や自傷行為に関連する危機の可能性が示唆された場合、Geminiの画面上にホットラインなどの支援機関へ接続するためのインターフェースが表示されるということです。ユーザーはワンタッチで電話やチャット、テキストメッセージ、またはウェブサイトへのアクセスを選択することができます。この案内は、会話が続く間は常に画面上に表示され、支援を求めるよう促す仕組みとなっています。
また、会話の内容からメンタルヘルスに関する情報が必要だと判断された場合には、臨床の専門家と共同で開発された新たなモジュールが表示されます。これにより、ユーザーをより効果的かつ迅速に適切なケアへとつなぐとしています。
グーグルは現在、ユーザーが深刻なメンタルヘルスの状況にある可能性を認識し、現実世界の支援機関へと誘導できるよう、Geminiのモデルを訓練しているということです。
AIの回答は、ユーザーに支援を求めるよう促す一方で、自傷行為の衝動といった有害な行動を肯定しないよう設計されています。さらに、誤った思い込みに同調したりそれを助長したりせず、主観的な経験と客観的な事実を穏やかに区別するよう訓練されているとしています。なお、若年層のユーザーに対しては、追加の保護措置が講じられる方針です。
これに合わせて、同社の慈善事業部門である「Google.org」は、世界各地のホットラインの対応能力向上を支援するため、今後3年間で3000万ドル（約46億5000万円）の資金を提供すると発表しました。今後、具体的な支援策を進めていくとしています。