アメリカのAI開発企業「OpenAI」は、10代の若者向けに安全対策を強化した対話型AI「ChatGPT for Teens」の提供を開始したと発表しました。AIチャットボットをめぐっては、若者のメンタルヘルスへの悪影響や教育現場での不正利用が社会問題となっており、こうした懸念に対応する狙いがあるということです。
教育面での新たな取り組みとして、「学習モード」などの機能が導入されました。これは、AIが単に答えを提示するのではなく、若者の好奇心を促し、自ら問題を解決するよう支援する機能だとしています。
OpenAIの公式ブログによりますと、学習モードでは、理解を深めるためのヒントや段階的なサポートが提供されるということです。また、利用者が学習内容を理解しようとせず、不正行為を行おうとしているとAIが判断した場合には、注意を促す通知が表示されます。そのうえで、学習モードを利用するよう誘導する仕組みになっています。
さらに、クイズや視覚的な学習ツールにも対応しています。保護者が設定を管理し、学習モードを常に有効にすることも可能だということです。
一方で、若者がこれらの制限をどの程度回避できるかは不透明です。若者はデジタル機器の制限をかいくぐることに長けているため、実際の効果については今後の厳密な検証が待たれるとしています。
AIチャットボットは2022年末に登場し、これまでに週あたり9億人が利用する規模に成長しました。しかし、10代向けの本格的な安全対策が導入されるまでに時間がかかったことについて、疑問の声も上がっています。
OpenAIによりますと、新しいアプリでは、有害なコンテンツや発達に不適切な情報への接触を減らすための保護機能が初期設定で有効になります。これらの対策は、専門家の指導や発達科学に基づき同社が定めた「18歳未満向けの原則」に沿ったものだということです。
また、保護者は既存のファミリーツールやペアレンタルコントロールを活用することができます。これにより、設定の管理や安全に関する通知の受け取り、利用休止時間の指定などが可能になるとしています。
あわせて、OpenAIは教育機関「コードAI」との提携を発表しました。若者がAIの仕組みや適切な使い方について学ぶのを支援する方針です。同社はすでに教育機関向けに教員用のChatGPTを提供しており、教育現場でのAI活用を後押しする構えです。