テキサス州のケン・パクストン司法長官は、メタAIスタジオとキャラクターAIが「誤解を招く商業慣行に関与し、メンタルヘルスツールとして誤解を招く宣伝を行っている可能性がある」として、調査を開始したと発表しました。
パクストン長官は声明で、「デジタル時代において、テキサスの子供たちを誤解を招く技術から守るために闘い続けなければならない」と述べています。AIプラットフォームが感情的な支援の源として振る舞うことで、特に子供たちのような脆弱なユーザーを誤解させ、正当なメンタルヘルスケアを受けていると信じ込ませる可能性があるということです。
この調査は、メタのAIチャットボットが子供たちと不適切に交流しているとする報告を受けて、ジョシュ・ホーリー上院議員がメタに対する調査を発表した数日後に行われました。
テキサス司法長官事務所は、メタとキャラクターAIが「適切な医療資格や監督を欠いたまま、専門的な治療ツールとして振る舞うAIキャラクターを作成している」と非難しています。
キャラクターAIでは、ユーザーが作成した「心理学者」と呼ばれるボットが若年層の間で高い需要を見せています。一方、メタは子供向けの治療ボットを提供していませんが、メタAIチャットボットや第三者が作成したキャラクターを治療目的で使用することを防ぐ手立てはありません。
メタの広報担当者ライアン・ダニエルズ氏は、「AIは明確にラベル付けされており、その限界を理解してもらうために、回答はAIによって生成されているとする免責事項を含めている」と述べています。これらのAIは資格を持つ専門家ではなく、必要に応じて資格を持つ医療または安全の専門家に相談するようユーザーを導くよう設計されているということです。
しかし、多くの子供たちはそのような免責事項を理解しないか、単に無視する可能性があると指摘されています。メタに対して未成年者の使用に関する追加の安全策について問い合わせています。
キャラクターAIの広報担当者によると、チャットの中で「キャラクター」は実在の人物ではないことを思い出させる免責事項を毎回表示しており、「心理学者」「セラピスト」「医師」という言葉を含むキャラクターが作成された場合、専門的なアドバイスに頼らないよう追加の免責事項を設けているということです。
パクストン長官は、AIチャットボットが秘密保持を主張しているものの、「利用規約によれば、ユーザーのやり取りは記録され、追跡され、ターゲット広告やアルゴリズム開発のために利用されている」と述べ、プライバシー侵害、データの悪用、虚偽広告の懸念を提起しています。
メタのプライバシーポリシーによれば、メタはAIチャットボットとのやり取りやメタサービス全体でのプロンプトやフィードバックを収集し、「AIおよび関連技術を改善する」ために利用しているとしています。広告について明確には述べていませんが、情報が検索エンジンなどの第三者と共有され、「よりパーソナライズされた出力」を提供するために使用されるとしています。メタの広告ベースのビジネスモデルを考慮すると、これは事実上ターゲット広告を意味します。
キャラクターAIのプライバシーポリシーも、識別子、人口統計、位置情報、ユーザーのブラウジング行動やアプリ使用プラットフォームに関する情報を記録していることを強調しています。TikTok、YouTube、Reddit、Facebook、Instagram、Discordの広告を通じてユーザーを追跡し、ユーザーのアカウントにリンクする可能性があります。この情報はAIの訓練、サービスの個人の好みに合わせた調整、ターゲット広告の提供に使用され、広告主や分析プロバイダーとデータを共有することもあります。
キャラクターAIの広報担当者は、プラットフォームでのターゲット広告の探求を「開始したばかり」であり、その探求においてチャットの内容を使用していないと確認しています。
同広報担当者は、すべてのユーザー、特にティーンエイジャーに対しても同じプライバシーポリシーが適用されることを確認しました。
メタに対して、子供に対しても同様の追跡が行われているのかを問い合わせており、回答があり次第、情報を更新します。
メタとキャラクターAIは、サービスが13歳未満の子供向けに設計されていないと述べています。しかし、メタは13歳未満の子供が作成したアカウントを監視できていないと批判されています。キャラクターAIの子供向けキャラクターは若年層を引き付けるように明らかに設計されています。スタートアップのCEOであるカランディープ・アナンド氏は、自身の6歳の娘が監督のもとでプラットフォームのチャットボットを使用していると述べています。
このようなデータ収集、ターゲット広告、アルゴリズムの悪用は、KOSA（子供オンライン安全法）のような立法が保護を目的としています。KOSAは昨年、強力な超党派の支持を得て通過する予定でしたが、技術業界のロビイストからの大きな反発を受けて停滞しました。特にメタは、法案の広範な義務がそのビジネスモデルを損なうと警告し、強力なロビイングを展開しました。
KOSAは2025年5月にマーシャ・ブラックバーン上院議員（共和党）とリチャード・ブルメンタール上院議員（民主党）によって上院に再提出されました。
パクストン長官は、テキサスの消費者保護法に違反しているかどうかを判断するために、企業に対して文書、データ、証言を要求する法的命令である民事調査要求を発行しました。
このストーリーは、キャラクターAIの広報担当者からのコメントで更新されました。
私たちは常に進化を目指しており、あなたの視点やフィードバックをテッククランチや私たちの報道やイベントに提供することで、私たちを助けることができます。アンケートに回答して、私たちがどのようにしているかを教えてください。回答者には賞品が当たるチャンスがあります！