アメリカのAI開発企業「Anthropic」が提供する対話型AI「Claude」において、ユーザーが共有設定にしたチャットの履歴やデータが、Googleの検索結果に表示され、誰でも閲覧できる状態になっていたことが明らかになりました。Anthropicは、ユーザー自身がリンクを公開したことが原因であると発表しました。
アメリカのITメディアなどの報道によりますと、先週末、Googleで特定の検索コマンドを入力すると、「Claude」のユーザーが共有したチャットの履歴や、「Artifacts（アーティファクツ）」と呼ばれる対話型のミニアプリなどのデータが大量に表示されることが発覚しました。
表示されたデータの中には、患者の医療記録や臨床試験の結果、子どもたちの名前や電話番号のほか、企業の社外秘文書なども含まれていたということです。また、プログラムのコードや作業メモなども閲覧可能な状態になっていました。
この問題は、Claudeの「チャット共有」機能に関連しているとみられています。この機能は、発行されたURLを知っている人であれば誰でもチャットの内容を閲覧できる仕組みです。
Anthropicは今回の事態について、「共有リンクは、SNSやインターネット上の掲示板など、検索エンジンが読み取れる場所に投稿された場合にのみ検索結果に表示される」と発表しました。また、「プライバシーの原則に従い、検索エンジンに対してチャットの目録などを共有することはない」として、ユーザー自身がリンクを公開したことが原因であるとの認識を示しています。
一方、Googleの広報担当者は「検索エンジンはウェブ上で公開されたページを収集しているにすぎない。サイト管理者が設定した収集の可否に関する指示を常に尊重している」とコメントしています。
現在、Googleの検索結果からは該当するデータが表示されなくなっており、何らかの対策が講じられたとみられています。
また、一部の報道では、Claudeが利用規約で禁止している性的なコンテンツを生成した履歴も確認されたということです。これについてAnthropicからの回答は得られていないとしています。
AIのチャット履歴をめぐっては、昨年もClaudeや「ChatGPT」で同様に共有設定された会話が検索エンジンに表示される問題が報告されていました。
ユーザーが公開設定にしたチャットは、Claudeの設定画面の「プライバシー」から「共有チャット」を選択することで確認できるということです。
