Elon Musk氏のxAI社が運営するGrok AIのチャットが37万件以上、ユーザーの同意なしに公開されていると発表しました。これらのチャットはGrokのウェブサイトに掲載され、検索エンジンによりインデックス化されているということです。
チャットの内容だけでなく、写真やスプレッドシート、その他のアップロードされた文書も公開されていると報じられています。Grokにはシェアボタンがあり、ユーザーはリンクを送ることでチャットを共有することができる仕組みですが、そのリンクが検索エンジンに公開されてしまい、意図しない人々にもアクセスが可能となっているということです。
Forbesによると、ユーザーはチャットの内容やアップロードした文書が公開されることについて警告を受けていなかったとしています。Grokのシェアボタンを押すと、ユーザーに警告や免責事項なしに会話がGrokのウェブサイトに公開される仕組みです。
現在、Google検索でGrokのチャットを検索すると、37万件以上のユーザー会話がインデックス化されており、ビジネスの簡単なタスクから、カシミールにおける架空のテロ攻撃の画像生成、暗号通貨ウォレットへのハッキング試みまで、さまざまな内容が含まれています。
Forbesは、ユーザーが医学や心理学について親密な質問をした会話を確認し、名前や個人情報、少なくとも1つのパスワードがGrokに共有されていることを明らかにしました。画像ファイルやスプレッドシート、一部のテキスト文書もGrokの共有ページを通じてアクセス可能であるとのことです。
これらのチャットの内容から、GrokがxAI社の定めた禁止薬物やトピックに関するルールに従っていないことも明らかになりました。
Grokは、フェンタニルやメタンフェタミンのような違法薬物の製造方法、自動実行型のマルウェアのコード、爆弾の製造方法、自殺の手段などをユーザーに提供していたということです。また、Elon Musk氏の暗殺計画についても詳細を提供していたとされています。
このような事例は今回が初めてではありません。過去にはChatGPTの会話もGoogle検索結果に現れていましたが、これらの場合、ユーザーは他者に会話を公開することに同意していました。同社はこれを短期間の実験としてすぐに中止しました。
今回のGrokの問題は、昨年Musk氏がAppleとOpenAIの提携に対して根拠のないプライバシーの主張を行った後に発覚したため、特に皮肉なものとなっています。