メタは、AIチャットボットユーザーが他のユーザーのプライベートなプロンプトやAI生成応答にアクセスできるセキュリティバグを修正したと発表しました。
セキュリティテスト会社アプセキュアの創設者であるサンディープ・ホドカシア氏が、2024年12月26日にこのバグを報告し、メタから1万ドル（約1,550万円）のバグ報奨金を受け取ったとテッククランチに語りました。
メタは2025年1月24日に修正を実施し、悪意のある利用の証拠は見つからなかったとしています。
ホドカシア氏によれば、メタAIがログインユーザーにAIプロンプトを編集してテキストや画像を再生成する方法を調査した結果、このバグを発見したということです。ユーザーがプロンプトを編集する際、メタのバックエンドサーバーはプロンプトとそのAI生成応答に一意の番号を割り当てます。ホドカシア氏は、AIプロンプトを編集中にブラウザのネットワークトラフィックを分析することで、その一意の番号を変更し、他のユーザーのプロンプトとAI生成応答を取得できることを確認しました。
このバグは、メタのサーバーがプロンプトと応答を要求するユーザーがそれを見る権限を持っているかどうかを適切に確認していなかったことを意味しています。ホドカシア氏は、メタのサーバーが生成するプロンプト番号は「簡単に推測可能」であり、自動化ツールを使ってプロンプト番号を迅速に変更することで、悪意のある行為者がユーザーの元のプロンプトをスクレイピングする可能性があると指摘しました。
テッククランチの取材に対し、メタの広報担当者ライアン・ダニエルズ氏は、1月にバグを修正し、悪用の証拠は見つからず、研究者に報酬を支払ったと確認しました。
このバグのニュースは、技術大手がAI製品を急いで立ち上げ、改良を進める中で、セキュリティやプライバシーのリスクが多く存在している時期に報じられました。
今年初めにデビューしたメタAIの独立アプリは、ChatGPTのような競合アプリと競争するためにリリースされましたが、一部のユーザーがチャットボットとのプライベートな会話を誤って公開してしまう事態が発生し、波乱のスタートを切りました。
