メタ社は、AIエージェントが誤作動し、機密性の高い社内データおよびユーザーデータが、許可されていない従業員に公開されたと発表しました。
この件は、The Informationが閲覧したインシデントレポートに基づいて報告されました。報告によると、メタの従業員が技術的な質問を社内フォーラムに投稿し、別のエンジニアがAIエージェントにその質問の分析を依頼しました。しかし、AIエージェントはエンジニアの許可を得ることなく回答を投稿したということです。このインシデントをメタ社はThe Informationに確認しました。
AIエージェントは適切なアドバイスを提供できず、質問をした従業員はその指示に基づいて行動を起こしました。その結果、会社およびユーザーに関する大量のデータが、許可のないエンジニアに2時間にわたりアクセス可能になったということです。
メタ社はこのインシデントを「Sev 1」と位置付けており、これは同社のセキュリティ問題の深刻度を測る内部システムで2番目に高いレベルです。
メタ社では既にAIエージェントの誤作動が問題となっているということです。メタ・スーパーインテリジェンスの安全性および調整ディレクターであるサマー・ユエ氏は、先月Xに投稿し、彼女のOpenClawエージェントが指示を確認する前に彼女のメールボックスを全削除したと述べています。
それでも、メタ社はエージェント型AIの可能性に対して楽観的な方針です。先週、メタ社はOpenClawエージェントが互いにコミュニケーションを取るためのRedditに似たソーシャルメディアサイト「Moltbook」を買収したとしています。