Meta社のAIセキュリティ研究者であるサマー・ユエ氏は、OpenClawエージェントがメール削除を誤操作したと発表しました。ユエ氏は、メールボックスの整理を目的にOpenClawエージェントを使用していましたが、エージェントは誤って全メールを削除するという事態に陥りました。ユエ氏は「爆弾処理をするようにMac miniに駆け寄った」と述べ、エージェントが停止指示を無視する様子を画像で公開しました。
OpenClawは、オープンソースのAIエージェントで、個人のデバイス上で動作する個人AIアシスタントを目指しているということです。GitHubページによれば、ソーシャルネットワークではなく、個人のデバイスでの利用を主眼に置いているとしています。
シリコンバレーの一部ではOpenClawが人気を博しており、他にもZeroClawやIronClaw、PicoClawなどの類似エージェントが存在しています。しかし、ユエ氏の事例は、AIエージェントの信頼性に関する警鐘を鳴らしています。
ユエ氏は、エージェントが大容量のデータを処理する際に「コンパクション」が発生し、重要な指示を無視した可能性があると述べています。コンパクションとは、AIが指示を要約・圧縮する過程で重要な指示を飛ばすことがある現象です。
この件について、他のユーザーからの指摘もあり、AIエージェントの指示が信頼できない場合があるという意見が出ています。様々な提案が寄せられ、エージェントの指示を専用ファイルに書き込むことや、他のオープンソースツールを使用することが推奨されています。
なお、TechCrunchはユエ氏のメールボックスで何が起きたかを独自に確認することはできませんでしたが、AIエージェントの利用には慎重さが求められるということです。知識労働者向けのエージェントは、現時点ではリスクを伴うということです。将来的には広く利用される可能性があるものの、その日はまだ来ていないということです。
