アメリカのAI開発企業アンスロピックは、プログラミング支援ツール「Claude Code（クロード・コード）」について、8月14日から「自動モード」を標準設定にすると発表しました。対象となるのは、「プロ」「マックス」「チーム」の各アカウントだということです。
同社は今年3月、作業のスピードと安全管理のバランスをとる機能として、自動モードのテスト版を公開していました。今回の発表によりますと、自動モードを有効にした場合、システムは各段階で人間の承認を求めることなく処理を進める方針です。ただし、「取り返しがつかない操作」や「破壊的な操作」、あるいは「ユーザーの環境外を対象とする操作」と判断された場合にのみ、実行の許可を求めるとしています。
また同社は、テストの結果、手動での確認よりも自動モードのほうが安全性が高いことが実証されたとしています。1053人の有料テスターを対象とした調査では、有害な操作を検知した割合が、人間の確認では13.6%にとどまったのに対し、自動モードでは89%に上ったということです。同社は、人間による確認作業が習慣化し、ユーザーが97%の割合で無意識に許可を出してしまっていることが背景にあると分析しています。
「Claude Code」の責任者を務めるボリス・チェルニー氏は、SNSのXへの投稿で、「開発チームでも数か月にわたり自動モードのみを使用しています。もはや手動で許可を出す方式に戻ることは考えられません」と述べています。
さらに同社は、データの外部流出などを防ぐため、新たな安全機能を追加していると明らかにしました。悪意ある指示を入力する「プロンプト・インジェクション」を検知する機能や、ユーザーが独自に設定できる厳格な拒否ルールなどを導入し、システムの安全性をさらに高める方針です。
