OpenAIは、AIエージェントの安全性を強化するため、AIセキュリティスタートアップのPromptfooを買収したと発表しました。Promptfooは2024年に設立され、LLM（大規模言語モデル）をオンライン上の脅威から守ることを目的としています。
OpenAIはブログ投稿で、取引が完了次第、Promptfooの技術を同社の企業向けプラットフォーム「OpenAI Frontier」に統合する予定であるとしています。
独立したAIエージェントがデジタルタスクを遂行することは、生産性向上への期待を生んでいますが、同時に悪意のある行為者が機密データにアクセスしたり、自動化システムを操作したりする新たな機会を提供しています。この取引は、最先端のラボがその技術が重要なビジネス運用で安全に使用できることを証明するために奔走していることを示しています。
Promptfooは、Ian Webster氏とMichael D’Angelo氏によって設立され、企業がLLMのセキュリティ脆弱性をテストするためのツールを開発しています。このツールには、オープンソースのインターフェースとライブラリが含まれています。同社によると、Fortune 500企業の25%以上がその製品を使用しているということです。
Promptfooは設立以来、2300万ドル（約36億円）を調達し、2025年7月の最新ラウンド後には8600万ドル（約133億円）と評価されました。OpenAIは取引の価値を明らかにしていません。
OpenAIの投稿によれば、Promptfooの技術は、エージェントプラットフォームが自動化されたレッドチーミングを実行し、セキュリティ上の懸念に対するエージェントのワークフローを評価し、リスクやコンプライアンスニーズを監視することを可能にするとしています。また、Promptfooのオープンソース提供の拡充を続ける方針です。
