AIセキュリティ企業のイレギュラーは、セコイア・キャピタルとレッドポイント・ベンチャーズが主導する資金調達ラウンドで、新たに80億円（約124億円）の資金を調達したと発表しました。このラウンドには、WizのCEOであるアサフ・ラポポート氏も参加しました。関係者によれば、この資金調達ラウンドで、イレギュラーの企業価値は約700億円（約697億円）と評価されたということです。
イレギュラーの共同創業者であるダン・ラハブ氏は、TechCrunchに対し、「今後、多くの経済活動は人間とAI、またはAI同士の相互作用から生まれると考えており、それによってセキュリティの脆弱性が多くの点で露呈するだろう」と述べました。
以前はパターン・ラボとして知られていたイレギュラーは、AI評価の分野で既に重要な地位を占めています。同社の成果は、Claude 3.7 SonnetやOpenAIのo3およびo4-miniモデルのセキュリティ評価で引用されています。一般的には、モデルの脆弱性検出能力を評価するフレームワーク「SOLVE」が業界内で広く利用されています。
イレギュラーは、既存のリスクに対する重要な取り組みを行っていますが、今回の資金調達の目的はさらに野心的なものであり、未然にリスクや行動を特定することを目指しています。同社は、モデルをリリースする前に集中的なテストを可能にする複雑なシミュレーション環境を構築しています。
共同創業者のオマー・ネボ氏は、「我々はAIが攻撃者と防御者の役割を担う複雑なネットワークシミュレーションを持っています。新しいモデルが登場した際に、防御がどこで機能し、どこで機能しないかを確認することができます」と述べています。
セキュリティはAI業界で強い関心を集めており、フロンティアモデルがもたらす潜在的なリスクが増加しています。OpenAIは今夏、企業スパイ活動の可能性を考慮して内部のセキュリティ対策を見直しました。
同時に、AIモデルはソフトウェアの脆弱性を見つける能力をますます高めており、攻撃者と防御者の両方に深刻な影響を与える可能性があります。
イレギュラーの創業者たちは、大規模な言語モデルの能力向上が引き起こすセキュリティの課題を認識しています。「フロンティアラボの目標がますます洗練されたモデルを作ることならば、我々の目標はこれらのモデルを保護することです」とラハブ氏は述べ、「しかし、それは動く標的であり、将来的にははるかに多くの作業が必要だ」としています。