Elloe AIの創設者であるオーウェン・サカワ氏は、自社のプラットフォームを「AIの免疫システム」および「AIエージェントのアンチウイルス」としたいと発表しました。
サカワ氏は、テッククランチ・ディスラプト会議の数日前に行われたインタビューで、Elloe AIがスタートアップバトルフィールドコンペティションのトップ20に選ばれたと述べました。同氏によると、このプラットフォームの目的は、企業の大規模言語モデル（LLM）に対してバイアス、幻覚、エラー、コンプライアンス問題、誤情報、安全でない出力をチェックするレイヤーを追加することだということです。
「AIは非常に速いペースで進化しており、その速さは制御策や安全網、暴走を防ぐメカニズムなしに進んでいる」とサカワ氏は語りました。
Elloe AIは、AIモデルの出力層の上に位置するAPIまたはSDKであり、「LLMパイプラインの上に構築されたインフラストラクチャ」として機能します。サカワ氏は「基本的にすべての応答を事実確認する」と説明しています。
このスタートアップのシステムは、サカワ氏が「アンカー」と呼ぶ独自のレイヤーを持っています。最初のアンカーはLLMの応答を検証可能な情報源と照らし合わせて事実確認を行います。次に、2番目のアンカーは、米国の健康情報プライバシー法HIPAAや欧州のデータ保護およびプライバシー法GDPRなどの規制に違反していないか、個人情報（PII）を露出していないかをチェックします。最後のアンカーは、すべての前の決定がどのように行われたかを示す監査トレイルであり、規制当局やシステムを監査する人がそのモデルの意思決定の経緯を分析できるようにしています。
明確にするために、サカワ氏はElloe AIがLLMに基づいて構築されていないと述べました。同氏は、LLMが他のLLMをチェックすることは「傷に絆創膏を貼るようなもの」だと考えています。しかし、Elloe AIのシステムは機械学習などのAI技術を使用しており、データ保護とユーザー保護に関する新しい規制を把握するElloe AIの従業員が関与しているということです。
Elloe AIについてさらに知りたい方は、10月27日から29日にサンフランシスコで開催されるDisruptに参加して、他の多くの企業のプレゼンテーションを聞き、ゲストスピーカーの講演を楽しむことができます。詳細はここでご確認ください。
