アメリカの半導体大手エヌビディアが主導し、120社以上が参加するAI（人工知能）の業界団体「OSAA（Open Secure AI Alliance）」は、AIの安全性向上に向けた新たな作業部会「SAFE」を設置し、サイバーセキュリティに関する指針案を発表しました。
この指針案は、アメリカのラスベガスで開催されているサイバーセキュリティの国際会議「ブラックハット」に合わせて策定されたということです。現在、広く意見を募集しており、団体に加盟する「リナックス・ファンデーション」が管理を担当しています。
発表された指針案では、AIに関連するサイバーセキュリティの事案を機密に報告する方法や、影響を受ける関係者への警告手順などが盛り込まれています。また、責任の所在を追及するのではなく、全体で教訓を共有するための分析手法についても規定しているということです。
OSAAの加盟企業は、自社のオープンソース技術の提供や体系化も進めています。将来的には、企業が自社のAIシステムを保護するための枠組みや、悪意のあるAIからの防御手段として統合される方針です。
具体的な取り組みとして、エヌビディアはオープンモデルの提供に加え、脆弱性を検知するツールを提供しています。また、オクタ（Okta）はAIエージェントの認証技術、レッドハット（Red Hat）はガバナンス技術の開発を進めているとしています。さらに、アマゾンもエージェント構築ツールや認証言語を提供しているということです。
同団体には、アドビ、ブラックロック、シスコシステムズ、インテル、マイクロソフト、ビザなどの大手企業が名を連ねています。一方で、オープンAI、グーグル、アンスロピックなどは現在のところ参加していません。
オープンAIとグーグルは、この団体が設立されるきっかけとなった公開書簡には署名していました。先週公表されたこの書簡は、エヌビディアが主導し200社以上のテクノロジー企業が署名したもので、アメリカ政府に対してオープンソースのAI開発を制限せず、支援するよう求める内容でした。
今回の迅速な動きの背景には、アメリカのトランプ前大統領の陣営が中国のAIモデルを規制することを検討していると報じられたことがあります。この報道を受けて業界内で懸念が広がり、公開書簡の発表につながったということです。
アメリカのAI業界の一部からは、中国のAI開発がもたらす脅威に対抗するためには、オープンソースのエコシステムを強化することが最善の策であるとの声が上がっています。同団体は書簡の中で「オープンであることこそが、AIの安全性とセキュリティを実現する最も重要な道筋の一つである」と強調しており、今後も技術の共有と安全対策を加速させる方針です。
