AIの安全性を研究する非営利団体「SaferAI」は、中国のAI企業「Z.ai」が開発したオープン型AIモデルについて、アメリカの最先端モデルに匹敵する能力を持つ一方、サイバー攻撃などを防ぐ安全対策が不十分であるとする報告書を発表しました。
報告書によりますと、Z.aiが開発したAIモデル「GLM-5.2」は、サイバーセキュリティーや生物学の分野において、アメリカのOpenAIが開発した「GPT-5.5」や、Anthropicの「Claude Opus 4.7」といった最先端モデルに数か月の差まで迫っているということです。
一方で、AIの能力向上と安全対策の格差が広がっていると指摘しています。SaferAIが実施したサイバーセキュリティー能力などの評価テストでは、Anthropicのモデルがサイバー攻撃や軍民両用技術に関する指示を一貫して拒否したのに対し、中国の「GLM-5.2」は危険なタスクを一切拒否しなかったとしています。
プログラムの設計図にあたる「重み」が公開されているオープン型AIモデルは、利用者が自身のコンピューターにダウンロードして使用するため、開発者側で利用方法を監視することができません。このため、高度なAIが悪意のある攻撃者の手に渡る危険性が長年指摘されてきました。
SaferAIのヘンリー・パパダトス専務理事は「AIの能力の最前線が、そのままリスクの最前線になるわけではありません。リスクを適切に評価するためには、安全対策の状況も考慮する必要があります」と述べています。
OpenAIなどの開発企業は、危険な指示を拒否する学習や、システム上での制限など、さまざまな安全対策を講じています。しかし、こうした対策も完璧ではなく、制限を回避する手法が多数報告されているということです。さらに、オープン型AIモデルの場合、利用者が独自の環境で安全装置を解除したり、システムを変更したりできるため、開発企業が設けた対策は機能しなくなります。
パパダトス氏は「安全で有益な能力だけを誰もが利用できるようにし、危険な能力を取り除くことを目標とすべきです」と指摘しています。対策の1つとして、AIに学習させるデータからサイバー攻撃に関する情報をあらかじめ除外する手法が挙げられています。しかし、プログラミング能力はAI開発において最大の収益源となっているため、開発企業は悪用を制限する方法を模索しつつも、能力の向上を続ける圧力を受けているということです。
このため、最先端のAI開発企業は、展開前の厳格な安全評価の実施やリスク評価の公開、危険性が高いと判断された場合のモデル公開の見合わせなど、別の対策に重点を置く方針です。しかし、SaferAIによりますと、Z.aiは今回のモデルに関する安全性の枠組みやリスク評価を公開していないということです。
AIのリスクをめぐっては、中国の習近平国家主席が先月の国際会議で、オープン型AIモデルの重要性を強調しつつ、AIは人間の厳格な管理下に置かれるべきだとする方針を示しました。
スタンフォード大学で中国のAI政策を研究するグラハム・ウェブスター氏は、中国のAI規制について「政治的な内容や社会の安定維持に重点が置かれており、サイバー攻撃や生物学的な悪用といった壊滅的なリスクへの関心はアメリカに比べて低い」と分析しています。そのうえで、「中国はインターネットの実名制などを通じて、国内での技術利用を制御できると自信を持っています」と指摘しました。
オープン型AIの支持者は、プログラムを公開することで、企業がサイバー攻撃から身を守り、将来の脅威に備えることができると主張しています。しかし、パパダトス氏はこの利点が誇張されているとし、「危険な能力がどこでも簡単に利用できる状況を受け入れるべきではありません。一般的に、攻撃者は防御する側よりも早く新しいツールを採用します。例えば、身代金要求型ウイルスの攻撃グループは1週間で手口を変更できますが、病院などの施設にはそれができません」と警鐘を鳴らしています。
