アメリカのラスベガスで開かれたAI＝人工知能に関する国際会議で、世界的なAI研究者らが登壇し、AIの安全性への懸念が高まる中でも、技術の公開性を維持すべきだとする見解を発表しました。
AI研究の安全性を確保する取り組みが進む中、無償で配布される「オープンソース」や、学習済みのパラメータを公開する「オープンウェイト」と呼ばれるAIモデルは、利用方法の管理が難しいため、一部の企業から強い警戒感を持たれています。
こうした中、先週開催されたAI関連の国際会議「Ai4」に、ノーベル物理学賞を受賞したジェフリー・ヒントン氏、ワールド・ラボのCEOであるフェイフェイ・リー氏、コーセラの共同創業者であるアンドリュー・ン氏の3人が登壇しました。3人は具体的な手法については意見が分かれたものの、AIをオープンな状態に保つことの重要性を強調したということです。
最大の懸念事項として挙げられたのは、少数の巨大企業による技術の独占です。ン氏は、「一部の企業が技術へのアクセスを管理する『門番』になることを危惧している」と指摘しました。資金力のある少数の企業だけが最先端のAIシステムを構築できる状況になれば、技術革新が遅れるおそれがあるとしています。
さらにン氏は、オープンモデルの覇権争いについても言及しました。中国のオープンウェイトモデルがアジアやアフリカなどで広く普及した場合、民主主義や人権に関する思想に影響を与える可能性があると警告しています。その上で、「アメリカの競争力を高めるためにも、複数の企業が競い合う環境を維持し、技術の公開を推進する方針が必要だ」と述べました。
一方、ヒントン氏は、ソースコードを公開する「オープンソース」と、学習済みのパラメータを公開する「オープンウェイト」の違いを強調しました。オープンウェイトについては、「多額の費用をかけて開発された基盤モデルが、サイバー攻撃などの悪意ある目的に安価で悪用されるリスクがある」と指摘しています。
しかし、すでにオープンウェイトのモデルが広く普及している現状を踏まえ、「もはや技術の拡散を防ぐことはできない」との認識を示しました。同時に、AIがもたらす生産性の向上や医療への貢献を評価しつつも、リスクを懸念することは正当であるとしています。
リー氏は、AIの公開について「完全にオープンか、完全にクローズドかという二極化の議論は危険だ」と指摘しました。原子物理学やヒトゲノム計画の例を挙げ、科学的発見の公開と危険物の規制を両立させるような、段階的なアプローチが必要だとしています。
3人の研究者は、AIを適切な方向に導くためには、一定の規制が必要であるという点で一致しました。ヒントン氏は、「AIの開発方針を一部の巨大IT企業の経営者だけに委ねるべきではない」と述べ、社会全体でルール作りを進める方針の重要性を訴えたということです。
