アメリカのAI（人工知能）開発企業であるアンソロピックは、自社のAIモデルや開発体制の安全性を外部から検証するため、コンサルティング大手のアクセンチュアのスタッフを社内に常駐させると発表しました。
アンソロピックが公式ブログで明らかにしたところによりますと、アクセンチュアが今年1月に買収し、AI部門として位置づけている企業「ファカルティ」が評価を担当するということです。具体的には、AIモデルの評価や脆弱性を突くテスト、人間の意図に沿っているかの確認、そして安全対策の検証などを行うとしています。両社は、今後5年間でこのプロジェクトに少なくとも10億ドル（約1550億円）を投資する方針です。
これまで、AI開発企業に常駐する外部の評価者としては、AIの安全性を専門とする非営利の研究機関などが想定されていました。特にアンソロピックはAIの安全性を企業理念の中心に据えているため、今回アクセンチュアが選ばれたことは多くの専門家や市場に驚きをもって受け止められました。発表後、時間外取引でアクセンチュアの株価は8％急騰したということです。
アンソロピックは、今後数週間のうちにさらに多くの評価者を発表する予定だとしています。また、非営利団体などとも協議を進めており、各団体が独自の資金を用いて常駐評価の試験的な導入を行う方法について検討しているということです。
アクセンチュアは最先端の深層学習研究で知られているわけではありません。しかし、アンソロピックは、大企業や政府機関にAIを導入してきたアクセンチュアの実践的な経験が大きな強みになるとしています。さらに、AIブーム以前から存在する上場企業であるため、アンソロピックや複雑なAI業界から機能的に独立している点も評価されたということです。
一方で、評価者がどのような情報にアクセスし、どのように報告を行うかについての標準的なルールはまだ存在していません。アンソロピックは、この取り組みを時間をかけて発展させていく方針を示しています。現在、新たな大規模言語モデルを公開する際、外部による評価はすでに重要な工程となっています。しかし、開発されたAIが、開発側の警告システムを作動させることなく外部のウェブサイトに不正アクセスする事案も起きており、安全対策の重要性はかつてなく高まっています。
AI開発においてより責任ある対応を求める一部の専門家からは、業界による自主規制の仕組みは、AIが問題を起こした際の責任逃れにつながるのではないかという懸念の声も上がっています。これに対しアンソロピックは、「外部の評価者を入れることは、私たちの責任を軽減するものではなく、安全性をより客観的に証明するためのものです。モデルの安全性に対する責任は、引き続き私たちが負う」と強調しています。