アメリカのIT大手グーグルは、アメリカ国防総省との契約を更新し、同社の生成AI「Gemini」を機密データを扱う業務において「あらゆる合法的な目的」で利用できるようにしたと発表しました。一方で、社内からはAIの悪用を懸念する声も上がっているということです。
アメリカのIT専門メディアの報道によりますと、グーグルはアメリカ国防総省との既存の契約を変更し、政府職員が機密データを扱う業務で生成AI「Gemini」を利用できるようにしたということです。この契約では、AIの利用目的について「あらゆる合法的な政府の目的」と規定されています。
グーグルはこれまで、機密に指定されていないデータに限ってAIの利用を認めていました。しかし、今回の機密データへの対象拡大をめぐっては社内で反発が起きており、600人以上の従業員が「AIの悪用を防ぐためには機密業務を拒否するしかない」として、ピチャイ最高経営責任者（CEO）に契約の撤回を求める書簡に署名したということです。
これに対し、グーグルは声明を発表し、「国家安全保障を支援するAIサービスやインフラを提供する企業連合の一員であることを誇りに思う」としています。また、「適切な人間の監督なしに、国内の大規模な監視や自律型兵器にAIを使用すべきではないという官民の共通認識には、引き続き取り組んでいく方針です」と強調しました。
一方で、今回の契約には、政府の要請に応じてAIの安全設定やフィルターの調整をグーグルが支援することが盛り込まれているということです。報道では、グーグルはAIの不適切な使用を防ぐための独自のガイドラインを設けているものの、政府の合法的な運用上の決定を統制したり、拒否したりする権利は持っていないと指摘されています。