アメリカのIT大手グーグルは、衛星写真などを提供するアプリ「グーグルアース」に導入したAI（人工知能）による画像生成機能を、偽情報の拡散につながるとの批判を受け、公開からわずか1日で提供を停止したと発表しました。
グーグルは今週、自社のAI画像生成モデル「Nano Banana 2」を活用し、グーグルアースの地図上に架空の画像を生成できる新機能を公開しました。会社側は、地理的な創造性を高めることが目的だとしていました。
しかし、公開直後から、この機能が偽情報の作成や拡散に悪用されるおそれがあるとの指摘が相次ぎました。利用者が入力した指示に基づいて実際の地図上に任意の画像を重ね合わせることができるため、不正確な地理情報が大量に生成される懸念が示されていました。
イギリスの公共放送BBCの記者はSNS上で、「ジャーナリストや研究者にとって最も信頼できる視覚的証拠の1つであるグーグルアースが、偽情報の拡散に悪用されるはずがない」と皮肉を交えて批判していました。
こうした事態を受け、グーグルは機能の公開からわずか1日で提供を取りやめる方針を明らかにしました。
同社は声明で、「地理空間の専門家が有用な目的で利用するケースが見られた一方で、当社のポリシーに違反するような生成画像のスクリーンショットが共有されていることも確認された」と説明しています。そのうえで、「より強力な安全対策（ガードレール）を構築するため、グーグルアースでの当該機能の提供を一時的に取り下げる」としています。
AIの普及に伴い、インターネット上の画像の多くが容易に加工できる時代となっています。画像編集の専門的な技術がなくても、グーグルを含む多くの企業が提供するAI画像生成ツールを利用することで、本物に近い偽情報が作成できる現状があり、プラットフォーム側にはより慎重な対応が求められているということです。
