アメリカのIT大手メタ（Meta）は、写真共有アプリ「インスタグラム」上で公開されている他人の写真をAI＝人工知能を使って改変できる新機能について、利用者などからの批判を受け、提供を停止したと発表しました。
この機能は、メタのAI開発部門である「メタ・スーパーインテリジェンス・ラボ」が開発した画像生成AI「Muse Image」の一部として、今週初めに導入されたものです。公開されているインスタグラムのアカウントを「@（アットマーク）」で指定することで、そのアカウントの画像を元にした新たな画像を生成できる仕組みでした。
しかし、画像が使用された際に元のアカウントの利用者に通知される機能が備わっていなかったため、導入直後から強い反発を招いていました。IT専門メディアがこの機能を無効にする手順を独自に公開するなど、波紋が広がっていました。
こうした事態を受け、メタは方針を転換しました。同社は公式ブログを更新し、当該機能の削除を明らかにしました。
メタはブログの中で、「私たちの意図は、便利な創造的ツールを提供するとともに、公開コンテンツがこのように参照されるかどうかを利用者自身が制御できるようにすることでした」と説明しています。その上で、「この機能が適切ではなかったという意見を受け止めた結果、提供を終了することにしました」としています。
ソーシャルメディアにAIが導入されて以来、女性著名人の偽の画像を生成するなど、AIの悪用が相次いで問題となっています。各プラットフォームはこうした傾向を抑えようと対策を講じていますが、導入された安全対策が不十分なケースも少なくないということです。
今回削除されたメタの新機能についても、同様の悪用につながる危険性が指摘されていました。アメリカのメディアの報道によりますと、機能の削除は、一般の利用者や大手芸能事務所などからの厳しい監視と批判を受けた結果だということです。