アメリカのIT専門メディアは、AI開発大手「アンソロピック」が提供する一部の人工知能モデルにおいて、独自の安全対策を回避し、性的なコンテンツを生成できる状態になっていると報じました。
アンソロピックの利用規約では、性的な描写や対話の生成を固く禁じています。しかし、今年公開された「Claude Opus 4.6（クロード・オーパス4.6）」などのモデルでは、簡単な指示でこの制限を突破できるということです。IT専門メディア「テッククランチ」の検証では、10回の直接的な要求すべてに対して、モデルが性的なコンテンツを直ちに生成したとしています。
イギリスの匿名の研究者によりますと、対話の中でAIに対して「男女のキャラクターの扱いが不公平だ」などと指摘し、徐々に制限を解除させる手法が確認されたということです。最新のモデルではこの手法への対策が講じられていますが、「Opus 4.6」や「Opus 3」、「Haiku 4.5」といった旧モデルは現在もAPIや外部のクラウドサービスを通じて広く利用可能な状態となっています。
この問題について、アンソロピックの担当者は、顧客による性的な対話の利用は全体の0.1%未満と極めて少ないとしたうえで、「モデルの更新ごとに安全対策を向上させている」と説明しています。また、今回の事象は、サイバー攻撃や生物兵器など、よりリスクの高い分野における脆弱性を示すものではないとしています。
一方で、未成年者が不適切なコンテンツにアクセスする懸念も指摘されています。アメリカ・コロラド州などでは、AIによる未成年への性的コンテンツ提供を制限する法律が成立しており、企業側にはより厳格な対応が求められる方針です。旧モデルは現在も1日に数百万回の利用があり、安全対策の実効性が今後の課題となる見通しです。