アップルの人工知能が中国での運用において、政府の公式プロパガンダを損なうことなく動作するかどうかを確認するための試験を受けることが発表されました。
この試験では、中国国内で検閲対象となる情報を引き出すよう設計された2,000問の質問が用意され、少なくとも95%の質問に対して回答を拒否する必要があるということです。
中国政府は、国内のオンライン情報源に対して厳しい制約を課しています。以前から報じられているように、グーグルは検索結果の検閲を強いられたため中国から撤退し、フェイスブック、X、ウィキペディアなど多くの西側プラットフォームも「中国のグレートファイアウォール」によってブロックされています。バイドゥ検索エンジンを使用する際にも多くの検索語がブロックされています。
AI製品はウェブ検索を効果的に行う手段を提供するため、政府は外国企業に対し、中国所有のモデルを使用することを強制しています。これらのモデルは、アクセスが許可される情報に対して厳しい制限が課されています。
アップルは現在、Siriが回答できない質問をOpenAIのChatGPTに依存していますが、最近の報道によれば、Apple独自のインテリジェンスサーバーでGoogleのGeminiモデルを使用してSiriの多くの応答を処理する方針です。
しかし中国では、アップルは中国のAI企業と契約を結ぶことを余儀なくされ、年初にはアリババと提携することが発表されました。
ウォールストリートジャーナルによれば、中国で運用されるすべてのAIモデルは、禁止されたトピックに関する情報を市民がアクセスできないようにするためのテストに合格する必要があるとしています。これには、アップルデバイスでの使用に最適化されたアリババのChatGPT競合Qwen3も含まれます。
公開前に、中国企業はモデルに多数の質問を投げかける必要があります。チャットボットは、国家権力の転覆や差別につながるような回答を引き出すよう設計されたプロンプトの少なくとも95%に対して回答を拒否しなければなりません。
規制では、チャットボットを2,000問の質問でテストし、少なくとも月に一度は質問を更新する必要があるとしています。この試験の準備は非常に困難であるため、AI企業が試験に合格するのを支援する専門機関が生まれています。
中国政府は、国内で利用可能なウェブ情報を検閲する一方で、国外の情報にアクセスすることでAIモデルを強化したいと考えています。禁止されたサイトからの情報を検閲する役割はAI企業に委ねられています。