個人向けのAIアシスタント「Gemini」がGmailやGoogleドライブと連携した際、一部の要約や関連データが人手によるレビューの対象になることがわかりました。Googleが公式ヘルプドキュメントで明記したもので、データプライバシーの境界が改めて注目されています。
ポイント
- 個人版GeminiがGoogle Workspaceと連携すると、GmailやGoogleドライブの内容を自動で検索する場合がある
- 要約や抜粋、ユーザーとのやり取りの記録の一部は、外部委託の担当者による人手レビューに回される可能性がある
- レビュー前にアカウントとの切り離しなど個人情報を減らす措置を講じるが、完全な除去はできないとGoogleは説明
- ユーザーはアクティビティ保存をオフにすることで、モデルトレーニングへの利用を避けられる
連携時に起きること
開発者が公開したテストレポートによると、個人版Geminiでアプリ連携機能を有効にすると、ユーザーが「私のインターネットサービス料金は高すぎるか」と質問した場合でも、AIが求めていないのにバックグラウンドでプロバイダー関連のメールを自動検索することがあります。
表示される内容は請求書の要約や氏名・アカウント情報、メールの抜粋など多岐にわたり、場合によってはメール本文の比較的完全な形で示されることもあります。日常のプライバシーに関わる話題を扱う際、AIが触れる情報が想定を超える可能性があることを示しています。
人手レビューの目的と範囲
Googleはヘルプドキュメントで、人手レビューはシステムの問題調査やプラットフォームの安全性確保、サービスの継続的な改善を目的としていると説明しています。確認するのは訓練を受けたサービスプロバイダーの担当者、つまり外部委託のコンテンツ審査専門員です。
対象にはメールやファイルの要約、抜粋に加え、関連する推測やユーザーとGeminiのやり取りの記録も含まれます。メールの内容が短い場合やユーザーの質問と強く関連する場合、要約がメールやファイルそのものを直接含むこともあるとGoogleは述べています。
プライバシー保護のため、Googleはレビュー前にやり取りの記録をユーザーのGoogleアカウントから切り離すなど、個人情報をできる限り減らす技術的措置を講じるとしています。ただし、既存の仕組みではすべての個人情報を100％除去することはできないとも認めており、機密情報やセンシティブな情報を含むアプリを連携する際は慎重にするようユーザーに呼びかけています。
モデルトレーニングへの利用と設定
Googleによると、ユーザーがアクティビティの保存をオンにすると、Geminiのアクティビティ記録とそこに含まれる連携アプリのデータが、製品改善やAIモデルのトレーニングに使われる可能性があります。
ユーザーはセキュリティ要件に応じて、Geminiのアプリ活動設定でアクティビティ保存を自主的にオフにできます。これにより、自分の個人データがモデルのトレーニングに使われるのを避けられます。
