アメリカのスタートアップ企業が開発中の対話型AI＝人工知能のアシスタント機能について、利用者のメールや画面の操作履歴など広範なデータを収集する仕様になっていることがわかり、専門家などからプライバシーやセキュリティーへの懸念の声が上がっています。
このAIアシスタントは、アメリカ・サンフランシスコに拠点を置く企業が開発を進めている「Instinct」です。現在は一部の利用者を対象にした試験運用の段階にあるということです。
このAIは、利用者のメールやメッセージアプリ、カレンダーのほか、端末の音声や位置情報、画面の操作履歴などに直接アクセスする仕組みとなっています。利用者がテキストや音声で指示を出すと、スケジュールの調整やレストランの予約、メールの整理、航空券の手配などを自動で行うということです。
高い性能を持つとして注目を集める一方で、利用者のデータの取り扱いをめぐって懸念が広がっています。一部の利用者によりますと、サービスの利用規約には、AIの学習目的を含め、利用者のデータを永久的かつ取り消し不能な形で利用できると記載されているということです。また、利用者に代わって法的な拘束力を持つ契約や取引を行う権限も含まれているとしています。
試験運用に参加した利用者からは、「アクセス権を取り消した後もメールのデータが保存されていた」といった報告や、「事前の確認なしにAIが自動でメールを送信した」といった声が上がっています。また、レストランの予約時にメール内の認証コードをAIが自動で読み取った事例も報告されており、フィッシング詐欺に対する脆弱性を指摘する声も出ています。
アメリカの投資家や専門家からは、「利用者は利便性と引き換えに、プライバシーやコントロール権を譲り渡している」との指摘や、「消費者のセキュリティーに対する規範が大きく変わる可能性がある」といった警戒感が示されています。
パーソナルAIをめぐっては、利用者の行動を学習して自律的に作業を行う技術の開発が急速に進んでおり、他社でも同様のサービスの買収や開発が相次いでいます。
開発元の企業は、これまでのところ一連の懸念に対して公式な見解を示していません。AIの利便性が高まる中、利用者のプライバシー保護とセキュリティー対策をどのように両立させるかが大きな課題となっています。