AI技術が携帯電話やアプリケーション、検索エンジン、さらにはドライブスルーに至るまで、生活のあらゆる面に浸透していると発表しました。特に、AIアシスタントやチャットボットを組み込んだウェブブラウザの登場により、インターネットの利用方法が数年前とは大きく異なるということです。
AIツールは、機能のために個人データへの広範なアクセスを求めることが増えており、これは通常のことではなく、標準化すべきではないとしています。かつて、無料の「懐中電灯」や「計算機」アプリが連絡先や写真、リアルタイムの位置情報へのアクセスを求めることに疑問を持つのが正当であったように、現在のAIアプリも同様の状況にあるということです。
例として、Perplexity社のAI搭載ウェブブラウザ「Comet」が挙げられます。このブラウザは、AI検索エンジンを使用して回答を見つけたり、メールやカレンダーイベントを要約するなどのルーチン作業を自動化することができるとしています。しかし、TechCrunchが実際に使用した際、ユーザーのGoogleカレンダーへのアクセスを求める際に、Googleアカウント全体への広範な権限を要求していることが確認されました。
Perplexity社は、多くのデータがデバイス上にローカルで保存されるとしていますが、それでも個人情報へのアクセス権を企業に与えることになり、AIモデルの改善に利用される可能性があるということです。Meta社も、AIアプリがユーザーのカメラロールに保存された未アップロードの写真にアクセスすることを試みているとされています。
Signal社のメレディス・ウィテカー氏は、AIエージェントやアシスタントの使用を「脳を瓶に入れるようなもの」と表現し、AI製品が日常的なタスクを行うために多くの個人情報へのアクセスを求めることを指摘しています。
AIアシスタントの利用には、セキュリティとプライバシーの観点から重大なリスクが伴うとされています。AIにアクセスを許可することは、最も個人的な情報を瞬時に、かつ不可逆的に提供することを意味し、そのリスクを再評価する必要があるということです。
AI技術の信頼性と、利益を追求する企業が開発するAI製品への信頼を求められる中、個人データへの広範なアクセスを求めるAIアプリには注意が必要であるとしています。