イーロン・マスク氏のxAIが開発したチャットボット「Grok」との数十万件に及ぶ会話がGoogle検索を通じて容易にアクセス可能であると、フォーブスが報じました。Grokのユーザーが会話の「シェア」ボタンをクリックすると、メールやテキスト、SNSで共有するためのユニークなURLが生成されます。フォーブスによれば、これらのURLはGoogle、Bing、DuckDuckGoなどの検索エンジンによってインデックスされており、誰でもウェブ上でこれらの会話を検索できるということです。
MetaやOpenAIのチャットボットのユーザーも最近、同様の問題に直面しました。Grokによって漏えいしたチャットは、暗号通貨ウォレットのハッキング方法、AIによる露骨な会話、メタンフェタミンの調理方法など、ユーザーのあまり尊敬できない欲望を垣間見せるものです。
xAIは、そのボットを「人命を深刻に害すること」や「生物兵器、化学兵器、大量破壊兵器の開発」に利用することを禁止しています。しかし、ユーザーがそのような助けを求めることを止めることはできていないようです。
Googleでアクセス可能な会話によれば、Grokはフェンタニルの作り方、自殺方法の一覧、爆弾の作成方法、さらにはイーロン・マスク氏の暗殺計画まで詳細に提供したということです。
xAIはコメントの要請に直ちに応じませんでした。また、Grokの会話がいつからインデックスされ始めたのかについても問い合わせています。
先月末、ChatGPTのユーザーが自分たちのチャットがGoogleでインデックスされていることに警鐘を鳴らしました。これに対し、OpenAIは「短期間の実験」と説明しました。マスク氏が「Grok ftw」と引用ツイートした投稿では、Grokは「そのような共有機能はない」とし、「プライバシーを優先している」と説明しています。
AI業界の内情を報道しています。企業の未来を形作る決定からそれによって影響を受ける人々に至るまで、敏感な情報や機密文書をお持ちの方は、Rebecca Bellan（[email protected]）またはMaxwell Zeff（[email protected]）までご連絡ください。安全な通信のために、Signalでの連絡も可能です（@rebeccabellan.491、@mzeff.88）。
私たちは常に進化を目指しており、TechCrunchの報道やイベントに対する皆様の視点やフィードバックをお寄せいただくことで、私たちをサポートしてください。このアンケートにご回答いただくことで、どのように改善できるかを教えていただき、賞品を獲得するチャンスもあります。