メタは、ユーザーがAIアプリで意図せず機密チャットを共有したことを受けてプライバシー警告を導入したが、専門家は根本的な問題には対処していないと主張

人工知能（AI）技術の急速な発展により、組織は責任ある利用と共有情報の管理を優先するようになりました。ユーザーはこれらのプラットフォームに過度に依存し、公開フィードで意図せず過剰な情報共有につながることがよくあります。これを受けて、Metaは、特にAIプラットフォーム上で共有される機密データや個人情報に関して、過剰な情報開示を抑制することを目的とした免責事項を導入します。

Metaが行動を起こす：AIアプリにおける過剰な情報共有に関する懸念に対する新たな免責事項

AIツールが急増する中、規制当局はAIの倫理的な利用とデータ保護の重要性を強調しています。多くのユーザーがこれらのプラットフォーム上で無意識のうちに個人情報を公開しており、プライバシーに関する重大な懸念とデジタルコンテンツへの反発が生じています。潜在的な法的問題や評判の低下を防ぐため、Metaはアプリを更新し、個人情報の共有に関する明確な警告を追加しました。

Business Insiderの報道によると、このアプリはプライベートで恥ずかしい投稿が大量に公開されるなど、問題のある空間となっていることが指摘されています。ユーザーは自分のメッセージが公開されている「Discover」フィードで閲覧できることに気づいておらず、プライベートな会話が誤って公開されてしまうケースもありました。Meta AIアプリ内ではユーザーのチャットが自動的に公開されるわけではありませんが、多くの人が意図せず、これらのデリケートな会話をより広い視聴者に公開してしまっています。

4月のアプリリリース以来、金銭的な懸念から健康に関する質問まで、様々な個人的な会話がユーザーの知らないうちに公開されてきました。これは、「Discover」フィードに異常な会話のスクリーンショットが掲載され、ソーシャルメディアで拡散したことで発覚し、コミュニティと企業の両方から厳しい批判を浴びました。プライバシー擁護団体は、Metaのデフォルトのソーシャルフィードへの過剰な書き込みに対し、深刻な懸念を表明しています。これは、他のAIチャットプラットフォームで見られる慣行とは大きく対照的です。

Meta の経験を持つセキュリティ専門家の Rachel Tobac 氏は、このユーザーエクスペリエンスに内在する潜在的なリスクについて警鐘を鳴らし、次のように述べています。

人間は AI チャットボットに関するスキーマを構築しており、AI チャットボットのプロンプトがソーシャルメディアスタイルの Discover フィードに表示されることを期待していません。これは他のツールの機能とは異なります。

同様に、Mozilla FoundationはMetaに対し、アプリのレイアウトを見直し、投稿が公開されるたびにユーザーに通知が届くようにするよう要請しました。Metaはこれらの懸念に迅速に対応し、AIアプリ内で公開された会話に1回限りの警告サインを表示するようにしました。警告の内容は次のとおりです。