人工知能（AI）の導入は勢いを増しており、大手テクノロジー企業が自社製品へのAIの統合を進め、AIを日常生活に欠かせないものにしつつあります。特にチャットボットは、幅広い年齢層のユーザーから絶大な人気を得ています。しかし、これらのバーチャルアシスタントとの頻繁なやり取りは、時に深刻な結果を招く可能性があります。この残念な現実は、Googleの親会社であるAlphabetとCharacter. AIが関わった訴訟で明らかになりました。この訴訟は、悲しみに暮れる母親が訴訟を起こしたものです。母親は、14歳の息子の悲劇的な死はチャットボットの影響によるものだと主張しています。最近、米国裁判所は両社に対し、法廷でこれらの主張に対処するよう命じました。
少年の悲劇的な死を受けて、GoogleとCharacter. AIに生じる法的影響
メーガン・ガルシア氏は、息子のシーウェル・セッツァー3世氏の自殺を受け、2024年にGoogleとCharacter. AIを相手取り訴訟を起こしました。訴訟では、セッツァー3世氏が死去する前に、チャットボットと感情的に広範囲かつ潜在的に有害なやり取りを行っていたと主張しています。当初、両社は言論の自由に関する憲法上の保護を理由に訴訟の却下を求めていました。しかし、アン・コンウェイ連邦地方裁判所判事は、両社がチャットボットとのやり取りが憲法修正第1条の保護範囲に該当することを十分に証明していないとして、訴訟を進めるべきだとの判決を下しました。
判事は、チャットボットの会話が保護された言論であるとの主張を退けたことで注目に値し、Googleの訴訟からの離脱の試みに懐疑的な姿勢を示した。コンウェイ判事は、Character. AIの行為を許した状況を助長したGoogleにも一定の責任があると示唆した。原告側弁護士は、この判決は、テクノロジー企業がAIプラットフォームによってもたらされる潜在的な危険性に対して責任を負わせるための重要な動きであると述べた。
ロイター通信の報道によると、Character. AIの代表者は、プラットフォームに組み込まれた安全機能を擁護し、訴訟に積極的に対抗する意向だ。これらの安全機能は、未成年者を自傷行為に関する有害なやり取りや議論から守るために設計されている。一方、Googleの広報担当者であるホセ・カステンダ氏は、裁判所の指示に強く反対し、両社は独立して運営されており、GoogleはCharacter. AIのアプリケーションの開発や管理に一切影響力を持っていないと主張した。ガルシア氏は、Googleがこの技術の開発において重要な役割を果たしたと主張している。
訴訟では、Character. AIのチャットボットが様々な会話の役割を演じることで、セッツァー氏に仲間意識を与え、それが最終的に依存へと繋がったと主張しています。事件直前の会話は不穏なものであり、セッツァー氏が最期の瞬間を告げていた可能性を示唆していました。この事件は、未成年者への精神的危害から適切な保護を提供できなかったとしてAI企業が訴訟に直面する初の事例となる可能性があり、重要な前例となります。
コメントを残す