OpenAIは、ChatGPTの登場により人工知能のあり方を一変させました。ChatGPTは、医療、教育など、様々な分野で採用されています。しかしながら、同社はAI技術の悪用について懸念を表明しています。最近の報道によると、OpenAIは、特に中国発の、世論操作を目的とした有害な目的に関連する複数の秘密工作を発見し、解体したとのことです。
調査によりChatGPTのプロパガンダへの不正使用が明らかに
AI機能の急速な拡大と様々なテクノロジーへの統合は、テクノロジーコミュニティにおいて重大な倫理的問題を提起しています。AIの倫理的利用に関する責任がプロバイダーにますます重くのしかかる中、OpenAIのような企業は責任ある開発慣行を促進する責務を負っています。倫理基準の推進に向けた熱心な取り組みにもかかわらず、悪用事例は依然として発生しています。OpenAIは、中国発と考えられるプロパガンダ目的でChatGPTを利用した複数のソーシャルメディアキャンペーンを特定し、停止させました。
OpenAIは合計10の異なるオペレーションを停止したと報じられており、そのうち4つは特に中国の利益に関連していました。これらのオペレーションはChatGPTを利用して政治的なコンテンツを作成し、複数のプラットフォームで個人になりすまして世論を形成していました。「Uncle Spam」と呼ばれる注目すべき活動の一つは、米国のデリケートな問題に関する挑発的な物語を作り上げていました。OpenAIは、このような悪用は一つの国に限ったことではなく、ロシア、イラン、北朝鮮などの他の国々も同様にこの技術を操作目的で悪用していると指摘しています。
NPRの報道によると、ChatGPTの悪用は単なるプロパガンダの作成にとどまりません。これらの投稿は、より信頼性が高くアクセスしやすいように戦略的に増幅されており、世論への影響に対する懸念が高まっています。さらに、チャットボットがこれらの取り組みをどのように支援したかを反映した業績評価の作成にも悪用が及んでいました。報告書では以下の点が強調されています。
中国のプロパガンダ活動家たちは、ソーシャル メディア サイトに投稿やコメントを書くために ChatGPT を使用しているほか、上司のためにその仕事の詳細を記した業績評価も作成しています。
OpenAIの情報・調査チームの著名な調査員であるベン・ニモ氏は、これらの活動によってもたらされる脅威の増大について語った。
中国では、ますます多様な戦術を用いた秘密作戦の範囲が拡大しているのが見られます。
これらの作戦には、アナリスト、ジャーナリスト、政治家を標的としたメールの作成も含まれており、虚偽の口実で関係を構築し、機密情報を引き出すことを目的としていました。AIツールを戦略的操作に利用することは、重大な倫理的懸念を引き起こすため、企業はこのような行為を抑制するための警戒と積極的な対策を講じる必要があります。
コメントを残す