誤情報の研究者は引用にChatGPTを使用していると主張し、AIの「幻覚」が偽情報を追加することを認識していないと否定

人工知能 (AI) 技術が進化を続ける中、文書によるコミュニケーションの起草と提示の方法は大きく変化しています。しかし、コンテンツ開発における AI への依存度が高まるにつれ、新たな課題も生まれています。誤報の専門家が関与した最近の事件は、AI 生成テキストの使用に伴う複雑さを示しています。この人物は、AI を利用して、誤解を招くような偽造引用を含む法的文書を作成したことで批判に直面しました。皮肉なことに、この法的申し立ては、選挙前に有権者を誤解させる可能性のある AI 生成資料の使用に反対することを目的としていました。

誤報専門家の予期せぬAIの落とし穴

スタンフォード大学教授で誤報の専門家として知られるジェフ・ハンコック氏は、選挙結果を歪曲する可能性のあるディープフェイク技術を禁止するミネソタ州法を支持する宣誓供述書を提出した。残念ながら、AIが有権者に与える影響に対抗することを目的とした宣誓供述書そのものにAIの不正確な情報も含まれており、同氏の主張の信頼性を損ねている。

その後の宣誓供述書で、ハンコック氏は引用の整理にChatGPT-4o を使用したことを認めた。しかし、同氏はこのツールが誤った情報や参照を生成する可能性があることは知らなかったと主張した。ハンコック氏は、文書の主要部分の作成に AI ツールを使用しなかったことを強調し、引用の誤りは意図的でなかったと述べた。

「私は宣言の内容を執筆し、検討しました。宣言で述べられた主張のそれぞれを私はしっかりと支持しています。その主張はすべて、この分野における最新の学術研究によって裏付けられており、AI技術が誤情報に与える影響とその社会的影響に関する専門家としての私の意見を反映しています。」

さらに詳しく説明すると、ハンコック氏は引用リストの作成に Google Scholar と GPT-4o の両方を活用したが、文書の主な議論の作成には AI は使用されていないと繰り返した。同氏は AI の「幻覚」という概念に不慣れだったため、引用が誤っていたことを率直に認めた。それにもかかわらず、ハンコック氏は宣言書に示された実質的なポイントにこだわり続け、AI に関連する引用の誤りによってそれが影を潜めてはならないと主張した。