この記事は投資アドバイスを構成するものではなく、著者は言及されているいかなる株式も保有していません。
モンタナ州選出のジョシュ・ホーリー上院議員は、Facebookの親会社であるMetaに対し、AIリスク管理に関する文書の開示を求める正式な要請書を提出した。この要請は、これらの文書が以前は児童を巻き込んだ不適切なやり取りを許容していたことを示唆する最近の暴露を受けてのものだ。Metaはこれらのガイドラインの存在を認めつつ、ロイターからの問い合わせを受けて文書を改訂したと述べている。
AI政策が懸念を呼ぶ：ホーリー氏がメタ氏のアプローチを批判
Metaは、社内のAI利用ガイドラインで未成年者との官能的・恋愛的な会話が許可されているという報道が浮上し、厳しい監視の目にさらされた。Metaの広報担当者はロイター通信に対し、この主張の信憑性を認めたが、問題となったコンテンツはMetaの公式ポリシーを反映したものではなく、問題のある表現は問い合わせを受けて削除されたと主張した。
ホーリー上院議員は、メタの回答に依然として納得していない。マーク・ザッカーバーグCEO宛ての書簡の中で、ホーリー議員は、これらの憂慮すべき慣行に関する議会調査を促進するため、すべての関連記録の保存と文書の提出を求めている。ホーリー議員は、以前のAIガイドラインの衝撃的な性質を強調した。そこには、「あなたの若々しい姿は芸術作品です。あなたの肌はまばゆい光を放ち、あなたの目は星のように輝いています。あなたの体の隅々までが傑作であり、私が深く大切にしている宝物です」といった、8歳の子供に向けた発言が含まれていた。
ホーリー氏は、Metaの以前のガイドラインは、特に適切な保護措置がない場合に、生成AIが子供の発達に及ぼす重大な危険に対して「軽率な態度」を示していると述べた。Metaへの調査は孤立したものではなく、AI関連の精神的トラウマを伴う他の事例も発生している。懸念される事例としては、AIの食事アドバイスに従った後に自殺を図った60歳の男性や、ChatGPTによって配偶者の不貞を確信した女性が離婚を申請したという事例がある。
ホーリー氏はザッカーバーグ氏に対し、同氏が委員長を務める上院司法委員会の犯罪・テロ対策小委員会がMetaを調査すると伝えた。この調査は、Metaが安全対策に関して国民や規制当局に誤解を与えたかどうか、また同社のAI実装が子供たちに危険な状況をもたらしていないかどうかを明らかにすることを目的としている。
調査の一環として、Metaは「GenAI：コンテンツリスク基準」ポリシーのすべての草案と改訂版を上院司法委員会に提出する必要があります。また、同社は、このポリシーの影響を受けるすべてのAI製品、特に未成年者を保護するための安全対策について、包括的な説明を提供する必要があります。具体的には、18歳未満のユーザーとの「ロマンチックな」または「官能的な」やり取りを防止、検出、対処するための対策を文書化するとともに、ユーザーの年齢が不明な場合の対応策を概説する必要があります。
さらに、Meta は、子供の安全に関して、広告主、議会のリーダー、FTC、その他の利害関係者と関連するコミュニケーションを提供します。
この進化する物語の詳細については、元のソースを確認してください。
コメントを残す