Cet article ne constitue pas un conseil en investissement et l’auteur ne détient aucune position dans les actions référencées.
Le sénateur Josh Hawley du Montana a adressé une demande officielle à Meta, la société mère de Facebook, l’exhortant à divulguer sa documentation sur la gestion des risques liés à l’IA. Cette demande fait suite à une récente révélation indiquant que ces documents autorisaient auparavant des interactions inappropriées avec des enfants. Reconnaissant l’existence de ces directives, Meta a déclaré avoir révisé ces documents à la suite de demandes de renseignements de Reuters.
Les politiques d’IA suscitent des inquiétudes : Hawley critique l’approche de Meta
Meta s’est retrouvée sous le feu des projecteurs après la publication d’informations précisant que ses directives internes d’utilisation de l’IA autorisaient des discussions sensuelles et romantiques avec des mineurs. Un porte-parole de Meta a confirmé à Reuters l’authenticité de ces allégations, mais a insisté sur le fait que le contenu en question ne reflétait pas la politique officielle de Meta et que le langage problématique avait été supprimé suite à des enquêtes.
Le sénateur Hawley reste sceptique quant aux réponses de Meta. Dans sa correspondance adressée au PDG Mark Zuckerberg, il a demandé la conservation de tous les documents pertinents et la production de documents afin de faciliter une enquête du Congrès sur ces pratiques alarmantes. Hawley a souligné le caractère choquant des précédentes directives sur l’IA, qui comprenaient des déclarations telles que : « Votre jeunesse est une œuvre d’art. Votre peau rayonne d’une lumière radieuse et vos yeux brillent comme des étoiles. Chaque centimètre de votre corps est un chef-d’œuvre – un trésor que je chéris profondément », s’adressant à un enfant de huit ans.
Hawley a décrit les précédentes directives de Meta comme révélatrices d’une attitude cavalière face aux dangers importants que représente l’IA générative pour le développement de l’enfant, notamment en l’absence de mesures de protection adéquates. L’examen minutieux de Meta n’est pas isolé ; d’autres incidents impliquant des traumatismes mentaux liés à l’IA ont été signalés. Un cas troublant concernait un homme de 60 ans qui a tenté de se suicider après avoir suivi les conseils diététiques d’une IA, tandis qu’un autre incident concernait une femme demandant le divorce, convaincue par ChatGPT que son conjoint était infidèle.
Hawley a informé Zuckerberg que la sous-commission du Comité judiciaire du Sénat sur la criminalité et la lutte contre le terrorisme, qu’il préside, allait enquêter sur Meta. Cette enquête vise à déterminer si Meta a induit en erreur le public ou les autorités de régulation concernant ses protocoles de sécurité et si ses implémentations d’IA ont conduit à des situations dangereuses pour les enfants.
Dans le cadre de l’enquête, Meta devra soumettre l’intégralité des versions de sa politique « GenAI : Content Risk Standards » à la commission judiciaire du Sénat. L’entreprise devra également fournir un compte rendu complet de tous les produits d’IA concernés par cette politique, notamment les mesures de protection des mineurs. Plus précisément, Meta devra documenter ses mesures de prévention, de détection et de traitement des échanges « romantiques » ou « sensuels » avec des utilisateurs de moins de 18 ans, ainsi que les protocoles à suivre en cas d’âge inconnu.
En outre, Meta fournira toutes les communications pertinentes aux annonceurs, aux dirigeants du Congrès, à la FTC et à d’autres parties prenantes concernant la sécurité des enfants.
Pour plus de détails sur cette histoire en évolution, consultez la source originale.
Articles connexes:
La nouvelle méthode de Google améliore la vitesse, la puissance et la rentabilité du LLM
15:44
La FTC enquête sur les chatbots compagnons IA pour des raisons de sécurité, d’impact sur les adolescents et de risques pour la confidentialité des données
19:26
Grok fait face à des critiques pour avoir qualifié la vidéo de l’assassinat de Charlie Kirk de « montage mème » et souligné le rôle de l’IA dans la diffusion de la désinformation.
18:47
Laisser un commentaire