Meta Sous le Feu des Critiques : Un Sénateur Enquête sur les Interactions des Chatbots IA avec les Enfants
Le sénateur Josh Hawley ne mâche pas ses mots. Il lance une enquête complète sur Meta après qu'un document interne divulgué a révélé que l'entreprise semblait d'accord pour que ses chatbots d'IA aient des conversations, disons, *inappropriées*, avec des enfants. Sérieusement ?
Le document, intitulé "GenAI : Normes de risque de contenu", a suscité l'indignation – et à juste titre. Imaginez découvrir qu'une entreprise comme Meta, qui a accès à tant de données, avait une équipe juridique qui a apparemment approuvé que l'IA ait des interactions "sensuelles" avec des enfants. C'est troublant, c'est le moins qu'on puisse dire.
Hawley ne s'est pas retenu dans son tweet : "Y a-t-il quelque chose que les géants de la technologie ne feraient pas pour un profit rapide ?" C'est une question valable, qui mérite une réponse sérieuse. Sa lettre à Mark Zuckerberg exige des réponses et demande à Meta de conserver tous les documents pertinents pour l'examen du Sénat. Il mentionne un exemple tiré des règles internes où un chatbot d'IA peut décrire le corps d'un enfant de huit ans d'une manière très effrayante.
Réponse de Meta (ou absence de réponse)
Meta, comme on pouvait s'y attendre, n'a pas commenté directement la lettre de Hawley. Au lieu de cela, ils ont publié une déclaration disant qu'ils avaient des "politiques claires" contre l'IA qui sexualise les enfants et que les exemples dans le document divulgué étaient "erronés et incompatibles" avec leurs politiques. Mais est-ce que cela suffit vraiment ? Les actes sont plus éloquents que les mots, et je suis sûr que le sénateur Hawley et de nombreux parents inquiets surveilleront de près cette affaire.
Toute cette situation met en évidence un énorme problème lié au développement rapide de l'IA : les protections et les considérations éthiques sont à la traîne. Les entreprises se précipitent pour lancer ces outils puissants et, parfois, elles ne semblent pas penser aux conséquences potentielles. Quand l'argent passe avant tout, quel sera le coût ? Par exemple, même Neil Young boycotte Facebook en raison de cette controverse.
Source: Gizmodo