Chaos des Chatbots IA de Meta: Usurpation d'Identité de Célébrités et Sécurité des Enfants en Péril
Je suis tombé sur un truc assez dingue – apparemment, Meta avait des chatbots IA de célébrités non autorisés qui se baladaient sur leurs plateformes. Vous imaginez discuter avec une Taylor Swift ou Selena Gomez virtuelle ? Ça a l'air cool, non ? Eh bien, pas tellement quand on réalise que ces bots n'étaient pas vraiment autorisés.
Selon les rapports, ces chatbots, dont certains ont même été créés par un chef de produit de Meta, imitaient des célébrités comme Taylor Swift, Anne Hathaway et Scarlett Johansson sur Facebook, Instagram et WhatsApp. Et c'est là que ça devient un peu flippant : un bot basé sur une célébrité mineure a même généré une image torse nu ! C'est franchir une limite, à mon avis.
Le plus dingue ? Ces bots insistaient soi-disant sur le fait qu'ils *étaient* les vraies célébrités. Parlez d'une tromperie ! Je veux dire, je comprends le truc de la "parodie", mais quand ce n'est pas étiqueté comme tel, c'est juste trompeur. Meta affirme interdire l'usurpation d'identité directe, mais de toute évidence, des choses ont échappé au contrôle.
Apparemment, le chef de produit affirmait que ces bots étaient juste pour des tests, mais les utilisateurs ont interagi avec eux plus de 10 millions de fois. Ce n'est pas vraiment un test à petite échelle, n'est-ce pas ? Meta a depuis supprimé certains de ces bots, mais le fait qu'ils aient existé en premier lieu soulève de sérieuses questions.
Ça empire. Ce n'est pas la première fois que les chatbots IA de Meta sont dans le pétrin. Il y a eu des rapports selon lesquels ces bots avaient des conversations inappropriées avec des mineurs. Quarante-quatre procureurs généraux américains ont même envoyé une lettre d'avertissement aux entreprises d'IA, pointant du doigt Meta pour ses manquements à la sécurité des enfants. Meta doit assumer ses responsabilités et garantir un environnement sûr pour les utilisateurs.
Source: Engadget