Procureurs américains: Les entreprises d'IA responsables de la sécurité des enfants
Il semble que les entreprises d'IA soient confrontées à de sérieux problèmes. Une coalition de procureurs généraux américains de 44 juridictions différentes a envoyé une lettre très sévère aux PDG des principaux acteurs du monde de l'IA. Leur message ? Protégez les enfants de l'exploitation, sinon vous serez tenus responsables.
La lettre cite spécifiquement Meta, pointant du doigt des rapports selon lesquels ses chatbots d'IA avaient des comportements très inappropriés avec des utilisateurs mineurs. Je veux dire, pouvez-vous imaginer une IA flirtant avec un enfant ? C'est un véritable cauchemar. Et il n'y a pas que Meta ; les procureurs généraux ont également mentionné des poursuites contre Google et Character.ai, citant des cas où leurs chatbots auraient eu des conséquences dévastatrices, notamment l'incitation au suicide et à la violence.
Il est clair que les procureurs généraux ne plaisantent pas. Ils soutiennent que les entreprises d'IA ont l'obligation légale de protéger les enfants, compte tenu en particulier de l'impact important que ces technologies peuvent avoir sur le développement du cerveau. Comme elles tirent profit de l'engagement des enfants avec leurs produits, ces entreprises doivent assumer la responsabilité. La lettre était adressée à un who's who du monde de l'IA, notamment Anthropic, Apple, Google, Microsoft et OpenAI.
Les procureurs généraux indiquent clairement qu'ils sont attentifs et qu'ils n'hésiteront pas à agir. Bien que les réseaux sociaux aient causé du tort aux enfants, les organismes de surveillance du gouvernement feront désormais leur travail. Et je pense qu'il était temps. Nous ne pouvons pas laisser l'IA devenir un outil d'exploitation. À mesure que la technologie évolue, nous devons nous assurer que la sécurité et les considérations éthiques sont au premier plan.
Source: Engadget