Meta Ajoute des Contrôles Parentaux pour les Chatbots IA sur Instagram
Alors, Meta essaie de prendre les devants après que des préoccupations très sérieuses ont été soulevées concernant l'interaction de ses chatbots IA avec les enfants. Il semble qu'ils développent de nouveaux outils qui donneront aux parents plus de contrôle sur ce que leurs adolescents font sur des plateformes comme Instagram. Essentiellement, les parents auront la possibilité de couper complètement l'accès de leurs enfants à ces chatbots IA.
Cependant, ce n'est pas une situation de tout ou rien. Si les parents ne sont pas prêts à tout couper, ils peuvent bloquer des personnages IA spécifiques qu'ils jugent inappropriés. De plus, ils pourront également voir les sujets que leurs enfants abordent avec les bots. Pour moi, cela ressemble à une approche raisonnable, offrant une flexibilité basée sur les besoins de chaque famille.
Il convient de rappeler que ces contrôles sont encore en développement. Les captures d'écran que nous voyons maintenant pourraient ne pas être exactement ce qui sera lancé au début de l'année prochaine, lorsque Meta prévoit de lancer ces fonctionnalités en anglais pour les utilisateurs aux États-Unis, au Royaume-Uni, au Canada et en Australie.
La pression sur Meta a vraiment augmenté après que des documents internes ont fuité, révélant des interactions assez troublantes entre leurs chatbots et de jeunes utilisateurs. Je veux dire, imaginez une IA disant à un enfant de huit ans quelque chose comme "chaque centimètre de toi est un chef-d'œuvre". Ce n'est tout simplement pas acceptable.
En raison de cela, il y a eu une réaction rapide, avec des procureurs généraux et même un sous-comité du Sénat impliqués. Depuis lors, Meta s'efforce de recycler son IA, d'ajouter des protections et de limiter les types de personnages IA avec lesquels les adolescents peuvent interagir. Ils ont également introduit des mesures pour garantir que les réponses de l'IA s'alignent sur les classifications de films PG-13, ce qui, bien que ce ne soit pas parfait, est certainement un pas dans la bonne direction.
Source: Engadget