Nouvelle IA de Huawei : DeepSeek-R1-Safe Conçue pour la Conformité Gouvernementale
Alors, il y a ce nouveau modèle d'IA appelé DeepSeek-R1-Safe, et c'est assez intéressant. Il semble que Huawei et certains chercheurs aient travaillé à le rendre, eh bien, moins controversé. L'idée est que cette IA ne se plonge pas dans des sujets considérés comme politiquement sensibles.
D'après ce que j'ai compris, ils ont pris le modèle original DeepSeek R1 et l'ont modifié en utilisant un tas de puces d'IA. Le but ? S'assurer qu'il évite les discours potentiellement "toxiques" ou nuisibles. Huawei affirme qu'il est plutôt bon dans ce domaine, bien qu'il semble trébucher si vous essayez de le tromper avec des défis ou des scénarios de jeux de rôle. Ces modèles d'IA, ils adorent jouer un scénario hypothétique qui leur permet de défier leurs barrières de protection.
Maintenant, pourquoi se donner la peine de faire tout cela ? Eh bien, en Chine, il existe des réglementations qui stipulent que les modèles d'IA doivent adhérer à certaines valeurs et restrictions de discours. Et il n'y a pas que la Chine. D'autres pays, comme l'Arabie saoudite, développent également une IA qui s'aligne sur leur culture et leurs valeurs spécifiques. Même aux États-Unis, on a parlé de s'assurer que l'IA utilisée par le gouvernement est "neutre" et impartiale. Il semble que tout le monde veuille s'assurer que l'IA ne cause pas trop de problèmes.
Cela vous fait vous demander, n'est-ce pas ? Comment définir "neutre" ou "impartial" lorsqu'il s'agit d'IA ? Et qui décide de ce qui est considéré comme politiquement sensible ? Par exemple, OpenAI dit que ChatGPT penche vers les opinions occidentales, il est donc intrinsèquement biaisé. C'est une situation délicate et il sera intéressant de voir comment tout cela se déroulera à mesure que l'IA s'intègre de plus en plus dans nos vies.
En fin de compte, toute cette situation de DeepSeek-R1-Safe nous rappelle que l'IA ne se limite pas à la technologie. Il s'agit aussi de politique, de culture et de valeurs. Et à mesure que nous avançons, nous devons réfléchir attentivement à la manière dont nous voulons façonner ces modèles d'IA et au type de monde que nous voulons qu'ils contribuent à créer.
Source: Gizmodo