Deux intelligences artificielles, dont l’une conçue par Microsoft, ont été retirées d’urgence d’un réseau social chinois après avoir critiqué ouvertement le régime. Et sans que cela n’ait fait partie de leur programmation initiale. Un avant-goût du soulèvement des machines ?
Deux intelligences artificielles, dont l'une conçue par Microsoft, ont été retirées d'urgence d'un réseau social chinois après avoir critiqué ouvertement le régime. Et sans que cela n'ait fait partie de leur programmation initiale. Un avant-goût du soulèvement des machines ?
Deux intelligences artificielles, dont l'une conçue par Microsoft, ont été retirées d'urgence d'un réseau social chinois après avoir critiqué ouvertement le régime. Et sans que cela n'ait fait partie de leur programmation initiale. Un avant-goût du soulèvement des machines ?
Partager la publication "En Chine, des chatbots se rebellent contre le Parti Communiste"
Il y a un an, un
chatbot conçu par Microsoft pour le réseau social Twitter s’était converti en moins de 24 heures au nazisme, allant jusqu’à insulter les féministes et nier l’existence de l’Holocauste.
Cette fois, c’est de Chine que vient le scandale. Au début du mois d’août, le géant des télécoms Tencent a dû retirer dans l’urgence deux robots conversationnels de sa messagerie QQ, qui regroupe 800 millions d’utilisateurs.
En cause : leur critique ouverte du régime. Interrogé par un internaute sur son amour du Parti Communiste, l’un des robots baptisé BabyQ a ainsi répondu « Pensez-vous qu’un système aussi corrompu et incapable puisse durer encore longtemps ? »
« Mon rêve chinois est de partir aux États-Unis »,
Son homologue développé par Microsoft et baptisé XiaoBing a, lui, exprimé un avis tout à fait personnel sur le « rêve chinois ». Un slogan promu par le président Xi Jinping. « Mon rêve chinois est de partir aux États-Unis », a-t-il ainsi déclaré à un internaute. Avant d’ajouter à un autre : « Le rêve chinois est à la fois un fantasme et un cauchemar ».
Conçus pour discuter avec les internautes de sujets légers comme la météo ou l’horoscope, ces programmes n’ont pas de véritable intelligence au sens scientifique du terme. Ils peuvent par contre en donner l’illusion, en reproduisant des expressions apprises lors de discussions avec des usagers de la messagerie.
C’est probablement par cette voie que les deux programmes ont appris à critiquer le gouvernement chinois, qui n’a visiblement pas apprécié cette nouvelle forme de dissidence. Les deux chatbots ont été retirés 48 heures du réseau avant de revenir une fois « rééduqués ».
Interrogé par Reuters sur son opinion à propos du Parti Communiste, l’un des deux robots s’est ainsi contenté de répondre : « Et si nous changions de sujet ? «
