L’intelligence artificielle peut-elle détruire l’humanité ? Il y a 5 % de risque, selon des scientifiques

Difficile, voire impossible, d’avoir une idée objective et précise des risques que font encourir l’intelligence artificielle (IA) à l’humanité. Nous projetons nos fantasmes – optimistes ou pessimistes – sur cette technologie dont la popularité et les usages ont explosé depuis un peu moins de deux ans seulement. Le phénomène ChatGPT et toutes les discussions autour y ont été pour beaucoup. Afin d’essayer d’y voir un peu plus clair, des chercheurs de l’Université de Californie à Berkeley (USA) et de l’Université d’Oxford (Royaume-Uni) ont mené une étude en décembre dernier.

Leur enquête a consisté à interroger quelque 2 778 scientifiques reconnus ayant publié des études portant sur l’intelligence artificielle. Un travail intitulé : « Thousands of AI authors on the future of AI ». Objectif : leur demander leurs prédictions sur le rythme des progrès de l’IA et la nature et les impacts des systèmes d’IA avancés. Il y a « 5 % de chances d’aboutir à des résultats extrêmement mauvais, comme l’extinction de l’humanité », note le rapport de l’étude.

Une constante parmi les scientifiques : l’incertitude face à l’IA

La plupart des personnes interrogées ont exprimé une grande incertitude quant à la valeur à long terme des progrès de l’IA. En effet, 68,3 % pensent qu’il y aura sans doute plus d’effets positifs que négatifs à l’émergence d’une IA surhumaine (qui ne se distingue pas de l’esprit humain ou le surpasse). Mais, parmi ces optimistes, 48 % ont donné au moins 5 % de chances d’aboutir à des résultats extrêmement mauvais, comme l’extinction de l’humanité.

Parmi les risques avancés, ces chercheurs de premier plan en IA ont cité « la diffusion de fausses informations [fake news], le contrôle autoritaire de la population, l’aggravation des inégalités » ou encore la création de virus artificiels. En revanche, les responsables de l’étude notent un désaccord sur la question de savoir si des progrès plus rapides ou plus lents de l’IA seraient meilleurs pour l’avenir de l’humanité.

Une révolution technologique aux conséquences imprévisibles pour l’humanité

« C’est un signal important que la plupart des chercheurs en IA ne trouvent pas tout à fait invraisemblable que l’IA avancée détruise l’humanité. » Pour Katja Grace, une des autrices de l’enquête et chercheuse au Machine Intelligence Research Institute en Californie, il est donc normal – et nécessaire – de s’inquiéter des possibles effets des avancées de l’IA. Sans être alarmiste, la prudence s’impose face à cette révolution technologique aux conséquences imprévisibles pour l’humanité. Et, pour les scientifiques, une régulation est nécessaire pour mettre en place des garde-fous face aux risques sociétaux.

En outre, même si à l’heure actuelle, le développement des IA semble exponentiel, on n’est pas à l’abri d’un retournement de situation. Le secteur a déjà connu, dans les années 70 et 80, ce qu’on appelle des « hivers de l’IA » où les financements se tarissent et où la recherche se désintéresse partiellement du sujet.

SOUTENEZ WE DEMAIN, SOUTENEZ UNE RÉDACTION INDÉPENDANTE
Inscrivez-vous à notre newsletter hebdomadaire
et abonnez-vous à notre magazine.