Il avait pris l’habitude de tout lui demander : quand traiter ses cultures, quand apporter de l’engrais, quels produits utiliser… Pendant plus d’un an, un agriculteur chinois de 67 ans, installé à Chuzhou, dans la province de l’Anhui, a fait de l’intelligence artificielle son conseiller agricole de poche. D’abord un peu sceptique, il avait, au fil des mois, fini suivre aveuglément ses instructions. Jusqu’au jour où ses recommandations ont viré au désastre. Le 10 juillet dernier, l’homme, désigné sous le nom de Wu par les médias chinois, commence par demander comment désherber une rizière, puis enchaîne avec une question sur son champ de sésame. Lorsqu’il précise qu’il souhaite utiliser un drone, l’outil génère une “solution complète” pour traiter l’ensemble de la parcelle.
L’IA lui fournit alors ce qui ressemble à un véritable protocole professionnel : une combinaison de deux herbicides et de deux insecticides, assortie de recommandations pour l’épandage. Wu suit la recette, sans la faire vérifier au préalable par un technicien agricole ni même s’interroger lui-même sur les effets secondaires de chaque produit ou de leur combinaison. Erreur fatale. Le lendemain, le constat est sans appel : mauvaises herbes et plants de sésame ont dépéri ensemble. Et, selon l’agriculteur, "les plants sont morts encore plus vite" que les adventices. Au total, environ 10 hectares ont été touchés en moins de 24 heures… grâce au drone qui a permis de traiter une grande surface.
Une recommandation très concrète… et très mauvaise
Parmi les substances recommandées figurait un herbicide à large spectre, destiné notamment à éliminer les plantes à feuilles larges dans les cultures de soja. Des professionnels agricoles interrogés par Litchi News ont expliqué qu’il ne devait pas être pulvérisé de cette manière sur un champ de sésame : appliqué sur toute la parcelle, il risque de détruire la culture que l’on cherche justement à protéger.
Ironie de l’histoire, après avoir constaté les dégâts, Wu est retourné demander des explications… à l’IA. Celle-ci lui indique alors que le produit en question est probablement responsable de la destruction de ses plants. La solution suggérée était donc erronée, mais formulée avec suffisamment de précision pour ressembler à un protocole professionnel. C’est précisément ce que l’on appelle une hallucination d’IA.
L’agriculteur assure qu’il aurait agi différemment si l’outil lui avait explicitement conseillé de faire vérifier le protocole. Un avertissement était pourtant affiché dans l’interface, comme il est de coutume dans les IA. Ce que Wu affirme ne jamais avoir remarqué…
Quand une hallucination sort de l’écran
Contacté par Litchi News, le service client du logiciel concerné – dont le média ne donne pas le nom – a expliqué que l’outil ne disposait pas de sa propre base de connaissances et construisait ses réponses à partir d’informations publiques disponibles en ligne. L’entreprise a indiqué vouloir identifier la source ayant conduit à cette recommandation et enregistrer la réclamation de l’agriculteur. La fait qu’il ait d’abord demandé des conseils pour une rizière puis pour un champ de sésame dans la même conversation a peut-être aussi poussé l’IA à mal conseiller l’agriculteur.
L’affaire pourrait prêter à sourire si les conséquences n’étaient pas aussi concrètes. Une hallucination d’IA dans un résumé ou une recette de cuisine peut se traduire par une information fausse ou un plat raté. Mais lorsqu’un modèle propose un dosage de pesticide, un traitement médical, une décision financière ou la préparation d’un champignon toxique, l’erreur quitte l’écran pour devenir très concrète. Et aux conséquences parfois terribles.
L’expérience de Wu montre aussi comment la confiance peut s’installer insidieusement. L’agriculteur raconte avoir été sceptique au début, avant de constater que les réponses obtenues lui semblaient généralement satisfaisantes. À force, il avait fini par "tout demander à l’IA", sans vraiment réfléchir ou remettre en question ses réponses. Jusqu’à confondre un assistant conversationnel capable de produire une réponse convaincante avec un expert capable de garantir qu’elle était juste.
