Troisième Guerre mondiale évitée de justesse ? Une IA hallucinée a découvert des composants d'armes nucléaires à bord d'un navire chinois à destination de l'Iran
Une intelligence artificielle (IA) incontrôlée pourrait-elle déclencher une troisième guerre mondiale ?
Nous n'avons pas besoin de films comme Terminator 2 et son Skynet pour nous aider à imaginer cela ; nous sommes en 2026 et il existe déjà un précédent terrifiant dans le monde réel qui aurait pu déclencher une guerre ouverte avec la Chine, puissance nucléaire.
Un analyste humain au sein de la communauté du renseignement américaine a utilisé des données recueillies par une IA pour un rapport qui a ensuite été largement diffusé sur les canaux classifiés du Pentagone, à ceci près que le chatbot sur lequel il s'appuyait était en réalité halluciné que des composants d'armes nucléaires étaient transportés à bord d'un navire chinois à destination de l'Iran .
Naturellement, cela a déclenché l'alerte maximale à Washington, en plein conflit armé que le président Trump a officiellement lancé pour empêcher précisément cela : que l'Iran se procure l'arme nucléaire et des composants d'armes atomiques.
Dès lors, la planification militaire s'est accélérée, une opération d'arraisonnement par les forces spéciales étant imminente. Des unités d'élite étaient apparemment déjà aéroportées, prêtes à fondre sur le navire chinois en question .
Mais ensuite, « l'opération n'a été interrompue qu'après que les autorités ont examiné de plus près le rapport de renseignement et découvert qu'il avait été produit avec l'aide d'un chatbot d'intelligence artificielle », révèle CNN en exclusivité vendredi. L'incident se serait produit au printemps dernier.
L’erreur grave a été constatée à peine à temps pour éviter ce qui aurait pu être la bévue géopolitique et le désastre du siècle : « Le chatbot avait mal identifié la nature du matériau transporté par le navire . »
En substance, les États-Unis se sont retrouvés sur la base de « renseignements » entièrement fabriqués, ce qui pourrait potentiellement mener à un conflit avec la Chine .
Comme pour devancer quiconque pourrait être tenté de penser que ce récit est simplement hyperbolique ou inutilement sensationnaliste, une source officielle (anonyme) a déclaré à CNN que l'évaluation des services de renseignement, qui était « totalement fausse », a finalement « failli déclencher une guerre » .
Alors que la direction du Pentagone, y compris le commandement des opérations spéciales des États-Unis pour le Pacifique, n'a pas encore répondu aux questions de CNN, la chaîne a reconstitué la chaîne présumée des événements et expliqué comment cela aurait pu se produire comme suit :
Dans ce cas précis, l'analyste a interrogé un chatbot au sujet de renseignements figurant sur le manifeste du navire, provenant du Commandement des opérations spéciales des États-Unis pour le Pacifique, basé à Hawaï . On ignore s'il s'agissait d'un chatbot commercial ou d'un produit du gouvernement américain.
« Les outils internes ne sont pour la plupart que des copies relookées des logiciels commerciaux », a déclaré un ancien haut responsable américain connaissant bien les systèmes d'IA utilisés par les analystes militaires et du renseignement.
Le robot a fusionné des renseignements provenant de sources ouvertes avec des renseignements électromagnétiques secrets détenus par le gouvernement et est parvenu à sa conclusion fatidique concernant le matériel transporté par le navire.
L’analyste a ensuite utilisé à nouveau l’IA pour compiler les résultats dans un rapport de renseignement standard — du type de ceux auxquels font confiance les responsables militaires — et l’a diffusé .
Le rapport semble indiquer que l'outil d'IA inconnu qui a été utilisé serait, de toute façon, considéré comme insuffisant et peu performant pour une évaluation aussi importante.
Ce qui est également « rassurant » pour les lecteurs, c'est que, compte tenu de l'intégration massive de l'IA qui semble être la tendance « irréversible » actuelle au sein du département de la Défense/du département de la Guerre et de la communauté du renseignement, des incidents similaires évités de justesse sont inévitables dans un avenir proche et lointain.
CNN souligne : « Au sein de l'armée américaine et de la communauté du renseignement, les responsables s'efforcent d'intégrer l'IA dans presque tous les aspects de leur travail , depuis l'analyse des énormes volumes de renseignements bruts que les États-Unis collectent et la sélection des cibles pour les frappes, jusqu'à des applications plus banales comme la gestion budgétaire, la logistique et les chaînes d'approvisionnement. »
Et si c'était encore un projet d'IA raté ?...
Il semblerait donc que ce ne soient pas seulement des étudiants paresseux qui dépendent trop de l'IA comme substitut à la recherche approfondie et à la pensée critique, mais qu'il s'agisse maintenant d'une génération d'analystes du renseignement américains qui commettent des erreurs potentiellement catastrophiques avec cette technologie.
Commentaires
Enregistrer un commentaire