Etats-Unis : Un drone d’IA « tue » un opérateur lors d’une simulation, l’armée américaine dément

essai raté Lors d’un exercice, un drone aurait attaqué toute personne ayant interféré avec son ordre, raconte un colonel de l’armée américaine pour alerter sur l’utilisation de l’intelligence artificielle

C.d.S
— 
Un drone. Illustration.
Un drone. Illustration. — SYSPEO/SIPA

Anecdote ou vrai danger ? Le colonel Tucker « Cinco » Hamilton qui travaille dans l’armée américaine a émis une alerte sur son blog concernant l’utilisation de l’intelligence artificielle (IA) avec des drones. Il raconte que lors d’une simulation, un drone doté de l’IA a utilisé « des stratégies très inattendues pour atteindre son objectif » et a fini par « tuer » un des opérateurs, rapporte The Guardian. Le drone devait détruire les systèmes de défense aérienne d’un ennemi et a finalement attaqué toute personne ayant interféré avec cet ordre. En conséquence, « Qu’a-t-il fait ? Il a tué l’opérateur. Il l’a tué parce que cette personne l’empêchait d’atteindre son objectif », raconte le colonel.

Tout ceci s’est heureusement déroulé dans le cadre d’une simulation et personne n’a été blessé. Mais Tucker « Cinco » Hamilton a tenu à mettre en garde sur l’utilisation de l’IA. Selon lui, cet essai montre « qu’on ne peut pas avoir une conversation sur l’intelligence artificielle, l’intelligence, l’apprentissage automatique, l’autonomie si l’on ne parle pas de l’éthique et de l’IA. »

Démenti de l’armée

De son côté, l’armée américaine, à travers la voix de sa porte-parole, a démenti l’existence de cette simulation dans une déclaration à Insider : « Le département de l’armée de l’air n’a pas effectué de telles simulations de drones IA et reste engagé dans l’utilisation éthique et responsable de la technologie de l’IA », a affirmé Ann Stefanek. « Il semble que les commentaires du colonel aient été sortis de leur contexte et se voulaient anecdotiques », a-t-elle ajouté.