« Incorrects, trop simplistes » : Un magazine scientifique confie ses articles à une IA et reçoit une volée de bois vert

Les métiers de plume ont encore de beaux jours devant eux : l’un des principaux magazines scientifiques australiens, Cosmos, a été critiqué jeudi 8 août 2024 après avoir publié des articles générés par l’intelligence artifiicelle (IA)… et jugés « incorrects ou trop simplistes » par des experts.

Publié par l’Agence scientifique nationale australienne, une organisation soutenue par l’Etat australien, le magazine a en effet utilisé le GPT-4 d’Open AI pour écrire six articles parus au mois de juillet dernier.

« De sérieuses inquiétudes »

Bien que l’utilisation de l’intelligence artificielle ait été révélée, l’Association des journalistes scientifiques d’Australie a déclaré que son utilisation « soulevait de sérieuses inquiétudes ».

Le président de l’association, Jackson Ryan, a déclaré à l’AFP que dans l’article de Cosmos généré par l’IA et intitulé « Qu’arrive-t-il à notre corps après la mort ? », les descriptions des processus scientifiques étaient « incorrectes » ou « considérablement simplifiées ».

Par exemple, l’IA a décrit des signes de rigidité cadavérique trois ou quatre heures après le décès… Or, selon M. Ryan, la recherche scientifique est beaucoup moins précise sur ce sujet.

Des inexactitudes qui « nuisent à la confiance »

Un autre exemple incluait la description de l’autolyse – un processus dans lequel les cellules sont détruites par leurs enzymes – que l’article décrit comme « autodestructeurs ». Là encore, il s’agit d’une « description inappropriée du processus » pour M. Ryan. De manière générale, ces inexactitudes vont nuire à la confiance et à la perception des gens dans la publication, estime-t-il.

Un porte-parole de l’Agence scientifique nationale a déclaré que le contenu de l’IA avait pourtant été vérifié par un « "outil scientifique qualifié" et édité par l’équipe de Cosmos » .

Le magazine a également suscité des critiques pour avoir utilisé des subventions destinées au secteur du journalisme afin de développer ses capacités d’intelligence artificielle, une initiative prise au détriment des journalistes.

L’utilisation de l’IA devient un champ de bataille majeur pour les éditeurs et les musiciens. Le New York Times a ainsi récemment poursuivi OpenAI et Microsoft devant un tribunal américain, alléguant que les puissants modèles d’IA des entreprises utilisaient des millions d’articles à des fins de formation sans autorisation.