Des soldats de la Wehrmacht asiatiques ou noirs. Des pères pèlerins qui ressemblent à des natifs américains. Un pape d’origine indienne ou encore des Vikings à la peau noire… Ces images générées par Gemini, solution d’IA générative de Google, agacent de nombreux internautes, notamment au sein de la droite conservatrice américaine, qui ont multiplié, ces derniers jours, sur X les posts d’images incriminées en les accompagnant de légendes ironiques.

Ce qui aurait pu rester comme une querelle entre l’alt-right américaine et la Silicon Valley, que les premiers accusent régulièrement de promouvoir la diversité au risque de tordre la réalité, a pris de l’ampleur outre-Atlantique, amenant Google à s’excuser officiellement sur X le 21 février :

« Nous sommes conscients que Gemini propose des inexactitudes dans certaines représentations historiques de la génération d’images », écrit d’abord le service communication de Google avant d’ajouter : « Nous nous efforçons d’améliorer immédiatement ce type de représentation. Le système de génération d’images de Gemini génère un large éventail de personnes. Et c’est généralement une bonne chose, car des personnes du monde entier l’utilisent. Mais ici, il a manqué sa cible ».

Lutter contre les biais

Le large éventail qu’évoque Google peut être interprété comme une réponse aux critiques fréquemment adressées aux IA. Parce qu’elles sont entraînées sur un stock gigantesque de photos, elles ont tendance à amplifier les biais présents sur ces images. Si une majorité de clichés présente des individus blancs, les IA généreront davantage de personnes blanches. A moins que ce biais ne soit redressé par ses développeurs.

Si en France, Gemini ne permet pas pour l’instant la création d’images, elle l’autorise aux Etats-Unis mais, d’après The Verge, qui a tenté de reproduire les prompts ayant donné lieu aux images incriminées, l’IA ne proposerait plus d’image en réponse aux requêtes impliquant des soldats allemands ou des officiers nazis.