Google : Une chercheuse noire licenciée, l’entreprise sommée de s’expliquer

DISCRIMINATIONS La chercheuse d’origine éthiopienne venait de publier un article sur les biais racistes et haineux d’une IA

20 Minutes avec agences
— 
Illustration Google.
Illustration Google. — Yichuan Cao/Sipa USA/SIPA

Plus de 1.600 employés de Google et plus de 2.500 universitaires et citoyens ont signé une lettre en ligne demandant des explications à Google après le licenciement d’une chercheuse noire.

Tout a commencé en milieu de semaine dernière. Ce mercredi, Timnit Gebru a indiqué sur Twitter que sa hiérarchie avait accepté une démission qu’elle n’avait pas soumise. Quelques jours plus tôt, cette chercheuse qui travaille sur les questions d’éthique liées à l’intelligence artificielle (IA) s’était plainte auprès d’un groupe interne du fait que Google « réduisait au silence les voix marginalisées ».

Une démission étrange et un article retoqué

Timnit Gebru affirme que Google lui reproche « certains aspects » de cet e-mail, qui seraient « en contradiction avec ce qu’on attend d’un manager chez Google ». Selon NPR, la chercheuse avait aussi confié à ce groupe avoir reçu l’ordre de rétracter un article scientifique sur l’éventuelle utilisation d’une IA pour imiter des propos haineux ou biaisés.



Le chef du département IA de Google, Jeff Dean, a justifié cette demande de rétractation dans un e-mail rendu public en expliquant que l’article n’avait pas atteint les niveaux d’exigence pour une publication. Il y affirmait que l’article de Timnit Gebru « présentait des lacunes importantes qui nous empêchaient d’être à l’aise avec l’idée d’y associer le nom de Google ».

Des employés militants surveillés ?

Outre des explications sur cet article, les signataires de la lettre demandent un engagement « sans équivoque » de Google à respecter l’intégrité scientifique et la liberté académique. Militante pour plus de diversité, Timnit Gebru a cofondé le groupe « Black in AI », qui cherche à accroître la présence de personnes noires dans le domaine de l’IA.

Américaine d’origine éthiopienne, elle a étudié la propension des technologies de reconnaissance faciale à faire des erreurs d’identification de personnes de couleur. Son licenciement intervient alors que ce mercredi, une agence fédérale a demandé à Google de répondre à des accusations de surveillance de ses employés militants.