Twitter offre des récompenses à ceux décelant les biais sexistes ou racistes de ses algorithmes

INTELLIGENCE ARTIFICIELLE L’idée est calquée sur les concours proposés par certains sites webs pour déceler des failles de sécurité

H. B. avec AFP
— 
Twitter va offrir des récompenses à ceux décelant les biais de ses algorithmes.
Twitter va offrir des récompenses à ceux décelant les biais de ses algorithmes. — Clément Follain / 20 Minutes

Les primes pourront aller jusqu’à 3.500 dollars… Le réseau social Twitter a annoncé qu’il accorderait des récompenses aux utilisateurs et chercheurs découvrant d’éventuels partis pris, sexistes ou racistes par exemple, dans les algorithmes fonctionnant sur sa plateforme. Il s’agit, selon l’entreprise, de la première compétition sur le sujet.

L’idée est calquée sur les concours proposés par certains sites webs pour déceler des failles de sécurité, expliquent Rumman Chowdhury et Jutta Williams, deux responsables de l’entreprise, dans un message.

« Etablir des bonnes pratiques pour identifier et gérer les vulnérabilités »

« Il est difficile de trouver des préjugés dans les modèles d’apprentissage automatique, et parfois, les entreprises découvrent qu’elles ont involontairement porté atteinte à l’éthique seulement après leur déploiement », expliquent ces responsables. « Nous voulons que cela change ».

Dans le modèle développé pour déceler les failles de sécurité, les chercheurs tout comme les hackers ont aidé les responsables de la sécurité informatique « à établir des bonnes pratiques pour identifier et gérer les vulnérabilités afin de protéger le public », expliquent Rumman Chowdhury et Jutta Williams. « Nous voulons développer une communauté similaire » pour déceler les partis pris des algorithmes.

Des efforts pour rendre plus éthiques les algorithmes

Twitter avait présenté en avril ses travaux en cours pour rendre plus éthiques les algorithmes qui sont à l’œuvre dans les coulisses de la plateforme, une façon de répondre aux critiques sur les dangers liés à ces technologies.

Le réseau social avait quelques semaines plus tard renoncé à un algorithme recadrant les photos, ayant découvert qu’il était notamment légèrement biaisé en faveur des personnes blanches.