Quand l’IA de Facebook fait des remarques racistes

Saviez-vous que Neural sera sur scène cet automne ? Avec un groupe d’experts exceptionnels, nous explorerons l’avenir de l’IA lors de la conférence TNW 2021. Réservez votre billet dès maintenant !

Facebook présente à nouveau des excuses pour le fanatisme de son IA. Cette fois-ci, les utilisateurs regardant une vidéo d’un homme noir se sont vus demander s’ils étaient intéressés par plus de contenu sur les « primates ».

La société, en guise d’excuses, a déclaré :

Comme nous l’avons dit, bien que nous ayons apporté des améliorations à notre IA, nous savons qu’elle n’est pas parfaite et que nous avons encore des progrès à faire. Nous présentons nos excuses à tous ceux qui ont pu voir ces recommandations offensantes.

En avant : C’est loin d’être la première fois que Facebook a un problème avec le sectarisme de son IA.

Qu’il s’agisse d’algorithmes d’embauche carrément misogynes, d’erreurs de traduction entraînant des emprisonnements injustifiés ou d’une discrimination généralisée à l’encontre des homosexuels, l’IA de Facebook ne fonctionne pas pour tout le monde, sauf pour les hommes blancs hétérosexuels.

Contexte : En fait, e-biznisi la seule chose surprenante dans ce problème particulier est qu’il est arrivé à Google il y a environ six ans.

Et c’est exactement dans cette optique que nous devrions considérer ces problèmes lorsque Facebook promet que ses algorithmes vont s’améliorer. Quand ? À partir de quand est-il inacceptable d’avoir un produit qui, dans son essence, est discriminatoire ?

En réalité, les excuses et les promesses de Facebook sont moins que sans valeur : elles sont nuisibles.

Vous ne vendriez pas un ouvre-porte de garage qui ne fonctionne pas pour les Asiatiques. Vous n’installeriez pas un ascenseur dans votre immeuble avec un panneau indiquant « ne fonctionne que pour les hommes blancs ». Et vous n’achèteriez pas une voiture sans conducteur qui a du mal à identifier les Noirs comme des piétons.

Mais Facebook le ferait. Il utilise une myriade de systèmes d’IA qui, à maintes reprises, ont manifestement du mal à s’occuper des femmes, des visages noirs, des personnes homosexuelles et de presque tout autre groupe marginalisé.

Prise rapide : Facebook est évalué à plus de mille milliards de dollars à partir de 2021. S’il choisissait de ne lancer que des produits qui ne sont pas racistes, il ne le serait pas.

Facebook lance volontairement des produits qui sont intrinsèquement discriminatoires parce qu’il estime que tirer profit du racisme est plus acceptable que de ne pas en tirer profit. Construire des algorithmes qui ne sont pas discriminatoires est, apparemment, au-delà de la portée de la technologie moderne.

Tant que les entreprises et leurs équipes dirigeantes seront prêtes à colporter le racisme pour en tirer profit, le racisme restera rentable.