Un algorithme de Facebook confond des personnes noires avec des singes

Le réseau social a présenté ses excuses après qu'un outil de recommandation a suggéré des vidéos de "primates" après une vidéo du Daily Mail montrant des personnes noires.  Facebook évoque "une erreur inacceptable". Un algorithme de recommandation utilisé par le réseau social a demandé à des utilisateurs s'ils souhaitaient voir d'autres "vidéos sur les primates" sous une vidéo d'un tabloïd britannique montrant des personnes noires, a révélé le New York Times (lien en anglais), vendredi 3 septembre.  "Nous présentons nos excuses à quiconque a vu ces recommandations insultantes", a réagi une porte-parole de Facebook à l'AFP après ces révélations, assurant que le groupe californien avait désactivé l'outil de recommandation sur ce sujet "dès que nous nous sommes aperçus de ce qui se passait afin d'enquêter sur les causes du problème et empêcher que cela ne se reproduise". Les intelligences artificielles ont des "progrès à faire" La vidéo du Daily Mail, vieille de plus d'un an, est intitulée "un homme blanc appelle les flics contre des hommes noirs à la marina". En dessous, la question "voir plus de vidéos sur les primates ?" avec les options "Oui / Rejeter" s'affichait sur l'écran de certains utilisateurs, d'après une capture d'écran diffusée sur Twitter par Darci Groves, une ancienne designer du géant des réseaux sociaux. "C'est scandaleux", a-t-elle commenté, appelant ses ex-collègues de Facebook à faire remonter l'affaire. L'affaire souligne les limites des technologies d'intelligence artificielle, régulièrement accusée de perpétuer des clichés racistes ou d'entretenir des discriminations, comme le pointait en juin 2020 cet article de Numérama.  "Comme nous l'avons dit, même si nous avons amélioré nos systèmes d'intelligence artificielle, nous savons qu'ils ne sont pas parfaits et que nous avons des progrès à faire", a reconnu la porte-parole de Facebook.