Ce nest pas seulement le secteur de la technologie qui nest pas représentatif – ce sont aussi les gens qui font les lois

(Jameson Spivack) (27 juin 2019)

Hier, le comité de la Chambre sur la science, lespace et la technologie a tenu une audition sur les implications éthiques et sociétales de lintelligence artificielle (IA). Panélistes experts, y compris nos amis Joy Buolamwini et Meredith Whittaker , a constamment souligné limportance de promouvoir une technologie secteur qui est diversifié et représentatif, de sorte que les technologies comme l’IA sont conçues de manière à ne pas nuire de manière disproportionnée les femmes et les minorités.

Mais il est frappant de constater que le comité lui-même – qui est chargé de traiter les politiques liées à la technologie fédérale et à la recherche scientifique – est majoritairement de race blanche et dhommes. Sur les 39 membres du comité, seulement 11 sont des femmes – un dérisoire 28\%. Parmi les 17 membres républicains, deux seulement sont des femmes – et l’une d’elles est la commissaire résidente sans droit de vote de Porto Rico. Les statistiques sont encore pires pour les membres non blancs du comité, qui sont à peine représentés.

La diversité nest pas seulement nécessaire dans les étapes de conception des outils dIA; il est également nécessaire dans les étapes de conception de la réglementation de lIA. Un organe législatif qui na pas la voix des personnes les plus touchées par les technologies émergentes aura inévitablement des angles morts quant à leurs effets négatifs.

La technologie, en particulier les systèmes automatisés qui sous-tendent lIA, est conçu par des humains qui encodent leurs propres valeurs dans la conception et la mise en œuvre de systèmes . Les humains choisissent les données sur lesquelles former et évaluer leurs outils, et par conséquent qui est inclus – ou exclu – par ces outils. Les humains choisissent comment déployer la technologie et, par conséquent, qui subit ses effets négatifs. Si les humains qui font ces choix ne reflètent pas la diversité de notre monde, la technologie peut finir par profiter uniquement à ceux qui la conçoivent.

A le manque de diversité dans le secteur de la technologie et le manque dattention à limpact disproportionné des technologies, se traduit par systèmes de reconnaissance faciale qui identifient mal les Noirs à des taux disproportionnellement élevés, algorithmes de soins de santé qui recommandent plus de ressources aux patients blancs quaux noirs patients et algorithmes de recrutement qui dévalorisent les CV contenant tous -les collèges de femmes. Il en résulte biais algorithmique et discrimination , lorsque les outils formés sur les données biaisées automatisent et perpétuent les injustices historiques.

Les statistiques sur la diversité dans la technologie ne sont pas encourageantes. Les femmes ne représentent que 24,4\% des effectifs en informatique , avec des salaires médians à 66\% de ce que gagnent leurs homologues masculins. Chez Google, seuls 2,5\% des travailleurs à temps plein sont noirs et 3,6\% sont des latinx; Microsoft rapporte avoir 4\% de travailleurs noirs et 6\% de travailleurs latinox. Et les chiffres ne font quempirer le ( plus haut dans la gestion, vous allez ). Mais ce nest pas seulement le secteur de la technologie qui nest pas représentatif – ce sont aussi les gens qui le réglementent.

Le Congrès actuel est le le plus diversifié sur le plan racial et ethnique quil ne la jamais été, 22\% des membres sidentifiant comme des minorités. Mais il ressort clairement de l’audience d’hier que les responsables de la politique technologique n’ont pas rattrapé leur retard. Bien entendu, la représentation nest pas une panacée. Des protections concrètes sont nécessaires pour les personnes touchées par les technologies émergentes. Mais toute discussion politique sur les implications éthiques et sociétales de lIA doit commencer par un groupe de voix diversifié et représentatif.