Det är inte bara den tekniska sektorn som inte är representativ – det är också de som gör lagarna

(Jameson Spivack) (Jun 27, 2019)

I går höll huskommittén för vetenskap, rymd och teknik en hörsel om de etiska och samhälleliga konsekvenserna av artificiell intelligens (AI). Expertpaneldeltagare, inklusive våra vänner Joy Buolamwini och Meredith Whittaker , framhöll konsekvent vikten av att främja en teknik sektor som är mångsidig och representativ, så att teknik som AI är utformad på sätt som inte oproportionerligt skadar kvinnor och minoriteter.

Men slående är kommittén själv – som har till uppgift att ta itu med politik relaterad till federal teknik och vetenskaplig forskning – överväldigande vit och manlig. Av de 39 medlemmarna i utskottet är endast 11 kvinnor – bara 28\%. Bland de 17 republikanska medlemmarna är endast två kvinnor – och en av dem är den icke-rösträttande kommissionären i Puerto Rico. Statistiken är ännu värre för icke-vita medlemmar i kommittén, som knappast är representerade alls.

Mångfald behövs inte bara i konstruktionsstadierna för AI-verktyg; det behövs också i konstruktionsstadierna för AI-reglering. Ett lagstiftande organ som saknar rösterna för de människor som påverkas mest av framväxande teknik kommer oundvikligen att ha blinda fläckar om deras negativa effekter.

Teknik, särskilt de automatiserade systemen som ligger till grund för AI, är designad av människor som kodar sina egna värden i design och implementering av system . Människor väljer de data som de ska träna och utvärdera sina verktyg på, och följaktligen vem som ingår – eller utesluts – av dessa verktyg. Människor väljer hur de ska distribuera teknik och följaktligen vem som möter dess negativa effekter. Om människorna som gör dessa val inte återspeglar mångfalden i vår värld kan tekniken slutligen gynna endast de som utformar den.

A brist på mångfald inom tekniksektorn och bristande uppmärksamhet på den oproportionerliga effekten av tekniker, resulterar i ansiktsigenkänningssystem som felidentifierar svarta till oproportionerligt höga priser, sjukvårdsalgoritmer som rekommenderar fler resurser till vita patienter än svarta patienter och rekryteringsalgoritmer som devalverar CV som innehåller alla -kvinnors högskolor. Det resulterar i algoritmisk bias och diskriminering , när verktyg utbildad i partisk data automatiserar och förvarar historiska orättvisor.

Statistiken om mångfald inom teknik är inte uppmuntrande. Kvinnor utgör endast 24,4\% av datavetenskapens arbetskraft med en medianlön på 66\% av vad deras manliga motsvarigheter tjänar. Hos Google är endast 2,5\% av heltidsarbetarna svarta och 3,6\% är latinx; Microsoft rapporterar att de har 4\% svarta arbetare och 6\% latinxarbetare. Och siffrorna blir bara värre ju ( högre upp i ledningen går du ). Men det är inte bara den tekniska sektorn som inte är representativ – det är också folket som reglerar den.

Den nuvarande kongressen är ras- och etniskt olika det någonsin har varit, med 22\% av medlemmarna som identifierats som minoriteter. Men det framgår tydligt av gårdagens utfrågning att de som ansvarar för teknikpolitiken inte har kommit ikapp. Naturligtvis är representation inte ett universalmedel. Konkreta skydd behövs för människor som påverkas av ny teknik. Men varje politisk diskussion om de etiska och samhälleliga konsekvenserna av AI måste börja med en mångsidig och representativ grupp av röster.