Nu este doar sectorul tehnologic care nu este reprezentativ – sunt și oamenii care adoptă legile

(Jameson Spivack) (27 iunie 2019)

Ieri, Comitetul Camerei pentru Știință, Spațiu și Tehnologie a organizat un audiere despre implicațiile etice și societale ale inteligenței artificiale (AI). Panelisti experți, inclusiv prietenii noștri Joy Buolamwini și Meredith Whittaker , a subliniat în mod constant importanța promovării unei tehnologii sector divers și reprezentativ, astfel încât tehnologia precum AI este concepută în moduri care nu dăunează în mod disproporționat femei și minorități.

Dar în mod izbitor, comitetul însuși – care are sarcina de a aborda politica legată de tehnologia federală și cercetarea științifică – este copleșitor de alb și masculin. Dintre cei 39 de membri ai comitetului, doar 11 sunt femei – o prostie 28\%. Dintre cei 17 membri republicani, doar doi sunt femei – iar unul dintre ei este comisarul rezident fără drept de vot din Puerto Rico. Statisticile sunt și mai grave pentru membrii ne-albi ai comitetului, care sunt cu greu reprezentați deloc.

Diversitatea este necesară nu doar în etapele de proiectare ale instrumentelor de IA; este, de asemenea, necesar în etapele de proiectare a reglementării AI. Un organism legislativ care nu are vocea oamenilor care sunt cel mai afectați de tehnologiile emergente va avea inevitabil puncte oarbe despre efectele lor negative.

Tehnologia, în special sistemele automate care stau la baza AI, este proiectat de oameni care își codifică propriile valori în proiectarea și implementarea sistemelor . Oamenii aleg datele pe care să își antreneze și să le evalueze instrumentele și, în consecință, cine este inclus – sau exclus – de aceste instrumente. Oamenii aleg cum să implementeze tehnologia și, în consecință, cine se confruntă cu efectele sale negative. Dacă oamenii care fac aceste alegeri nu reflectă diversitatea lumii noastre, tehnologia poate ajunge să beneficieze numai pe cei care o proiectează.

A lipsa de diversitate în sectorul tehnologic și lipsa de atenție asupra impactului disproporționat al tehnologiilor, are ca rezultat sisteme de recunoaștere a feței care identifică greșit negrii la rate disproporționat de mari, algoritmi de asistență medicală care recomandă mai multe resurse pacienților albi decât negrii pacienți și algoritmi de recrutare care se reia devalorizarea conținând toate -colegii pentru femei. Rezultă în polarizare algoritmică și discriminare , atunci când instrumentele instruiți cu privire la date părtinitoare automatizează și perpetuează nedreptățile istorice.

Statisticile privind diversitatea tehnologiei nu sunt încurajatoare. Femeile reprezintă doar 24,4\% din forța de muncă în domeniul informaticii , cu salarii medii la 66\% din ceea ce câștigă omologii lor de sex masculin. La Google, numai 2,5\% dintre lucrătorii cu normă întreagă sunt negri , și 3,6\% sunt latinx; Microsoft raportează că are 4\% muncitori negri și 6\% muncitori latinx. Și cifrele se înrăutățesc doar cu ( mai sus în management mergeți ). Dar nu doar sectorul tehnologic nu este reprezentativ, ci și oamenii care îl reglementează.

Congresul actual este cel mai divers din punct de vedere rasial și etnic a fost vreodată, 22\% dintre membri identificându-se drept minorități. Dar este clar din audierea de ieri că cei care se ocupă de politica tehnologică nu au ajuns din urmă. Desigur, reprezentarea nu este un panaceu. Sunt necesare protecții concrete pentru persoanele afectate de tehnologiile emergente. Dar orice discuție politică cu privire la implicațiile etice și societale ale IA trebuie să înceapă cu un grup divers și reprezentativ de voci.