To nie tylko sektor technologiczny, który nie jest reprezentatywny – to też ludzie tworzą prawa

(Jameson Spivack) (27 czerwca 2019 r.)

Wczoraj Komisja Izby ds. Nauki, Przestrzeni i Technologii zorganizowała słuchanie na temat etycznych i społecznych implikacji sztucznej inteligencji (AI). Paneliści eksperci, w tym nasi przyjaciele Joy Buolamwini i Meredith Whittaker , konsekwentnie podkreślała, jak ważne jest wspieranie technologii sektor, który jest zróżnicowany i reprezentatywny, dzięki czemu technologia taka jak sztuczna inteligencja została zaprojektowana w sposób, który nieproporcjonalnie szkodzi kobiety i mniejszości.

Ale co jest uderzające, sam komitet – którego zadaniem jest zajmowanie się polityką związaną z federalnymi badaniami naukowymi i technologicznymi – jest w przeważającej większości biali i męscy. Spośród 39 członków komisji tylko 11 to kobiety – marne 28\%. Wśród 17 republikańskich członków tylko dwie to kobiety – a jedna z nich jest komisarzem ds. Rezydenta Puerto Rico bez prawa głosu. Statystyki są jeszcze gorsze w przypadku członków komitetu, którzy nie są białymi ludźmi, którzy nie są w ogóle reprezentowani.

Różnorodność jest potrzebna nie tylko na etapach projektowania narzędzi AI; jest również potrzebny na etapach projektowania regulacji AI. Organ ustawodawczy, któremu brakuje głosu osób, na które nowe technologie mają największy wpływ, nieuchronnie będzie miał martwe pole widzenia na temat ich negatywnych skutków.

Technologia, zwłaszcza zautomatyzowane systemy, na których opiera się sztuczna inteligencja, to zaprojektowany przez ludzi, którzy kodują własne wartości w projektowaniu i wdrażaniu systemów . Ludzie wybierają dane, na których mają trenować i oceniać swoje narzędzia, a co za tym idzie, kto jest włączany – lub wykluczany – przez te narzędzia. Ludzie wybierają sposób wdrażania technologii, a co za tym idzie, kto ma do czynienia z jej negatywnymi skutkami. Jeśli ludzie dokonujący tych wyborów nie odzwierciedlają różnorodności naszego świata, technologia może przynieść korzyści tylko tym, którzy ją projektują.

A brak różnorodności w sektorze technologii oraz brak uwagi na nieproporcjonalny wpływ technologii skutkuje systemy rozpoznawania twarzy , które błędnie identyfikują czarnych z nieproporcjonalnie wysokimi wskaźnikami, algorytmy opieki zdrowotnej , które zalecają więcej zasobów pacjentom białym niż czarnym pacjentów i algorytmy rekrutacji , które dewaluują i zawierają wszystkie -żeńskie uczelnie. Skutkuje to algorytmicznym uprzedzeniem i dyskryminacją , gdy narzędzia przeszkoleni w zakresie tendencyjnych danych automatyzują i utrwalają historyczne niesprawiedliwości.

Statystyki dotyczące różnorodności w technologii nie są zachęcające. Kobiety stanowią tylko 24,4\% pracowników informatyki , z medianą wynagrodzeń na poziomie 66\% tego, co zarabiają ich koledzy. W Google tylko 2,5\% pełnoetatowych pracowników to czarnoskórzy , a 3,6\% to latinx; Microsoft podaje, że 4\% czarnych pracowników i 6\% latynoskich pracowników. A liczby tylko się pogarszają ( wyżej w zarządzaniu idziesz ). Ale nie tylko sektor technologii nie jest reprezentatywny – to ludzie również go regulują.

Obecny Kongres to najbardziej zróżnicowany rasowo i etnicznie , jaki kiedykolwiek był, z 22\% członków identyfikujących się jako mniejszości. Ale z wczorajszego przesłuchania jasno wynika, że ​​osoby odpowiedzialne za politykę technologiczną nie nadrobiły zaległości. Oczywiście reprezentacja nie jest panaceum. Ochrona betonowa jest potrzebna dla osób, na które wpływają nowe technologie. Jednak każda dyskusja polityczna na temat etycznych i społecznych implikacji sztucznej inteligencji musi zaczynać się od zróżnicowanej i reprezentatywnej grupy głosów.