Não é só o setor de tecnologia que não é representativo – são as pessoas que fazem as leis também

(Jameson Spivack) (27 de junho de 2019)

Ontem, o Comitê de Ciência, Espaço e Tecnologia da Câmara realizou um audiência sobre as implicações éticas e sociais da inteligência artificial (IA). Painelistas especialistas, incluindo nossos amigos Joy Buolamwini e Meredith Whittaker , destacou consistentemente a importância de promover uma tecnologia setor diverso e representativo, de modo que tecnologias como a IA são projetadas de maneiras que não prejudicam desproporcionalmente mulheres e minorias.

Mas, surpreendentemente, o próprio comitê – que tem a tarefa de abordar políticas relacionadas à tecnologia federal e pesquisa científica – é predominantemente branco e masculino. Dos 39 membros do comitê, apenas 11 são mulheres – irrisórios 28\%. Entre os 17 membros republicanos, apenas duas são mulheres – e uma delas é a não-votante Comissária Residente de Porto Rico. As estatísticas são ainda piores para membros não brancos do comitê, que quase não são representados.

A diversidade é necessária não apenas nos estágios de design das ferramentas de IA; também é necessário nos estágios de projeto da regulamentação de IA. Um órgão legislativo que carece das vozes das pessoas que são mais afetadas pelas tecnologias emergentes inevitavelmente terá pontos cegos sobre seus efeitos negativos.

A tecnologia, especialmente os sistemas automatizados subjacentes à IA, é projetado por humanos que codificam seus próprios valores no projeto e implementação de sistemas . Os humanos escolhem os dados sobre os quais treinar e avaliar suas ferramentas e, conseqüentemente, quem é incluído – ou excluído – por essas ferramentas. Os humanos escolhem como implantar a tecnologia e, conseqüentemente, quem enfrenta seus efeitos negativos. Se os humanos que fazem essas escolhas não refletem a diversidade de nosso mundo, a tecnologia pode acabar beneficiando apenas aqueles que a projetam.

A falta de diversidade no setor de tecnologia e uma falta de atenção ao impacto desproporcional das tecnologias resulta em sistemas de reconhecimento facial que identificam erroneamente pessoas negras em taxas desproporcionalmente altas, algoritmos de saúde que recomendam mais recursos para pacientes brancos do que negros pacientes e algoritmos de recrutamento que desvalorizam os currículos contendo todos – faculdades femininas. Isso resulta em polarização e discriminação algorítmica , quando ferramentas treinados em dados tendenciosos automatizam e perpetuam injustiças históricas.

As estatísticas sobre diversidade em tecnologia não são encorajadoras. As mulheres representam apenas 24,4\% da força de trabalho da ciência da computação , com salários medianos de 66\% do que ganham seus colegas homens. No Google, apenas 2,5\% dos trabalhadores em tempo integral são negros , e 3,6\% são latinx; A Microsoft relata ter 4\% de trabalhadores negros e 6\% de trabalhadores latinx. E os números só pioram ( em nível de gerenciamento você vai ). Mas não é apenas o setor de tecnologia que não é representativo – são as pessoas que o regulam também.

O Congresso atual é o o mais racial e etnicamente diverso que já foi, com 22\% dos membros se identificando como minorias. Mas está claro, pela audiência de ontem, que os responsáveis ​​pela política de tecnologia não se recuperaram. Claro, a representação não é uma panacéia. Proteções concretas são necessárias para pessoas afetadas por tecnologias emergentes. Mas qualquer discussão política sobre as implicações éticas e sociais da IA ​​deve começar com um grupo diverso e representativo de vozes.