Data feminism

 


Autoras: Catherine D’Ignazio and Lauren F. Klein
Editado por David Weinberger
Cambridge, Massachusetts: The MIT Press, 2020
Série: <Strong> ideas series
327 p., Hardcover
EUR 25.25/USD 29.95
ISBN: 9780262044004



​


        “Os Dados são o novo Petróleo” – esta é uma frase amplamente utilizada, muitas vezes por políticos ou empresários, normalmente homens privilegiados e, não raras vezes, pessoas sem conhecimentos ou competências em Ciência de Dados. Todavia, a utilização desta frase ilustra o potencial na extração e conversão de dados para lucro ou benefícios do próprio, de empresas ou de instituições.

           As autoras do livro Data Feminism (1), no entanto, utilizam esta frase para lançar a discussão sobre a utilização de dados, a digitalização e a inovação tecnológica como novas formas de criar hierarquias de poder e opressão estruturada, enfrentadas há séculos por mulheres, imigrantes, pessoas de cor, comunidades indígenas e membros da comunidade LGBTQ+. Assim, o objetivo principal do livro é, não só explorar e examinar as estruturas de poder desiguais no domínio dos dados, com uma perspetiva intersecional e uma lente feminista, como destacar as tentativas feitas para retificar as desigualdades e as opressões, na área da Ciência de Dados.

           O ponto de partida para Data Feminism é algo que quase nunca é reconhecido na área de Ciência de Dados – o poder não é distribuído igualmente no Mundo. Aqueles que detêm o poder são desproporcionalmente da elite, heterossexuais, brancos, saudáveis, cisgéneros, do Hemisfério Norte. O trabalho de Data Feminism pretende, em primeiro lugar, perceber como as práticas existentes na Ciência de Dados servem para reforçar as desigualdades existentes e, em segundo lugar, utilizar a área de Ciência de Dados para desafiar e mudar a distribuição de poder. Data Feminism é uma convicção e um compromisso para a ação – a ideia que sistemas opressivos de poder nos prejudicam a todos, que debilitam a qualidade e a validade do nosso trabalho e que nos impedem de criar impacto social verdadeiro e duradouro, com recurso à Ciência de Dados.

          Se dados são poder, quem beneficia com eles? Quem deixamos para trás? Como são usados os dados para manter as estruturas de poder? Ao longo de sete capítulos, são explorados sete princípios que evidenciam as forças desiguais de poder, com recurso a dados, dando exemplos históricos e factuais, que ilustram limites na utilização de dados e procuram responder a estas questões e providenciar (algumas) soluções ou esforços realizados nesta temática.

            Um dos principais argumentos do livro coloca em oposição os conceitos de “justiça de dados” e o de “ética de dados”. As autoras defendem que a “ética de dados”, ao focar-se na justiça e nos preconceitos, cria estruturas que protegem o poder. Para exemplificar o seu ponto de vista, apresentam dois ótimos exemplos, de fácil compreensão. O primeiro, é a utilização desmedida de Inteligência Artificial (IA) em processos de recrutamento “justos”, em que a IA obtém informação de um conjunto de dados pré-existentes (onde existe sobrerrepresentação de homens, brancos, privilegiados). Este facto prejudica as oportunidades de mulheres e minorias na análise curricular automatizada por IA. O segundo exemplo descreve softwares de policiamento em que as comunidades marginalizadas estão sobrerrepresentadas, levando a situações em que os algoritmos de IA vão prever nestes bairros e, junto destas comunidades, uma maior ameaça e risco, dando origem a um fenómeno designado como pernicious feedback loop, que consiste na amplificação dos efeitos do preconceito racial e da criminalização da pobreza, pois as predições do futuro assemelham-se às práticas racistas do passado.

           As autoras argumentam, de forma convincente, que as empresas e as instituições precisam mais do que meros “consertos” tecnológicos para lidar com dados para a equidade e a justiça. Estas tecnologias são, ainda hoje, desenhadas e produzidas por uma sociedade significativamente influenciada por uma história de supremacia branca e pela opressão do patriarcado. As autoras argumentam que “uma sociedade racista dará uma ciência racista”.
Por outro lado, a “justiça de dados” reconhece desigualdades históricas e diferenciais de poder, o que, pode culminar no desafio das dinâmicas existentes. Para ilustrar este conceito, as autoras contam o episódio, quase anedótico, da Dra. Christine Darden, uma das mulheres que serviu de inspiração para o livro e filme Elementos Secretos. Darden, matemática em Langley (agência espacial americana NASA), percebeu desde cedo na sua carreira que, embora tivesse as mesmas qualificações e fizesse o mesmo trabalho, os seus colegas homens eram mais rapidamente promovidos. Darden recorreu à área de “Iguais Oportunidades” de Langley, onde uma colega lhe forneceu dados públicos e gráficos que mais que evidenciavam um problema sistémico na NASA. Ao levar estes mesmos dados ao seu Diretor, este mostrou-se “chocado com a disparidade” – mas os dados existiam e eram públicos, simplesmente antes de Darden ninguém os tinha analisado ou, mais importante que isso, ninguém os tinha utilizado de forma a reconhecer as desigualdades e alterar as dinâmicas. A Dra. Christine Darden tornou-se a primeira mulher afro-americana a ocupar uma posição Sénior em Langley e era Diretora quando se aposentou da NASA em 2007, trilhando o caminho para muitas outras que lhe seguiram os passos.

      Apesar destes exemplos, as autoras destacam ainda outra problemática – a ausência de dados (e o impacto que isso tem) sobre membros de comunidades marginalizadas. Esta ausência não pode servir como prova insuficiente para justificar e validar as suas reivindicações de opressão. Para tal, destacam a falta de dados disponíveis nos Estados Unidos da América (EUA) sobre a mortalidade materna, especialmente em mães negras. Tal facto, leva a uma situação de desvalorização das (assustadoras) taxas de mortalidade materna em mulheres negras e, como fator agravante, uma descredibilização dos medos e receios destas mulheres. Serena Williams, provavelmente a tenista mais famosa da atualidade, trouxe este assunto para as luzes da ribalta ao partilhar a sua experiência traumatizante e foi a voz necessária para que muitas mulheres negras percebessem que não estavam sozinhas. Atualmente, as estimativas sugerem que a mortalidade materna de mulheres negras pode ser mais de três vezes superior à de mulheres brancas, e a falta de validação da sua dor contribuiu, muitas vezes, para tirar a vida dessas mulheres.

          Ao longo de todo o livro, as autoras incorporam princípios da Teoria Interseccional. Esta teoria procura examinar como diferentes categorias biológicas, sociais e culturais, tais como género, raça, classe, capacidade, orientação sexual, religião, idade e outros eixos de identidade interagem em níveis múltiplos e, muitas vezes, simultâneos. Este quadro pode ser usado para entender como a injustiça e a desigualdade social sistémica ocorrem numa base multidimensional. (2) A interseccionalidade sustenta que os conceitos clássicos de opressão dentro da sociedade — tais como o racismo, o sexismo, o classismo, o capacitismo, a xenofobia, a bifobia, a homofobia, a transfobia e intolerâncias baseadas em crenças — não agem independentemente uns dos outros, mas que essas formas de opressão se inter-relacionam, criando um sistema de múltiplas formas de discriminação. (3) Deste modo, as autoras fazem questão de incluir referências bibliográficas sobre e escrita por membros da comunidade LGBTQ+, pessoas de cor, nações anteriormente colonizadas e comunidades indígenas. As autoras vão ativamente além dos trabalhos académicos, pois este tem sido um espaço que frequentemente negligencia as contribuições de grupos marginalizados. Quase dois terços das suas citações são de mulheres ou pessoas não binárias; quase todos os capítulos têm um projeto do Hemisfério Sul; um terço de todas as citações são de pessoas de cor; e quase metade de todos os projetos mencionados no livro são liderados por pessoas de cor.

        Alguns dos exemplos de projetos preponderantes incluem uma iniciativa liderada por María Salguero para registar casos de feminicídio no México (assassinatos de mulheres e meninas com base no género) de maneira aberta e acessível. A falta de dados publicados pelo Governo, levou Salguero a vasculhar artigos de jornais e alertas do Google, encontrando todas as ocorrências que podia e registando-as num mapa. Outro exemplo é o projeto “Gender Shades”, em que a equipa liderada por Joy Buolamwini e Timnit Gebru descobriu que as mulheres negras têm 40 vezes mais probabilidade de serem classificadas incorretamente pela tecnologia de reconhecimento facial do que os homens brancos. Esta pesquisa rapidamente estimulou a IBM a lançar seu projeto “Diversity in Faces”, que visa construir uma tecnologia de reconhecimento facial que seja racialmente justa e precisa. No entanto, a IBM abandonou recentemente este projeto, após discussões mais alargadas sobre o uso antiético deste software no perfil racial e vigilância em massa.

         Quanto a ideias de reforma, em Data Feminism há algo que ressalta: o processo de formulação de políticas é inerentemente confuso, mas a melhor maneira de o tornar mais equitativo é garantir a participação o mais ampla possível, tanto na formulação do problema, como na implementação de soluções.

       As autoras declaram os seus próprios preconceitos e privilégios logo no início do livro, sendo francas sobre as suas limitações e deficiências. Incluem até os seus valores e métricas, para que possa haver responsabilização e prestação de contas – algo muito frequentemente esquecido em publicações académicas.

        Este livro destina-se a feministas, mulheres ou homens, que procuram aprender sobre o feminismo na era digital e como o seu próprio ativismo pode contribuir para a criação de uma forma mais justa e equitativa de Ciência de Dados. Data Feminism vai muito além de um trabalho académico que compila pesquisas, literatura ou histórias – serve como uma chamada à ação.

           Como Médica Interna de Saúde Pública, reconheço a importância da análise de dados e informação em saúde, bem como da utilização de ferramentas informáticas de apoio ao planeamento, vigilância, intervenção e investigação em saúde, duas das competências essenciais ao exercício do Médico Especialista em Saúde Pública (4) e reconheço o impacto que as novas tecnologias e a Saúde Digital vão trazer aos Médicos de Saúde Pública em particular, e a toda a sociedade no geral. Todavia, não existe nenhuma quantidade de dados - de consertos tecnológicos a ajustes algorítmicos - que nos dê aquilo que procuramos – uma sociedade mais justa e equitativa. As formas sistémicas de opressão não podem ser eliminadas ou corrigidas por coleção de dados suficientes. Os dados que recolhemos e analisamos, foram e ainda são, representativos da nossa sociedade desigual, moldada por formas racistas, sexistas e imperialistas.

            Mais dados e novos livros não mudam as sociedades nem desmantelam os sistemas de opressão – este poder está nas pessoas.

         Apesar deste livro não dar as respostas, incentiva a ação e lança a semente para a mudança de pensamentos e paradigmas. Assim, recomendo-o a todos os que, utilizando dados, façam a escolha diária de fazer parte da solução.


Autoria Patrícia Pita Ferreira
Edição Filipa Gomes


Referências bibliográficas
1. D’Ignazio C, Klein LF. Data Feminism. Strong ideas series ed. Weinberger D, editor. Cambridge, Massachusetts: The MIT Press; 2020.
2. Crenshaw K. Demarginalizing the Intersection of Race and Sex: A Black Feminist Critique of Antidiscrimination Doctrine, Feminist Theory and Antiracist Politics. In The University of Chicago Legal Forum; 1989; Chicago. p. 139-167.
3. Knudsen SV. Intersectionality – a theoretical inspiration in the analysis of minority cultures and identities in textbooks. In Caught in the Web or Lost in the Textbook, 8th IARTEM conference on learning and educational media; 2006; Utrecht, The Netherlands. p. 61-76.
4. Colégio de Saúde Pública. Competências Essenciais ao Exercício do Médico Especialista em Saúde Pública, Conselho Nacional Executivo da Ordem dos Médicos ; 2013.


​

---