Defendida por governos e empresas ao redor do mundo como uma solução para a segurança pública, a tecnologia de reconhecimento facial é vendida como uma medida puramente técnica e a prova de falhas. Pesquisas sobre os resultados dessas tecnologias, contudo, apontam que as máquinas estão longe de serem neutras: o reconhecimento facial também é atravessado pelo racismo.
Câmeras podem coletar a imagem de milhares de rostos e uma inteligência artificial pode procurar por criminosos foragidos — segundo a versão que costuma ser defendida pelas autoridades.
Nos Estados Unidos, o FBI tem uma base de dados com os rostos de 117 milhões de pessoas, segundo pesquisa de 2016 da Universidade Georgetown. Seu uso, todavia, não é unânime e a cidade de São Francisco, sede de algumas das mais importantes empresas de tecnologia, proibiu o uso do reconhecimento facial em 2019.
No Brasil, levantamento de 2020 do Instituto Igarapé indicou que o reconhecimento facial já é aplicado em diversas capitais como Salvador, Manaus, São Paulo, Cuiabá e Porto Alegre. O Congresso Nacional, todavia, nunca regulamentou a aplicação da tecnologia.
Pesquisadora do Centro de Tecnologia e Sociedade e professora da Fundação Getúlio Vargas (FGV), Yasmin Curzi destaca ao Brasil de Fato que existe uma crença em um "tecnosolucionismo" e em uma suposta neutralidade das tecnologias.
"As bases de dados que compõem essa tecnologia são treinadas com rostos e imagens principalmente de pessoas brancas, você não tem bases de dados de pessoas negras, de pessoas de origem asiática, não só para reconhecimento facial, mas isso é problema para muitas outras tecnologias", diz Curzi ao Brasil de Fato.
Pesquisa de 2018 indicou que softwares de reconhecimento facial falharam na hora de identificar mulheres negras em 34,7% das vezes, contra uma taxa de erro de 0,8% na identificação de homens brancos.
A intersecção entre racismo e reconhecimento facial também já foi detectada por pesquisas brasileiras. Levantamento da Rede de Observatórios da Segurança analisou as prisões com a utilização da tecnologia em quatro estados brasileiros: Bahia, Rio de Janeiro, Santa Catarina e Paraíba. O estudo encontrou uma representação desproporcional das populações racializadas entre os detidos. Entre os 151 detidos, mais de 90% eram negros.
Curzi também destaca que, sem uma regulação específica, o reconhecimento facial está sendo implantado no Brasil "sem nenhuma transparência".
"Os vieses que as máquinas carregam, que essas decisões automatizadas carregam, são muito perniciosos porque a gente tem um viés de neutralidade da máquina, um viés de confirmação dessas decisões que são tomadas automaticamente porque as pessoas acreditam que a tecnologia é neutra", diz.
