O anúncio foi feito em uma carta entregue para o Congresso dos Estados Unidos, e endereçada aos senadores Cory Booker e Kamala Harris e aos representantes Karem Bass, Hakeem Jeffries e Jerrold Nadler, todos do Partido Democrata. Assinada pelo CEO da IBM, Arvind Krishna, a carta leva em consideração uma das principais críticas que líderes de movimentos sociais fazem à tecnologia de reconhecimento facial: a de que ela pode ser utilizada para se fazer perfilamento racial e violar alguns preceitos humanos básicos, como o da privacidade. O texto dela afirma que a IBM se opõe e condena o uso desta tecnologia para vigilância em massa, perfilamento racial e a violação de direitos humanos básicos, e afirma que este talvez seja o momento ideal para se discutir se a tecnologia de reconhecimento facial deva mesmo ser utilizada pela polícia. A carta ainda defende a necessidade de uma reforma em todo o sistema policial, afirmando que oficiais que abusam de seu poder devam ser punidos severamente, e não se aproveitar se um sistema que permite que eles possam continuar fazendo o que quiser com impunidade. A carta pode ser lida na íntegra (em inglês) no site da IBM.
Polícia, racismo e reconhecimento facial
A carta do CEO da IBM foi escrito em meio a uma onda de protestos contra a violência policial nos Estados Unidos, que se iniciaram após a morte de George Floyd, um jovem negro que foi filmado sendo assassinado por um policial com um histórico de dezenas de queixas de brutalidade e que, mesmo assim, continuava atuando com impunidade – e que só foi afastado e acusado de assassinato após o início dos protestos, deixando claro que se não fosse por eles o assassino de Floyd continuaria atuando como policial sem qualquer tipo de punição. Estes protestos que dominaram todas as principais cidades do país defendem, de forma geral, uma reforma no sistema de polícia, que atualmente possui diversas políticas que influenciam uma maior violência na abordagem policial quando estes devem tratar com pessoas negras e latinas. E, em meio a essas discussões sobre a questão racial, o uso de tecnologias de reconhecimento facial pela polícia também é tratado como um problema. Isto porque, apesar dos avanços nos sistemas de inteligência artificial tenham tornado este reconhecimento mais preciso, há também um problema racial intrínseco nos próprios algoritmos. De acordo com um estudo feito em 2018 por Joy Buolamwini e Timnit Gebru do MIT (Massachusetts Institute of Technology), ainda há uma enorme diferença na capacidade dessas tecnologias reconhecerem rostos negros e rostos de pessoas brancas. O estudo testou três dos principais softwares comerciais de reconhecimento facial (da Microsoft, da IBM e da chinesa Face++) e descobriu que há uma enorme diferença na capacidade desses algoritmos reconhecerem rostos negros. Enquanto no geral a precisão dessas tecnologias tem uma média acima de 90% de acerto, ela cai para menos de 85% quando a aplicação precisa reconhecer rostos de pessoas negras. E, mesmo apenas entre rostos negros, ainda há uma enorme diferença na precisão quando consideramos apenas rostos masculinos e apenas rostos femininos. E a maior diferença entre as testadas é justamente da tecnologia da IBM, que consegue identificar com 88% de precisão o rosto de um homem negro, mas que cai para 65,3% de precisão na identificação do rosto de mulheres negras. Enquanto isso, a mesma ferramenta consegue identificar com 99,7% de acerto o rosto de um homem branco, e 92,9% o de uma mulher branca. E é justamente essa diferença de precisão que faz com que esses sistemas de reconhecimento facial tenham o uso pela polícia criticado, pois essa maior margem de erro pode acabar acarretando em um número maior de prisões e processos criminais contra pessoas inocentes da população negra. Fonte: IBM, GenderShades
