digitaldeduction

[digitaldeduction]

Por que o uso de sistemas de reconhecimento facial nas cidades pode ser perigoso para a liberdade e a dignidade humana

Temos visto um aumento desordenado do uso de sistemas de reconhecimento facial em grandes eventos nas principais cidades do Brasil. Muito do que foi divulgado na mídia local destaca apenas os aspectos positivos deste sistema no combate à criminalidade e na “eficiência” na identificação de foragidos da justiça em eventos como o carnaval de Salvador em 2020, onde o aplicativo Face Check da Secretaria de Segurança Pública da Bahia ajudou na captura de 42 pessoas procuradas. No entanto, essas situações, sob o ponto de vista da segurança pública, não devem ser consideradas confiáveis e não devem ser tomadas sem avaliar os riscos que esses sistemas podem trazer para a própria população.

Nos últimos anos, houve intensos debates sobre a não utilização de sistemas de reconhecimento facial devido ao seu viés discriminatório baseado em algoritmos. Muitos casos têm sido reportados e pesquisas têm mostrado o quanto o reconhecimento facial na segurança pública pode ser falho, como no Reino Unido, onde o reconhecimento facial da polícia de Londres errou em 81% dos casos em um estudo realizado pela Universidade de Essex, onde apenas 8 das 42 pessoas identificadas de fato estavam na lista de procurados da polícia. Pelo menos duas pessoas foram presas injustamente como resultado deste estudo e passaram pelo sistema penal. No Brasil, também já ocorreram erros ao prender pessoas inocentes, como o caso de uma mulher no Rio de Janeiro em 2019, que é apenas um dos muitos exemplos de falsos positivos na detecção.

Recentemente, a Autoridade Europeia de Proteção de Dados (EDPB) colocou em consulta pública a recomendação de que o uso de sistemas de reconhecimento facial na segurança pública seja banido em todo o bloco europeu. Como o documento destaca, os dados biométricos de uma forma geral são permanentes e irrevogavelmente ligados à identidade de uma pessoa, e, portanto, o uso irrestrito de reconhecimento facial tem impactos diretos e indiretos em vários direitos e liberdades fundamentais garantidos pela Carta dos Direitos Fundamentais da União Europeia, que vão além dos direitos à privacidade e à proteção de dados.

Em conclusão, é fundamental que sejam consideradas as possíveis  consequências do uso da tecnologia de reconhecimento facial e de cor  para a vigilância e segurança pública. Apesar de ela poder ser  apresentada como uma solução eficaz, é preciso levar em conta os  impactos negativos que ela pode ter sobre a dignidade humana e os  direitos fundamentais, bem como os problemas de captura de pessoas  inocentes e o racismo enraizado em seus algoritmos. O projeto “Smart  Sampa”, da Prefeitura de São Paulo, é um exemplo de como é importante  ser cuidadoso ao avaliar o uso dessas tecnologias e garantir que elas  não vão gerar mais problemas do que soluções. O Brasil deve seguir o  exemplo de outros países, como os da União Europeia, onde essas tecnologias foram  totalmente suspensas em alguns casos devido aos riscos que elas  apresentam. É fundamental proteger os direitos humanos e evitar a  discriminação para garantir uma sociedade justa e igualitária para  todos.

Fontes:

(1) https://canaltech.com.br/seguranca/reconhecimento-facial-ajuda-a-capturar-42-foragidos-no-carnaval-de-salvador-161020/

(2) https://veja.abril.com.br/coluna/bahia/vestido-de-mulher-suspeito-e-preso-apos-reconhecimento-facial-no-carnaval/

(3) https://canaltech.com.br/inteligencia-artificial/reconhecimento-facial-da-policia-de-londres-erra-em-81-dos-casos-143469/

(4) https://g1.globo.com/rj/rio-de-janeiro/noticia/2019/07/11/sistema-de-reconhecimento-facial-da-pm-do-rj-falha-e-mulher-e-detida-por-engano.ghtml

(5) https://edpb.europa.eu/our-work-tools/documents/public-consultations/2022/guidelines-052022-use-facial-recognition_en

(6) https://participemais.prefeitura.sp.gov.br/legislation/processes/209/topics

(7) https://www.cartacapital.com.br/blogs/intervozes/europa-avanca-para-o-banimento-do-reconhecimento-facial/

(8) https://www12.senado.leg.br/tv/plenario-e-comissoes/comissao-de-juristas/2022/10/comissao-de-juristas-analisa-propostas-para-regulamentar-uso-da-inteligencia-artificial