Alguns dos principais pontos da discussão são:

• Os problemas jurídicos da tecnologia e uso exclusivo para segurança pública;
• Os problemas técnicos envolvidos: proteção do sistema e precisão do algoritmo.

No carnaval do ano passado, um homem fantasiado foi preso em Salvador, depois de ser capturado pelo sistema de reconhecimento facial comprado pelo governo da Bahia. Ele era procurado desde 2017 por homicídio. Foi o primeiro caso de grande repercussão de sucesso da tecnologia.

Em 2020, o governo do estado de São Paulo anunciou o uso de um algoritmo para analisar imagens de câmera durante o Carnaval na capital e o Metrô fechou um contrato, ainda no ano passado, de R$ 58 milhões para instalação da tecnologia nas vias paulistas.

Em nota, a Secretaria de Segurança Pública de São Paulo afirmou que a tecnologia de reconhecimento móvel para o Carnaval será fornecida pela prefeitura. Na operação programada para o Carnaval 2020, serão testadas câmeras estrategicamente instaladas e outras acopladas a drones, alimentadas por uma lista com registros de dez mil pessoas desaparecidas e outras 30 mil com mandados de prisão expedidos.

A Justiça ordenou que o Metrô de São Paulo dê detalhes de como será a implementação do projeto — já que muitas informações, como a base de dados, a coleta das informações e estudos sobre eficácia não foram apresentados.

Mas nem todos os casos são de sucessos. No Rio de Janeiro, no segundo dia de uso da tecnologia, uma mulher foi detida por engano após ter sido reconhecida pelas câmeras. Ela foi solta depois. Além do engano no reconhecimento, havia um erro na base de dados — a pessoa com quem ela foi confundida já estava presa, mas essa informação não havia sido atualizada nos registros.

Por causa desse tipo de problema, e por receios de que a tecnologia possa ser usada para perseguição política — como aconteceu durante os protestos de Hong Kong em 2019 — o uso do reconhecimento facial na segurança pública é um debate constante em países democráticos.

Nos Estados Unidos, por exemplo, cidades como São Francisco e Cambridge já proibiram que essa tecnologia seja usada pela polícia. No início de fevereiro, o Parlamento Europeu disse que não tinha planos de implementar a tecnologia. Do outro lado, a polícia de Londres anunciou recentemente que usaria sistemas de reconhecimento para segurança pública na cidade.

De acordo com especialistas, o uso da tecnologia de reconhecimento envolve diferentes barreiras técnicas e jurídicas.

Do lado jurídico, segundo Adriano Mendes, sócio da Assis e Mendes Advogados, especializado em proteção de dados e de direito digital, a discussão não é sobre a eficácia das ferramentas para segurança e proteção da vida, mas como é feito o cruzamento das informações e de onde elas vêm.

“São bancos de dados públicos ou vêm de redes sociais e aplicativos? Qual é a base e o objetivo desse monitoramento? É de fato a segurança pública ou monitorar horários da população, hábitos de consumo?”, questionou.

De acordo com a Lei Geral de Proteção de Dados (LGPD), que deve entrar em vigor no país em agosto deste ano, informações usadas e coletadas para uso em segurança pública estão excluídas das regras.

Segundo Ivo Corrêa, sócio do XVV Advogados e professor do Insper, a implementação da lei está atrasada — a LGPD só entra em vigor em agosto, depois de ter sido sancionada em 2018 —, e a falta de uma autoridade que pudesse nortear discussões sobre dados é sentida quando discutimos assuntos como reconhecimento facial e uso na segurança pública, algo não previsto na lei.

“Temos uma insegurança quanto à Autoridade Nacional de Proteção de Dados (ANPD). O ideal seria que a autoridade já existisse e pudesse dar direcionamentos sobre a implementação desses sistemas”, afirmou.

Para Rafael Zanatta, coordenador de pesquisas na Data Privacy Brasil, organização de defesa da privacidade digital, é preciso que a administração pública faça demonstração de necessidade e avaliação de impacto da tecnologia de reconhecimento facial — algo que não foi feito no processo do Metrô e levou aos questionamentos da Defensoria Pública e de grupos como o Instituto Brasileiro de Defesa do Consumidor.

“Temos um problema grave de segurança pública, as cidades sofrem com um problema estrutural. Mas isso não nos leva a abandonar ideias democráticas de segurança, de sabermos o porquê, de avaliar necessidade”, disse. “O poder público tem que fundamentar decisões.”

Em termos técnicos, além de detalhes sobre funcionamento da plataforma, banco de dados e segurança do ambiente de instalação, também é preciso garantir que a tecnologia evite os “falsos positivos”, como o que aconteceu no Rio, citado no início da reportagem. Além da certeza de que o sistema é inviolável a ataques e alterações nas bases de dados.

“Do ponto de vista de um atacante, os possíveis vetores de ataque [ao sistema de reconhecimento facial] são vários: retirar pessoas do banco de dados, incluir pessoas no banco de dados ou roubar as informações. Esses casos podem ser gravíssimos”, explica Sandro Suffert diretor do conselho da Apura, empresa especializada em cibersegurança.

Para ele, é necessário que os governos façam auditorias e tenham transparência na hora de implementar essas tecnologias, assim como têm com outras informações públicas. "A tecnologia pode estar boa, mas se o processo [guardar informações, fazer a segurança do sistema] tiver uma falha é um problema”.

Via de regra, os sistemas de reconhecimento facial fazem uma leitura dos rostos em tempo real — caso do sistema baiano e do projeto do Metrô em São Paulo — ou comparam uma imagem de sistema de monitoramento, um “quadro” do vídeo, por exemplo, com imagens de um banco de dados, como no projeto proposto para o carnaval paulistano.

Para fazer a análise, o sistema lê diversos pontos do rosto, levando em conta as diferenças que as pessoas guardam umas para as outras. Os algoritmos funcionam de maneira distinta e por isso podem ter resultados e mesmo uma base de funcionamento diferente.

“Nossos rostos são tão únicos quanto nossas digitais. As características faciais incluem distância entre as pupilas, tamanho do nariz, formato do sorriso e recorte da mandíbula. Quando os computadores usam fotografias para mapear essas características eles criam a fundação para uma equação matemática que pode ser acessada por algoritmos”, explicam Brad Smith e Carol Ann Browne, dois executivos da Microsoft, que escreveram o livro “Tools and Weapons” (Armas e Ferramentas), sobre diferentes usos das tecnologias.

Nesse sentido, quanto maior o número de sensores e tecnologias envolvidas, melhor o funcionamento da tecnologia. Usando o caso dos smartphones, por exemplo, aqueles que contam com sensores de reconhecimento facial têm mais certeza dos resultados do que aqueles que contam apenas com uma câmera frontal.

Apesar disso, especialistas apontam que existem problemas no treino e na precisão do reconhecimento. No final de 2019, uma pesquisa do governo dos Estados Unidos, que analisou mais de 200 algoritmos, apontou que vários deles continham falhas e vieses contra determinados tipos de população, como pessoas de origem asiática, negros e nativos americanos.

Isso acontece porque, muitas vezes, a tecnologia original é treinada em um local específico que nem sempre representa uma amostra diversa da população.

Há ainda o problema que algoritmos de reconhecimento facial têm diferentes graus de acurácia e precisão. Eles podem gerar falsos positivos, quando pessoas inocentes são reconhecidas como criminosos, ou falsos negativos, quando um criminoso passa despercebido.

Para os especialistas consultados pela reportagem, isso requer um trabalho diferenciado da polícia, com novas maneiras de abordar pessoas pegas no reconhecimento facial, usando a tecnologia como um dos elementos de uma investigação mais ampla.

Na obra de Smith e Browne, os autores deixam uma reflexão sobre confiança em tecnologia. “A polícia pode recorrer excessivamente a essa ferramenta para identificar um suspeito sem refletir que o reconhecimento facial, como toda tecnologia, nem sempre funciona perfeitamente”, escrevem. “Qual papel queremos para essa inteligência artificial na nossa sociedade?”.