Apesar de ser vista como um avanço pela maioria dos especialistas, a implementação de reconhecimento facial é alvo de críticas por se tornar obrigatória mesmo tendo um percentual considerável de erros de identificação. Fatores externos como iluminação variável, oclusões e multidões densas podem induzir falhas na interpretação. Um dos fatores mais preocupantes em relação a essa tecnologia foi chamado de viés algorítmico.

"A tecnologia de reconhecimento facial ainda não é 100% precisa, e nunca será, apresentando falhas principalmente com mulheres (a maioria dos programadores são homens), negros (a maioria dos programadores são brancos) e pessoas trans (a maioria dos programadores são cisgênero)", aponta o professor Luiz Fábio, do departamento de Ciências Sociais da UFC.

A resposta às falhas vem na evolução constante da tecnologia, com o uso de dados mais diversificados, e a realização de testes de tolerância e falhas, para reduzirem o viés, e trazerem mais precisão para a análise.

Outro ponto de crítica é sobre o sigilo de dados, que são quase como moedas na sociedade hiperconectada que vivemos.

Recentemente, a empresa Meta, dona do Facebook, teve um caso sério de vazamento de dados, em que 533 milhões de usuários tiveram números de telefone, nomes completos, localizações, datas de nascimento e e-mails comprometidos.

Com determinada quantidade de informação coletada sobre alguém, já se pode criar um problema — imagine com um dado tão sensível como o próprio rosto.

Problemas como roubo de identidade, acesso a contas bancárias e vigilância indevida são alguns exemplos do que se pode ser feito a partir do uso inadequado de uma imagem facial, comprometendo a privacidade de muitos.

A implementação dos sistemas precisa cumprir os preceitos da Lei Geral de Proteção de Dados (LGPD), criada para resguardar os usuários em casos como os de possíveis vazamentos, exigindo transparência, além de medidas robustas na segurança dos dados.

Há ainda cuidados extras em casos específicos com menores de idade. O Estatuto da Criança e do Adolescente (ECA) pede o consentimento dos pais do menor e ainda mais segurança e "transparência sobre como os dados são armazenados e protegidos".

"Embora a tecnologia ofereça benefícios significativos para a segurança nas cidades, aqui incluímos os estádios e eventos, sua implementação deve ser baseada em uma regulamentação rigorosa relacionada a proteção dos direitos dos indivíduos, a conformidade das jurisprudências e a adoção de medidas técnicas e éticas robustas para evitar abusos e garantir a privacidade e os direitos da sociedade", analisa Vitor Hugo, professor do departamento de Engenharia de Teleinformática da UFC.