Tem-se disseminado, nos últimos anos, o uso de algoritmos de inteligência artificial (IA) nos mais diversos setores da vida em sociedade. Para além dos anúncios direcionados que as redes sociais exibem aos seus usuários, ou para a sugestão sob medida de filmes ou séries em plataformas de streaming, a IA subjaz a tarefas mais impactantes na vida das pessoas, como a concessão de empréstimos, a seleção de candidatos para vagas de emprego, a seleção de contribuintes a serem fiscalizados pela Receita Federal, ou mesmo a tomada de decisões por parte de autoridades policiais e julgadoras.

O Direito, porém, foi criado e moldado, tal como um organismo vivo, ao longo de séculos de evolução por tentativa e erro, para regular tais tarefas, mas tendo como parâmetro as desempenhadas apenas por humanos. E, talvez, esse regramento não seja suficiente, especialmente para a proteção do cidadão, quando se usam algoritmos.

• Vazamento de mais de 8 bilhões de senhas pode ser o maior da história
   

Se o uso de tais sistemas por entidades privadas já pode ser bastante problemático, no caso do Poder Público, as questões se tornam mais sérias e profundas. No setor privado, a regra é a liberdade, e a privacidade. Uma empresa, em princípio, não é obrigada a divulgar os parâmetros ou os critérios que pautam suas decisões, mas, de outro lado, as pessoas se relacionam com ela se quiserem. Mesmo nesse caso, é verdade, há exceções, já tendo se tornado comum falar-se em “aplicação dos direitos fundamentais às relações privadas”.

Mas, no caso do Poder Público, a situação é diversa. Afinal, foi para proteger o cidadão de governantes arbitrários que surgiram Constituições com catálogos de direitos fundamentais. Diversamente do que se dá em suas relações com outros entes privados, o cidadão muitas vezes não pode escolher se sujeitar, ou não, às imposições do seu governo, que se devem pautar pela publicidade.

O Poder Público, porém, nem sempre divulga ao cidadão quando está a utilizar algoritmos, como os que reconhecem passageiros na chegada de voos internacionais, e secretamente selecionam aqueles que serão parados para inspeção alfandegária. Ou os que definem quais contribuintes terão suas dívidas fiscais executadas judicialmente, e quais serão sujeitos a outras formas de cobrança. Mesmo quando se reconhece, por alto, o uso dessa tecnologia se mantém a sete chaves os critérios usados nessa seleção.

Surgem, então, alguns questionamentos. Se se trata do Poder Público, ele pode comportar-se por parâmetros secretos? Não é a expressão “o segredo da coisa pública” uma contradição em seus próprios termos? Se os algoritmos são usados no serviço público, a quem eles devem servir? Devem auxiliar na aplicação do Direito, mesmo quando isso favoreça o cidadão, reconhecendo um erro, por exemplo, que levou ao pagamento a maior de um tributo, que deve ser restituído? Ou devem comodamente silenciar em situações assim?

Para que se discutam tais questões, é preciso, de saída, dar publicidade ao uso de tais sistemas e aos critérios que os pautam. Somente neste caso se poderá tentar, ainda que minimamente, fazer com que sejam controlados e fiscalizados pela sociedade em seu uso, adequando-se ao que exigem a Constituição e as leis do País. O mesmo pode ser dito se se espera que sirvam ao público, e não que se sirvam dele.