O ponto crucial para as big techs no debate sobre a regulamentação das redes sociais é o chamado “dever de cuidado”, que visa responsabilizá-las pelo que é publicado em suas plataformas.

Elas rejeitam essa obrigação, alegando que são apenas um “meio” — e não produtores de conteúdo. Mas, lembrando Marshall McLuhan: “O meio é a mensagem”, portanto, a incumbência cabe também às redes sociais.

Dizer que é impossível monitorar o enorme volume de postagens nas redes é menosprezar a própria capacidade das big techs em criar certeiros algoritmos para direcionar o barco para onde elas querem, muitas vezes para águas turvas, onde criminosos fazem a sua pescaria — e as big techs lucram.

Ora, se há algoritmos “ensinados” a mostrar seguidamente cenas de abusos contra crianças, a partir do clique em uma imagem sugestiva, qual a dificuldade em criar um mecanismo para emitir alertas para casos assim? Ou para avisar o usuário a tomar cuidado ou para denunciar casos de “adultização” de crianças?

Também é preciso de supervisão humana, mas em condições adequadas de trabalho, para identificar e remover, por iniciativa das plataformas, ou por avisos extrajudiciais, situações que se encaixariam no “dever de cuidado”: conteúdos terroristas, de exploração sexual infantil, de incentivo à automutilação e suicídio, entre outros casos gravíssimos.

As plataformas mantêm a supervisão humana, mas com trabalhadores em situação precarizada. As big techs buscam países mais pobres, com leis trabalhistas frouxas para submeter trabalhadores a situações degradantes.

Há inúmeros relatos de traumas psicológicos devido ao volume de conteúdos violentos ou abusivos que esses profissionais têm de assistir. Em 2020, o Facebook pagou indenização de US$ 52 milhões a moderadores de conteúdo que desenvolveram problemas mentais devido ao trabalho, inclusive estresse pós-traumático.

Assim, tornar lei o projeto 2628, conhecido como ECA Digital, não encerra o assunto, pois ele se concentra na proteção de crianças e adolescentes. É um bom começo, mas o debate precisa continuar. Na próxima semana, o governo enviará ao Congresso mais dois projetos que tratam da regulação das redes sociais.