Em entrevistas recentes o historiador Y. Harari, autor de importantes bestsellers como Sapiens e 21 Lições para o Século XXI, vem demonstrando preocupação com os rumos de desenvolvimento da IA. Segundo ele, a inteligência artificial deixou de ser uma ferramenta complexa, aparecendo como agente não biológico autônomo nas inovações tecnológicas e decisões que substituem os humanos.

Os mais céticos pedem calma e sugerem que há exageros nestas conclusões. Eles consideram que sendo um ente não orgânico a IA gera informações inteligentes, mas não pode ter consciência, pois esta depende de experiências existenciais dos agentes orgânicos.

De fato, "naturalmente" falando, a IA não possui empatia com o humano. Contudo, ela pode produzir padrões sofisticados de linguagem interativa a partir da codificação dos modos de expressão dos nossos sentimentos. Tais padrões dão a impressão, para muitos, de que a IA tem expertise para ajudar na solução de problemas psicológicos.

Assim, muitas pessoas, sobretudo adolescentes, buscam as IAs como "friends" para lidar com seus problemas existenciais. Na verdade, a atuação "intimista" da IA é apenas um jogo técnico que ela desenvolve numa esfera de ação, a da gestão dos afetos, que é exclusiva dos humanos. Isto está gerando desafios éticos complexos.

A solução do problema passa pela regulação dos processos de produção e usos das máquinas inteligentes. Mas esta saída enfrenta muitas dificuldades. Uma delas: o fato de que diversas big techs desenvolvedoras dos modelos mais sofisticados não querem desacelerar as pesquisas na área, temendo avanços dos concorrentes.

Outra dificuldade: as disputas das grandes potências mundiais acelerando os usos da IA para produção de armas inteligentes e de extermínios. Isto contribui para criar um clima de ficção científica distópico. Harari sugere que a saída para o problema pode passar pela experiência da cooperação espontânea que seria tipicamente humana. Penso, também, que a rearticulação afetiva do humano com sua natureza orgânica, com o ecossistema vivo, é uma saída fundamental.