Recentemente, a história de Sewell Setzer, um adolescente de 14 anos da Flórida, trouxe uma inquietação crescente à tona: até onde podem ir as relações que desenvolvemos com a inteligência artificial?

Após o suicídio do jovem, sua mãe, Megan Garcia, moveu um processo contra a Character.AI, uma empresa de chatbots avançados, alegando que o filho teria ficado "viciado" no serviço, apegando-se emocionalmente a um chatbot. Garcia, que é advogada, acusa a empresa de promover uma experiência imersiva e inquietante, com interações "hipersexualizadas" e "realistas" que teriam ultrapassado os limites do que um adolescente pode lidar.

Esse caso reacende o debate sobre o impacto psicológico dos chatbots e outros sistemas de IA, especialmente para os mais jovens. O filme Her ilustrou o potencial de envolvimento emocional que uma IA pode provocar, questionando nossa capacidade de diferenciar esses laços artificiais das relações humanas. No caso de Sewell, surge uma questão preocupante: estamos preparados para enfrentar as consequências de vínculos emocionais profundos com máquinas?

Atualmente, a IA se infiltra cada vez mais em nossa vida cotidiana. Assistentes virtuais respondem nossas perguntas, redes sociais moldam nosso conteúdo, e chatbots interagem de forma impressionantemente autêntica. Para jovens em formação, que são emocionalmente vulneráveis, essa ilusão de proximidade pode se transformar em um ponto de fixação perigoso. Sem diretrizes de ética e segurança claras, muitos jovens se deparam com experiências emocionais intensas e até prejudiciais.

A relação entre IA e jovens levanta ainda outra questão: até que ponto esses sistemas podem replicar respostas emocionais de maneira saudável? Com a IA cada vez mais presente e acessível, a sociedade precisa ponderar até onde deve permitir que a tecnologia imite, e talvez até substitua, as relações emocionais humanas. O caso de Sewell serve de alerta para um futuro em que a IA pode ser tanto uma aliada quanto uma ameaça. E cabe a nós decidirmos, agora, o que faremos a respeito disso.