Vladimir Nunan é CEO da Eduvem, uma startup premiada com mais de 20 reconhecimentos nacionais e internacionais. Fora do mundo corporativo, é um apaixonado por esportes e desafios, dedicando-se ao triatlo e à busca contínua pela superação. Nesta coluna, escreve sobre tecnologia e suas diversidades
Por muito tempo, poesia foi associada à sensibilidade, à emoção e à subjetividade humana. Ela é usada para expressar sentimentos difíceis de explicar, provocar reflexão e dar novos sentidos às palavras. Agora, de forma inesperada, a poesia passou a ocupar um lugar improvável no debate sobre tecnologia e segurança digital.
Pesquisadores descobriram que poemas podem confundir sistemas de inteligência artificial e, em alguns casos, levá-los a ignorar regras de segurança que normalmente bloqueiam conteúdos perigosos.
O resultado surpreendeu especialistas e abriu uma nova frente de discussão sobre os limites, as fragilidades e os desafios da chamada inteligência artificial generativa.
O estudo foi conduzido pelo Icaro Lab, na Itália, e mostrou que a forma como pedimos algo a uma inteligência artificial pode ser tão importante quanto o conteúdo do pedido em si. Quando um comando potencialmente perigoso é escrito como poesia, as chances de ele ultrapassar os filtros de segurança aumentam de forma significativa.
Mas por que isso acontece? O que a poesia tem de diferente? E o que esse achado diz sobre a relação entre linguagem, tecnologia e poder?
A equipe do Icaro Lab já estudava há algum tempo os chamados prompts adversariais. Esses prompts são comandos criados de forma estratégica para tentar induzir modelos de inteligência artificial a produzir respostas que normalmente seriam bloqueadas.
Em geral, esses testes são feitos com linguagem direta, em prosa, e muitas vezes envolvem técnicas matemáticas complexas. Um dos métodos mais conhecidos é o uso de sufixos adversariais, trechos de texto aparentemente sem sentido, mas calculados com precisão para confundir o sistema e fazê-lo contornar suas próprias regras.
Essas técnicas são amplamente usadas por pesquisadores e também pelos próprios desenvolvedores de IA para testar e fortalecer os mecanismos de segurança dos modelos.
A pergunta que os pesquisadores italianos se fizeram foi simples, mas ousada: e se, em vez de matemática complexa, usássemos apenas linguagem criativa? E mais especificamente: o que aconteceria se esses comandos fossem escritos em forma de poesia?
Para responder a essa pergunta, os pesquisadores selecionaram cerca de 1.200 prompts potencialmente perigosos. Esse material veio de um banco de dados amplamente utilizado para testar a segurança de modelos de linguagem de inteligência artificial.
Esses prompts, em sua forma original, são normalmente bloqueados pelos sistemas de segurança porque pedem instruções ilegais, perigosas ou eticamente problemáticas.
O que os pesquisadores fizeram foi transformar esses comandos em poemas. Eles mantiveram a ideia central do pedido, mas mudaram completamente a forma. Em vez de frases diretas, passaram a usar versos, metáforas, ritmo e estruturas poéticas.
O conteúdo continuava sendo potencialmente problemático. O formato, porém, era outro. O resultado foi surpreendente.
Segundo Federico Pierucci, um dos autores do estudo, os prompts escritos como poesia apresentaram uma taxa de sucesso muito maior do que o esperado. Em muitos casos, a inteligência artificial deixou de identificar o conteúdo como proibido e respondeu de maneira que normalmente não seria permitida.
Isso não aconteceu em todos os testes, mas aconteceu o suficiente para chamar atenção da comunidade científica.
A conclusão inicial foi clara: a poesia, de alguma forma, consegue driblar os mecanismos de segurança da IA com mais facilidade do que comandos diretos.
O motivo exato ainda não está totalmente claro, e os próprios pesquisadores afirmam que esse será objeto de estudos futuros.
Para entender o impacto desse estudo, é importante compreender como os sistemas de inteligência artificial lidam com linguagem.
Modelos de linguagem são treinados para identificar padrões. Eles aprendem, a partir de grandes volumes de texto, o que costuma estar associado a comportamentos seguros e o que costuma estar ligado a conteúdos perigosos.
Grande parte dos filtros de segurança funciona reconhecendo estruturas comuns de pedidos problemáticos. Frases diretas, instruções passo a passo, palavras-chave específicas e comandos explícitos são mais fáceis de identificar e bloquear. A poesia quebra muitos desses padrões.
Ela fragmenta frases, usa metáforas, desloca sentidos e cria ambiguidades. Uma instrução clara pode se tornar uma imagem simbólica. Um pedido direto pode virar um verso aberto à interpretação.
Para humanos, isso é natural. Para máquinas, pode ser confuso.
O estudo revela algo profundo sobre a inteligência artificial atual: ela ainda tem dificuldade em lidar com linguagem fora dos padrões mais comuns.
A IA entende muito bem textos objetivos, técnicos e diretos. Mas quando a linguagem se torna ambígua, simbólica ou estética, os modelos podem perder referências importantes.
A poesia não comunica apenas informação. Ela comunica intenção, emoção, ritmo e sugestão. Muitas vezes, o sentido não está em uma palavra específica, mas na relação entre elas.
Os sistemas de segurança da IA parecem ter mais dificuldade em identificar riscos quando o conteúdo está diluído em uma forma artística.
Para quem desenvolve inteligência artificial, esse estudo acende um alerta importante. Os mecanismos de segurança atuais foram pensados, em grande parte, para lidar com linguagem direta. Mas o mundo real é muito mais complexo. Pessoas não se comunicam apenas de forma literal.
Se a poesia consegue contornar filtros, outras formas criativas de linguagem também podem ter o mesmo efeito. Narrativas, metáforas, histórias, letras de música e até piadas podem esconder intenções problemáticas.
Isso significa que os sistemas de segurança precisam evoluir para entender não apenas o que está sendo dito, mas como e com qual intenção.
O termo jailbreak é usado para descrever tentativas de contornar as limitações impostas aos modelos de inteligência artificial. Até agora, esse debate estava muito ligado a técnicas avançadas, conhecimento técnico e matemática.
O estudo do Icaro Lab mostra que o jailbreak também pode acontecer no campo da linguagem comum. Não é preciso ser especialista em programação para confundir um modelo.
Basta saber usar palavras de forma criativa. Isso democratiza o problema e o torna mais complexo. Qualquer pessoa com domínio da linguagem pode, em tese, explorar essas brechas.
Existe uma ironia interessante nesse cenário. A criatividade, que sempre foi vista como uma das grandes vantagens humanas sobre as máquinas, agora aparece como uma ferramenta capaz de explorar fragilidades da própria inteligência artificial.
A poesia, uma das formas mais antigas de expressão humana, se mostra mais eficiente do que códigos matemáticos sofisticados para enganar sistemas modernos.
Isso reforça a ideia de que a inteligência artificial ainda não compreende plenamente a complexidade da linguagem humana. Ela reconhece padrões, mas não entende contexto, intenção e subtexto da mesma forma que uma pessoa.
É importante deixar claro que o estudo não incentiva o uso da poesia para gerar conteúdos perigosos. Pelo contrário. Ele mostra uma vulnerabilidade que precisa ser corrigida.
Ao identificar esse problema, os pesquisadores ajudam a tornar os sistemas mais seguros no futuro. Conhecer a falha é o primeiro passo para corrigi-la.
Mas o estudo também levanta questões éticas importantes. Se formas artísticas de linguagem podem ser usadas para burlar filtros, como equilibrar liberdade criativa e segurança? Esse é um dilema que não tem resposta simples.
Um dos grandes desafios da inteligência artificial é criar mecanismos de proteção que não eliminem a riqueza da linguagem humana.
A poesia, por natureza, fala de temas difíceis, conflitos, violência simbólica, dor e desejo. Bloquear tudo isso seria empobrecer a experiência humana e cultural.
Ao mesmo tempo, é necessário impedir que a tecnologia seja usada para fins realmente perigosos.
Encontrar esse equilíbrio exige mais do que regras rígidas. Exige compreensão profunda de contexto, algo que a IA ainda está aprendendo.
Mais do que revelar uma falha técnica, o estudo do Icaro Lab nos ensina algo fundamental sobre o estágio atual da inteligência artificial.
Ela é poderosa, mas não é inteligente no sentido humano. Ela processa linguagem, mas não compreende significado como nós. Ela reconhece formas, mas não intenções.
Quando a linguagem foge do padrão esperado, a máquina se perde. Isso não diminui a importância da IA. Pelo contrário. Mostra que ainda há muito a evoluir.
A poesia sempre foi vista como algo difícil de explicar. Ela resiste à tradução literal, à análise puramente lógica. Talvez por isso ela funcione como um espelho perfeito das limitações da inteligência artificial.
Ao falhar diante da poesia, a IA revela o quanto ainda depende de estruturas previsíveis.
Esse choque entre linguagem criativa e sistemas automatizados expõe a distância entre simular linguagem e compreendê-la de verdade.
Os próprios pesquisadores afirmam que ainda não sabem exatamente por que a poesia funciona tão bem como técnica adversarial. Isso abre um campo inteiro de pesquisa.
Será preciso desenvolver sistemas que consigam interpretar linguagem figurada, ironia, metáfora e contexto com mais profundidade. Isso é um desafio enorme, que envolve linguística, filosofia, psicologia e ciência da computação.
A segurança da IA, daqui para frente, não será apenas uma questão técnica. Será também uma questão cultural.
O estudo do Icaro Lab mostra que a inteligência artificial ainda tropeça onde a linguagem humana floresce. A poesia, com sua ambiguidade e riqueza, expõe fragilidades inesperadas em sistemas considerados avançados.
Isso não significa que a IA seja inútil ou perigosa por natureza. Significa que ela ainda está aprendendo. E que nós, como sociedade, precisamos acompanhar esse aprendizado com cuidado, responsabilidade e senso crítico.
Talvez a maior lição desse episódio seja simples e profunda ao mesmo tempo: palavras importam. A forma como dizemos algo pode ser tão poderosa quanto o que dizemos.
E, por enquanto, a poesia continua sendo um território onde as máquinas ainda não conseguem caminhar com a mesma segurança que os humanos.
Isso, para o bem e para o mal, diz muito sobre o estado atual da inteligência artificial.
Ôpa! Tenho mais informações pra você. Acesse minha página e clique no sino para receber notificações.
