Logo O POVO+
Se você usa IA sem revisar, prepare-se para passar vergonha
Foto de Vladimir Nunan
clique para exibir bio do colunista

Vladimir Nunan é CEO da Eduvem, uma startup premiada com mais de 20 reconhecimentos nacionais e internacionais. Fora do mundo corporativo, é um apaixonado por esportes e desafios, dedicando-se ao triatlo e à busca contínua pela superação. Nesta coluna, escreve sobre tecnologia e suas diversidades

Vladimir Nunan tecnologia

Se você usa IA sem revisar, prepare-se para passar vergonha

A Agência Espacial Brasileira publicou uma arte para homenagear Santos Dumont. A imagem foi feita com uma IA generativa e exibia o famoso 14-Bis, ou pelo menos uma tentativa dele. Só que havia erros gritantes
Script usado: make an image of Alberto Santos Dumont, aeronaut, athlete, self-taught, Brazilian inventor, Photography, Shot on 70mm, Depth of Field, --ar 16:9 --v 6.0  (Foto: Imagem gerada por Inteligência Artificial (script próprio): Midjourney)
Foto: Imagem gerada por Inteligência Artificial (script próprio): Midjourney Script usado: make an image of Alberto Santos Dumont, aeronaut, athlete, self-taught, Brazilian inventor, Photography, Shot on 70mm, Depth of Field, --ar 16:9 --v 6.0

Em uma manhã ensolarada do futuro, ou melhor dizendo, do presente mesmo, a Agência Espacial Brasileira teve uma ideia genial: usar inteligência artificial (IA) para criar uma imagem comemorativa. Nada mais atual, tecnológico e simpático.

A intenção era boa, a ferramenta era moderna e o momento parecia ideal. Só esqueceram de um pequeno detalhe. Faltou alguém para revisar.

Foi assim que o lendário 14-Bis, orgulho da aviação brasileira e símbolo da genialidade de Santos Dumont, apareceu na internet com a hélice no lugar errado, o piloto fora de posição e um design que faria qualquer engenheiro aeronáutico largar o café no susto.

A imagem gerada por IA parecia mais uma ficção científica do que uma homenagem histórica. E o que era para ser uma reverência se transformou em um meme muito bem compartilhado.

No entanto, por trás do riso e dos comentários irônicos, ficou uma lição importante. Usar IA não é só apertar o botão “gerar imagem”. Existe um processo de validação que não pode ser ignorado. E quem pula essa etapa, corre o risco de cair na armadilha do automatismo cego.

Como errar feio com um gênio da aviação

Vamos aos detalhes. A Agência Espacial Brasileira (AEB) publicou uma arte para homenagear Santos Dumont. A imagem foi feita com uma IA generativa e exibia o famoso 14-Bis, ou pelo menos uma tentativa dele. Só que havia erros gritantes.

A hélice aparecia na frente, como nos aviões convencionais. O problema é que o 14-Bis usava uma hélice traseira, que empurrava em vez de puxar. O piloto estava sentado em um local incompatível com o projeto original. E outros elementos da estrutura simplesmente não batiam com o design histórico.

Postagem publicada no dia dos 152 anos de Santos Dumont(Foto: Reprodução/Instagram agenciaespacialbrasileira)
Foto: Reprodução/Instagram agenciaespacialbrasileira Postagem publicada no dia dos 152 anos de Santos Dumont

Em resumo, a IA gerou uma versão alternativa do 14-Bis, algo entre um avião steampunk e uma nave de videogame. O resultado foi que a arte, publicada nas redes oficiais da AEB, virou piada nas redes sociais.

A repercussão foi tão negativa que a imagem foi retirada do ar e a agência pediu desculpas.
Mas o estrago já estava feito. E mais do que isso, a situação gerou um alerta geral sobre os perigos de usar IA sem o devido cuidado.

A culpa é da IA?

A resposta é sim e não ao mesmo tempo. Sim, a IA errou. Mas ela errou dentro dos limites daquilo que foi alimentada. A inteligência artificial não tem consciência, não conhece história e não sabe quem foi Santos Dumont. Ela apenas replica padrões com base em dados extraídos da internet.

E adivinhe o que tem mais online? Imagens de aviões americanos, helicópteros de guerra e aeronaves comerciais modernas. O 14-Bis, infelizmente, é uma minoria estatística no grande oceano de dados.

Então, quando a IA posicionou a hélice na frente, não foi por mal. Foi porque esse é o padrão que ela mais viu. Quando colocou o piloto no lugar errado, foi porque ela simplesmente não compreendeu a lógica por trás do design original.

Ou seja, a IA fez o que foi programada para fazer. O erro verdadeiro foi da equipe que publicou a imagem sem revisão, sem contexto histórico e sem passar pelo crivo humano que dá sentido ao uso da tecnologia.

O mito do botão mágico

Desde que os modelos generativos de IA se popularizaram, muita gente passou a acreditar que essas ferramentas fazem tudo sozinhas. Geram textos, imagens, vídeos, músicas, códigos, slogans, receitas e até currículos em questão de segundos.

Essa ideia vende bem, mas não corresponde à realidade. A IA não sabe o que está fazendo. Ela apenas simula entendimento com base em probabilidades.

Acreditar que ela não precisa de revisão é como contratar um chef sem paladar para preparar um prato típico de família. Ele pode até seguir a receita, mas o tempero vai faltar.

Inteligência sem contexto é só informação

Existe uma diferença enorme entre gerar algo e compreender o que está sendo gerado. A IA é muito boa em produzir, mas ainda engatinha quando o assunto é interpretar. Ela pode até desenhar um avião, mas não entende o significado histórico, cultural e emocional que aquele avião carrega.

Imagine pedir para a IA fazer uma imagem do Cristo Redentor e ela entrega uma estátua com braços cruzados, moicano e óculos escuros. Esteticamente pode ser interessante, mas está longe de ser coerente com o símbolo religioso e nacional que representa.

Esse é o risco de usar tecnologia sem curadoria. A ferramenta até entrega, mas sem alguém para avaliar, o resultado pode sair completamente fora do esperado.

Curadoria é a nova habilidade essencial

Produzir conteúdo já não é o grande desafio da era digital. O problema agora é escolher, revisar, ajustar e validar tudo o que está sendo gerado.

Curadoria exige sensibilidade, conhecimento e responsabilidade. Não basta selecionar a imagem mais bonita. É preciso saber se ela é historicamente correta, se respeita os valores culturais, se comunica a mensagem certa e se faz sentido para o público.

A IA pode pintar a Monalisa com IA no estilo Van Gogh. Mas alguém precisa saber que a Monalisa original não tem pinceladas impressionistas.

Outros casos curiosos que mostram o mesmo problema

O erro da AEB não foi isolado. Casos semelhantes têm se acumulado ao redor do mundo. Aqui vão alguns exemplos que ilustram como o uso irresponsável da IA pode sair do controle.

Imagens históricas alteradas por IA: uma escola norte-americana utilizou imagens geradas por IA para ilustrar eventos da Segunda Guerra Mundial.

O problema é que os uniformes estavam errados, símbolos foram invertidos e soldados apareciam usando equipamentos de décadas futuras. A tentativa de modernizar a apresentação virou motivo de correção pública e retratação.

Obituários automáticos com zero empatia: jornais experimentaram deixar a IA escrever obituários. O resultado? Textos do tipo: "Fulano viveu uma vida comum com momentos médios de alegria". A frieza e a falta de sensibilidade mostraram que a IA pode até escrever, mas não sente.

Receitas impossíveis de fazer: um site de culinária pediu para a IA gerar receitas de sobremesas rápidas. Uma das criações foi uma torta de sorvete assada no forno. A IA simplesmente não entendeu que sorvete e calor não se misturam. Literalmente derreteu o bom senso.

Esses casos mostram que o uso da IA precisa de supervisão constante. Ela é uma ferramenta poderosa, mas sozinha, pode gerar confusão em vez de solução.

IA sem filtro é IA sem rumo

No caso do 14-Bis, a ausência de revisão fez com que uma homenagem se transformasse em um desserviço à história. E quando isso parte de uma agência oficial, o problema é ainda mais sério. Não se trata apenas de um erro visual. Trata-se da representação simbólica de uma figura histórica que marcou o mundo.

Imagine se um dia uma IA desenha Pelé jogando futebol americano ou Oscar Niemeyer projetando uma churrascaria rodízio. Pode até parecer engraçado, mas é também um sinal de alerta.

O novo desafio: imagens falsas com cara de verdade

Outro ponto importante é que muitas pessoas não conseguem perceber que estão vendo algo criado por IA. Quando uma instituição de confiança publica uma imagem, o público tende a acreditar que aquilo é real.

As imagens geradas por IA têm aparência de verdade, mas sem garantia de autenticidade. E isso pode distorcer fatos, criar confusão e afetar a percepção pública sobre eventos históricos e figuras marcantes.

O papel do humano na era da IA

Estamos caminhando para um mundo onde a IA será cada vez mais presente. Isso é inevitável. O ponto crucial é entender que o papel humano não desaparece. Muito pelo contrário. Ele se torna ainda mais necessário.

Revisar, interpretar, dar contexto e sentido. Essas são funções que a IA ainda não domina. E são justamente essas funções que protegem o conteúdo de erros, gafes e distorções.

Quem trabalha com IA precisa saber mais do que usar a ferramenta. Precisa entender o impacto do que está sendo criado. Precisa assumir a responsabilidade de revisar antes de publicar.

E se fosse com você?

Pense agora em um projeto da sua empresa. Imagine usar IA para gerar uma apresentação visual para um cliente. E nessa imagem aparece um erro grosseiro. Ou pior, um erro ofensivo sem intenção.

O impacto pode ser enorme, tanto em reputação quanto em credibilidade. Por isso, não basta dominar a tecnologia. É preciso dominar o discernimento. E isso ainda é coisa de gente.

Conclusão

O caso do 14-Bis é um lembrete do que acontece quando deixamos a tecnologia pilotar sem copiloto. A IA é uma aliada incrível, mas precisa de supervisão. Sem isso, o risco de errar é tão grande quanto o céu que Santos Dumont desbravou com coragem e precisão.

A tecnologia não substitui o humano. Ela amplia o que o humano já é capaz de fazer. E para isso funcionar bem, precisamos mais do que inovação. Precisamos de responsabilidade, cuidado e curadoria.

Portanto, se você trabalha com IA, ou pretende usar, lembre-se de fazer como o próprio Santos Dumont. Não decole sem revisar cada detalhe. Porque no fim das contas, não é a tecnologia que conta a história. Somos nós.

Foto do Vladimir Nunan

Ôpa! Tenho mais informações pra você. Acesse minha página e clique no sino para receber notificações.

O que você achou desse conteúdo?