Se você usa IA sem revisar, prepare-se para passar vergonha
clique para exibir bio do colunista
Vladimir Nunan é CEO da Eduvem, uma startup premiada com mais de 20 reconhecimentos nacionais e internacionais. Fora do mundo corporativo, é um apaixonado por esportes e desafios, dedicando-se ao triatlo e à busca contínua pela superação. Nesta coluna, escreve sobre tecnologia e suas diversidades
Se você usa IA sem revisar, prepare-se para passar vergonha
A Agência Espacial Brasileira publicou uma arte para homenagear Santos Dumont. A imagem foi feita com uma IA generativa e exibia o famoso 14-Bis, ou pelo menos uma tentativa dele. Só que havia erros gritantes
Foto: Imagem gerada por Inteligência Artificial (script próprio): Midjourney
Script usado: make an image of Alberto Santos Dumont, aeronaut, athlete, self-taught, Brazilian inventor, Photography, Shot on 70mm, Depth of Field, --ar 16:9 --v 6.0
Em uma manhã ensolarada do futuro, ou melhor dizendo, do presente mesmo, a Agência Espacial Brasileira teve uma ideia genial: usar inteligência artificial (IA) para criar uma imagem comemorativa. Nada mais atual, tecnológico e simpático.
A intenção era boa, a ferramenta era moderna e o momento parecia ideal. Só esqueceram de um pequeno detalhe. Faltou alguém para revisar.
Foi assim que o lendário 14-Bis, orgulho da aviação brasileira e símbolo da genialidade de Santos Dumont, apareceu na internet com a hélice no lugar errado, o piloto fora de posição e um design que faria qualquer engenheiro aeronáutico largar o café no susto.
A imagem gerada por IA parecia mais uma ficção científica do que uma homenagem histórica. E o que era para ser uma reverência se transformou em um meme muito bem compartilhado.
No entanto, por trás do riso e dos comentários irônicos, ficou uma lição importante. Usar IA não é só apertar o botão “gerar imagem”. Existe um processo de validação que não pode ser ignorado. E quem pula essa etapa, corre o risco de cair na armadilha do automatismo cego.
Como errar feio com um gênio da aviação
Vamos aos detalhes. A Agência Espacial Brasileira (AEB) publicou uma arte para homenagear Santos Dumont. A imagem foi feita com uma IA generativa e exibia o famoso 14-Bis, ou pelo menos uma tentativa dele. Só que havia erros gritantes.
A hélice aparecia na frente, como nos aviões convencionais. O problema é que o 14-Bis usava uma hélice traseira, que empurrava em vez de puxar. O piloto estava sentado em um local incompatível com o projeto original. E outros elementos da estrutura simplesmente não batiam com o design histórico.
Foto: Reprodução/Instagram agenciaespacialbrasileira
Postagem publicada no dia dos 152 anos de Santos Dumont
Em resumo, a IA gerou uma versão alternativa do 14-Bis, algo entre um avião steampunk e uma nave de videogame. O resultado foi que a arte, publicada nas redes oficiais da AEB, virou piada nas redes sociais.
A repercussão foi tão negativa que a imagem foi retirada do ar e a agência pediu desculpas. Mas o estrago já estava feito. E mais do que isso, a situação gerou um alerta geral sobre os perigos de usar IA sem o devido cuidado.
A culpa é da IA?
A resposta é sim e não ao mesmo tempo. Sim, a IA errou. Mas ela errou dentro dos limites daquilo que foi alimentada. A inteligência artificial não tem consciência, não conhece história e não sabe quem foi Santos Dumont. Ela apenas replica padrões com base em dados extraídos da internet.
E adivinhe o que tem mais online? Imagens de aviões americanos, helicópteros de guerra e aeronaves comerciais modernas. O 14-Bis, infelizmente, é uma minoria estatística no grande oceano de dados.
Então, quando a IA posicionou a hélice na frente, não foi por mal. Foi porque esse é o padrão que ela mais viu. Quando colocou o piloto no lugar errado, foi porque ela simplesmente não compreendeu a lógica por trás do design original.
Ou seja, a IA fez o que foi programada para fazer. O erro verdadeiro foi da equipe que publicou a imagem sem revisão, sem contexto histórico e sem passar pelo crivo humano que dá sentido ao uso da tecnologia.
O mito do botão mágico
Desde que os modelos generativos de IA se popularizaram, muita gente passou a acreditar que essas ferramentas fazem tudo sozinhas. Geram textos, imagens, vídeos, músicas, códigos, slogans, receitas e até currículos em questão de segundos.
Essa ideia vende bem, mas não corresponde à realidade. A IA não sabe o que está fazendo. Ela apenas simula entendimento com base em probabilidades.
Acreditar que ela não precisa de revisão é como contratar um chef sem paladar para preparar um prato típico de família. Ele pode até seguir a receita, mas o tempero vai faltar.
Inteligência sem contexto é só informação
Existe uma diferença enorme entre gerar algo e compreender o que está sendo gerado. A IA é muito boa em produzir, mas ainda engatinha quando o assunto é interpretar. Ela pode até desenhar um avião, mas não entende o significado histórico, cultural e emocional que aquele avião carrega.
Imagine pedir para a IA fazer uma imagem do Cristo Redentor e ela entrega uma estátua com braços cruzados, moicano e óculos escuros. Esteticamente pode ser interessante, mas está longe de ser coerente com o símbolo religioso e nacional que representa.
Esse é o risco de usar tecnologia sem curadoria. A ferramenta até entrega, mas sem alguém para avaliar, o resultado pode sair completamente fora do esperado.
Curadoria é a nova habilidade essencial
Produzir conteúdo já não é o grande desafio da era digital. O problema agora é escolher, revisar, ajustar e validar tudo o que está sendo gerado.
Curadoria exige sensibilidade, conhecimento e responsabilidade. Não basta selecionar a imagem mais bonita. É preciso saber se ela é historicamente correta, se respeita os valores culturais, se comunica a mensagem certa e se faz sentido para o público.
A IA pode pintar a Monalisa com IA no estilo Van Gogh. Mas alguém precisa saber que a Monalisa original não tem pinceladas impressionistas.
Outros casos curiosos que mostram o mesmo problema
O erro da AEB não foi isolado. Casos semelhantes têm se acumulado ao redor do mundo. Aqui vão alguns exemplos que ilustram como o uso irresponsável da IA pode sair do controle.
Imagens históricas alteradas por IA: uma escola norte-americana utilizou imagens geradas por IA para ilustrar eventos da Segunda Guerra Mundial.
O problema é que os uniformes estavam errados, símbolos foram invertidos e soldados apareciam usando equipamentos de décadas futuras. A tentativa de modernizar a apresentação virou motivo de correção pública e retratação.
Obituários automáticos com zero empatia: jornais experimentaram deixar a IA escrever obituários. O resultado? Textos do tipo: "Fulano viveu uma vida comum com momentos médios de alegria". A frieza e a falta de sensibilidade mostraram que a IA pode até escrever, mas não sente.
Receitas impossíveis de fazer: um site de culinária pediu para a IA gerar receitas de sobremesas rápidas. Uma das criações foi uma torta de sorvete assada no forno. A IA simplesmente não entendeu que sorvete e calor não se misturam. Literalmente derreteu o bom senso.
Esses casos mostram que o uso da IA precisa de supervisão constante. Ela é uma ferramenta poderosa, mas sozinha, pode gerar confusão em vez de solução.
IA sem filtro é IA sem rumo
No caso do 14-Bis, a ausência de revisão fez com que uma homenagem se transformasse em um desserviço à história. E quando isso parte de uma agência oficial, o problema é ainda mais sério. Não se trata apenas de um erro visual. Trata-se da representação simbólica de uma figura histórica que marcou o mundo.
Imagine se um dia uma IA desenha Pelé jogando futebol americano ou Oscar Niemeyer projetando uma churrascaria rodízio. Pode até parecer engraçado, mas é também um sinal de alerta.
O novo desafio: imagens falsas com cara de verdade
Outro ponto importante é que muitas pessoas não conseguem perceber que estão vendo algo criado por IA. Quando uma instituição de confiança publica uma imagem, o público tende a acreditar que aquilo é real.
As imagens geradas por IA têm aparência de verdade, mas sem garantia de autenticidade. E isso pode distorcer fatos, criar confusão e afetar a percepção pública sobre eventos históricos e figuras marcantes.
O papel do humano na era da IA
Estamos caminhando para um mundo onde a IA será cada vez mais presente. Isso é inevitável. O ponto crucial é entender que o papel humano não desaparece. Muito pelo contrário. Ele se torna ainda mais necessário.
Revisar, interpretar, dar contexto e sentido. Essas são funções que a IA ainda não domina. E são justamente essas funções que protegem o conteúdo de erros, gafes e distorções.
Quem trabalha com IA precisa saber mais do que usar a ferramenta. Precisa entender o impacto do que está sendo criado. Precisa assumir a responsabilidade de revisar antes de publicar.
E se fosse com você?
Pense agora em um projeto da sua empresa. Imagine usar IA para gerar uma apresentação visual para um cliente. E nessa imagem aparece um erro grosseiro. Ou pior, um erro ofensivo sem intenção.
O impacto pode ser enorme, tanto em reputação quanto em credibilidade. Por isso, não basta dominar a tecnologia. É preciso dominar o discernimento. E isso ainda é coisa de gente.
Conclusão
O caso do 14-Bis é um lembrete do que acontece quando deixamos a tecnologia pilotar sem copiloto. A IA é uma aliada incrível, mas precisa de supervisão. Sem isso, o risco de errar é tão grande quanto o céu que Santos Dumont desbravou com coragem e precisão.
A tecnologia não substitui o humano. Ela amplia o que o humano já é capaz de fazer. E para isso funcionar bem, precisamos mais do que inovação. Precisamos de responsabilidade, cuidado e curadoria.
Portanto, se você trabalha com IA, ou pretende usar, lembre-se de fazer como o próprio Santos Dumont. Não decole sem revisar cada detalhe. Porque no fim das contas, não é a tecnologia que conta a história. Somos nós.
Ôpa! Tenho mais informações pra você. Acesse minha página
e clique no sino para receber notificações.
Esse conteúdo é de acesso exclusivo aos assinantes do OP+
Filmes, documentários, clube de descontos, reportagens, colunistas, jornal e muito mais
Conteúdo exclusivo para assinantes do OPOVO+. Já é assinante?
Entrar.
Estamos disponibilizando gratuitamente um conteúdo de acesso exclusivo de assinantes. Para mais colunas, vídeos e reportagens especiais como essas assine OPOVO +.