Por Samuel Leal | Cérebro de Silício
O detector de IA da Meta não reconhece nem as próprias imagens
A Meta lançou essa semana uma ferramenta para detectar imagens geradas por IA. A ideia é simples: você sobe uma imagem, o sistema analisa e te diz se foi criada pela inteligência artificial da empresa.
Parece útil. Parece responsável. Parece que a empresa finalmente está levando a sério o problema das deepfakes e da desinformação visual.
Só tem um detalhe: a ferramenta não consegue identificar nem as próprias imagens que ela mesma gerou — se você recortar elas.
Isso não é um bug. É uma janela aberta para tudo que está errado com a forma que big tech trata o problema da IA generativa.
O que aconteceu
A Reuters testou 40 imagens criadas pelo Muse Image — o novo modelo de geração de imagens da Meta, lançado esta semana. O detector identificou corretamente todas as 40 originais. Resultado perfeito.
Então os pesquisadores fizeram algo simples: recortaram as imagens para cerca de um terço a metade do tamanho original. Nada de software especializado, nada de técnica avançada — apenas um recorte básico, o tipo de coisa que qualquer pessoa faz antes de postar uma foto no Instagram.
O detector falhou em 55% dos casos.
Mais da metade. Com um recorte simples.
Como o sistema foi construído — e por que quebra tão fácil
A tecnologia por trás do detector se chama Content Seal: uma marca d’água invisível embutida em cada imagem gerada pelo Muse Image. A ideia é que esse sinal persista mesmo após edições comuns e permita rastrear a origem da imagem.
O problema é que “edições comuns” aparentemente não inclui recorte. Quando você corta uma parte significativa da imagem, parte do sinal é removida junto — e o detector perde a referência.
Siwei Lyu, professor de ciência da computação da Universidade de Nova York e pesquisador de forense de imagens, resumiu bem: métodos baseados em marca d’água podem ser eficazes quando o sinal permanece intacto, mas qualquer modificação que o remova ou enfraqueça — recorte, redimensionamento, compressão — pode comprometer a detecção dependendo de como a marca foi projetada.
Em outras palavras: a solução funciona em condições ideais. O mundo real não é ideal.
O problema maior que ninguém quer falar
Tem uma contradição no centro dessa história que precisa ser nomeada.
A Meta lança uma ferramenta para criar imagens com IA. Na mesma semana, lança uma ferramenta para detectar se imagens foram criadas com IA. E a ferramenta de detecção falha contra a ferramenta de criação com uma edição de 30 segundos.
Isso não é descuido. É o padrão da indústria. Google e OpenAI também já admitiram publicamente que suas ferramentas de detecção não são infalíveis. A corrida entre geração e detecção é assimétrica por natureza: gerar é mais fácil do que detectar, e vai continuar sendo.
O que as empresas fazem então? Lançam detectores com ressalvas. Falam que “a ferramenta ainda está em prévia”. Dizem que “o sinal pode ser perdido em recortes severos”. E seguem lucrando com as duas pontas — a geração e a tentativa de controle.
Por que isso importa agora
Esse lançamento acontece em ano eleitoral nos Estados Unidos. Eleições de meio de mandato, com todo o histórico de desinformação visual que isso carrega.
Uma imagem gerada pelo Muse Image, recortada de qualquer forma básica, passa pelo próprio detector da Meta sem ser identificada. Essa imagem pode circular no Instagram, no Facebook, no WhatsApp — todas plataformas da Meta — sem nenhum rótulo, sem nenhum aviso.
O Conselho de Supervisão da Meta — órgão independente que fiscaliza as decisões da empresa — já havia pedido em março que a Meta fizesse mais para combater a proliferação de conteúdo de IA enganoso e investisse em ferramentas de detecção mais robustas.
A resposta foi lançar uma ferramenta que falha em mais da metade dos casos com um recorte simples.
O que você deve entender com isso
Primeiro: não confie em rótulos de “detectado por IA” como garantia de nada. As ferramentas atuais têm limitações sérias e são facilmente contornadas — às vezes sem intenção.
Segundo: o problema não é técnico, é estrutural. Enquanto as mesmas empresas que lucram com geração de imagens forem responsáveis pela detecção, o incentivo real para resolver o problema não existe.
Terceiro: seu olhar crítico continua sendo a melhor ferramenta. Antes de compartilhar qualquer imagem impactante — especialmente em contexto político — questione a origem, verifique o contexto e desconfie do que parece bom demais para ser real.
A Meta criou um problema. Lançou uma solução que não funciona direito. E chamou isso de avanço em segurança.
Quer entender melhor como a IA está moldando o que você vê e acredita? No Guia Completo de Tecnologia e Inteligência Artificial do Cérebro de Silício reunimos conteúdos essenciais para quem quer acompanhar essas mudanças sem complicação.
