Ferramenta de Detecção de Imagens da Meta Falha em Mais da Metade de Conteúdos Após Cortes
Uma análise da Reuters revelou que a ferramenta de detecção de imagens geradas por inteligência artificial da Meta falhou em identificar 55% de suas próprias criações do Muse Image após terem sido cortadas. Apesar da Meta alegar usar uma marca d'água invisível, o 'Content Seal', a empresa admite que a tecnologia está em pré-visualização e que cortes agressivos podem comprometer o sinal. A falha levanta preocupações sobre a proliferação de deepfakes em meio às eleições de meio de mandato nos EUA, enquanto especialistas debatem a eficácia de tais sistemas.
VALE DO SILÍCIO, EUA - Uma ferramenta de detecção de imagens geradas por inteligência artificial (IA) desenvolvida pela Meta falhou em identificar 55% das próprias imagens produzidas pelo seu gerador, o Muse Image, após terem sido cortadas. A análise, publicada pela Reuters nesta sexta-feira (10), avaliou 40 imagens criadas pelo modelo de IA da empresa.
A ferramenta, apresentada em pré-visualização na mesma semana do lançamento do Muse Image, demonstrou alta precisão ao identificar corretamente todas as imagens originais submetidas pela reportagem. Contudo, o problema surgiu quando as fotos foram reduzidas para aproximadamente um terço a metade do tamanho original.
A Tecnologia do Content Seal e Suas Limitações
A Meta afirma em seu site que a tecnologia de marca d'água invisível, batizada de Content Seal, é incorporada a cada imagem criada pelo Muse Image e permite o reconhecimento mesmo após cortes. No entanto, questionada pela Reuters sobre os resultados do teste, a empresa respondeu que a ferramenta ainda está em fase de pré-visualização e que o sinal da marca d'água pode se perder em "cortes mais agressivos".
Essa limitação não é exclusiva da Meta. Google e OpenAI já emitiram alertas de que suas próprias ferramentas de detecção também não são infalíveis diante de técnicas de alteração de imagens.
Opiniões de Especialistas e o Cenário das Deepfakes
Siwei Lyu, professor de ciência da computação na Universidade de Buffalo e pesquisador de forense de imagens de IA, explicou à Reuters que sistemas baseados em marca d'água possuem limitações conhecidas. Ele destacou que qualquer modificação capaz de remover ou enfraquecer o sinal embutido, como corte, redimensionamento, compressão pesada ou edição, pode reduzir drasticamente a eficácia da detecção.
Por outro lado, Sarah Barrington, pesquisadora de IA e doutoranda na Escola de Informação da Universidade da Califórnia em Berkeley, vê o uso de marcas d'água como um caminho promissor para identificar conteúdo gerado por IA, mesmo que não cubra todos os casos. Ela comparou a tecnologia a medidas preventivas de segurança, que, embora não sejam infalíveis, representam um avanço significativo.
A dificuldade em verificar imagens após alterações simples assume particular relevância em um ano marcado pelas eleições de meio de mandato nos Estados Unidos. A falha pode facilitar a circulação de deepfakes, um risco já reconhecido pelo Comitê de Supervisão da Meta. Em março, o órgão cobrou investimentos em ferramentas de detecção mais robustas para combater a proliferação de conteúdo enganoso gerado por IA.
Ecossistema Meta AI: Muse Image e Muse Spark 1.1
O Muse Image, o novo gerador de imagens por IA da Meta, foi desenvolvido pela Meta Superintelligence Labs e lançado recentemente de forma gratuita no aplicativo Meta AI, no Instagram Stories e no WhatsApp. A ferramenta permite a criação e edição de imagens a partir de comandos de texto, mas gerou controvérsia por possibilitar a manipulação de fotos públicas de outras pessoas no Instagram sem notificação prévia, conforme apurado pelo TechCrunch.
Dias após o lançamento do Muse Image, a Meta também anunciou o Muse Spark 1.1, um modelo de raciocínio multimodal focado em tarefas agênticas. Este modelo apresenta avanços no uso de ferramentas, programação e compreensão multimodal, com acesso aberto via uma prévia pública de sua nova API, a Meta Model API, e também disponível no modo "Thinking" do aplicativo Meta AI e no site meta.ai.