Deepfakes Ultrapassam Ferramentas de Detecção e Exigem Vigilância Humana
Deepfakes estão cada vez mais sofisticados, enganando tanto o olho humano quanto ferramentas de detecção de IA. Uma análise da PC World revelou que muitas plataformas falham em identificar conteúdos manipulados, destacando a importância do ceticismo e da atenção aos detalhes para os usuários.
SÃO PAULO, SP - Deepfakes estão alcançando um nível de sofisticação que os torna cada vez mais difíceis de serem identificados não apenas pelo olho humano, mas também pelas próprias ferramentas tecnológicas de detecção. Uma análise recente realizada pela PC World revelou que muitas plataformas de segurança, projetadas para combater a desinformação por IA, estão falhando em barrar conteúdos manipulados.
Ferramentas de IA Lutam Contra a Sofisticação dos Deepfakes
A preocupação inicial surgiu a partir de um vídeo publicado no TikTok, onde uma mulher, aparentemente vendendo um produto, exibe uma manipulação surpreendente: ela coloca os dedos na cartilagem do nariz de uma maneira que é antinatural para a anatomia humana. A alta qualidade dessa manipulação permitiu que o vídeo passasse ileso por diversas ferramentas de detecção, incluindo plataformas públicas frequentemente utilizadas pelos usuários, que não conseguiram fornecer estimativas precisas sobre sua natureza.
Um exemplo notável foi o site deepfakedetector.ai, que, ao ser acessado pela PC World para a análise, indicou uma probabilidade de deepfake variando entre apenas 5% a 24%. A ferramenta até mesmo descreveu o material como possuindo "detalhes e expressões faciais nítidas, profundidade de campo, interação natural com objetos e movimentos oculares e frequência de piscadas convincentes", o que sublinha a complexidade de identificar tais manipulações.
Em contraste, o Hive Moderation, outro recurso empregado para identificar vídeos gerados por deepfake, conseguiu apresentar um resultado mais exato e confiável, classificando o vídeo em questão como material criado por inteligência artificial, demonstrando que nem todas as ferramentas estão igualmente despreparadas.
A Importância do Ceticismo e da Observação Atenta
Diante do cenário de vídeos e imagens manipulados por IA se tornando progressivamente mais realistas, o ceticismo se estabelece como uma defesa primária para os usuários da internet. Desconfiar é um passo fundamental para não cair em golpes ou ser enganado por conteúdo fabricado.
No caso específico do vídeo do nariz, o criador do deepfake provavelmente tinha a intenção de ludibriar os espectadores, apresentando o produto como algo artesanal, feito manualmente, para justificar um preço elevado, por exemplo. Isso demonstra a capacidade dos deepfakes de serem utilizados em esquemas de fraude.
Além do ceticismo, há métodos práticos para verificar a autenticidade de um conteúdo. Realizar uma captura de tela de um produto exibido na internet e utilizar a busca reversa de imagens no Google Lens pode ajudar a descobrir a origem, o contexto ou imagens similares do item. Pesquisar palavras-chave ou frases que descrevam o produto também é útil para verificar a credibilidade do perfil vendedor.
É crucial também prestar atenção aos detalhes visuais no vídeo. Anomalias como piscadas irregulares, sincronia labial estranha, sombras inconsistentes ou outros movimentos faciais que pareçam antinaturais, como o movimento do nariz no exemplo citado, são indicadores chave de que o conteúdo pode ser um deepfake.