Jogue uma pedra e você provavelmente acertará um deepfake. A mercantilização da IA generativa levou a uma explosão absoluta de conteúdo falso online: de acordo com a plataforma de verificação de identidade Sumsub, houve um aumento de 4x nos deepfakes em todo o mundo entre 2023 e 2024. Em 2024, os Deepfakes representaram 7% de todas as fraudes, de acordo com para Sumsub. , que vão desde falsificações de identidade e controle de contas até campanhas sofisticadas de engenharia social.
No que espera ser uma contribuição significativa para a luta contra os deepfakes, a Meta está lançando uma ferramenta para aplicar marcas d’água imperceptíveis em videoclipes gerados por IA. Anunciada quinta-feira, a ferramenta, chamada Meta Video Seal, está disponível em código aberto e foi projetada para integração em softwares existentes. A ferramenta se junta a outras ferramentas de marca d’água do Meta, Watermark Anything (relançada hoje sob uma licença permissiva) e Audio Seal.
“Desenvolvemos o Video Seal para fornecer uma solução de marca d’água de vídeo mais eficaz, especialmente para detectar vídeos gerados por IA e proteger a originalidade”, disse Pierre Fernández, cientista pesquisador de IA da Meta, ao TechCrunch em uma entrevista.
O Video Seal não é a primeira tecnologia desse tipo. mente profunda SynthID pode marcar vídeos com marcas d’água e Microsoft tem o seu próprio Metodologias de marca d’água de vídeo.
Mas Fernández diz que muitas abordagens existentes são insuficientes.
“Embora existam outras ferramentas de marca d’água, elas não oferecem robustez suficiente para compressão de vídeo, o que é muito comum no compartilhamento de conteúdo por meio de plataformas sociais; não eram eficientes o suficiente para funcionar em grande escala; eles não eram abertos ou reproduzíveis; ou foram derivados de marcas d’água em imagens, o que não é ideal para vídeos”, disse Fernández.
Além de uma marca d’água, o Video Seal pode adicionar uma mensagem oculta aos vídeos que podem ser descobertos para determinar suas origens. Meta afirma que o Video Seal é resistente a edições comuns, como desfoque e corte, bem como algoritmos de compactação populares.
Fernandez admite que o Video Seal tem certas limitações, principalmente o equilíbrio entre a visibilidade das marcas d’água da ferramenta e sua resistência geral à adulteração. A compactação pesada e as edições importantes podem alterar as marcas d’água ou torná-las irrecuperáveis, acrescentou.
É claro que o maior problema que o Video Seal enfrenta é que os desenvolvedores e a indústria não terão muitos motivos para adotá-lo, principalmente aqueles que já utilizam soluções proprietárias. Na tentativa de resolver isso, a Meta está lançando uma tabela de classificação pública, Meta Omni Seal Bench, dedicada a comparar o desempenho de vários métodos de marca d’água, e organizando um workshop sobre marca d’água este ano na ICLR, uma importante conferência de IA.
“Esperamos que cada vez mais pesquisadores e desenvolvedores de IA integrem alguma forma de marca d’água em seu trabalho”, disse Fernández. “Queremos colaborar com a indústria e a comunidade acadêmica para progredir mais rapidamente nesta área”.
