A Meta interveio para encerrar cerca de 20 operações secretas de influência em todo o mundo este ano, descobriu-se, embora a empresa de tecnologia tenha afirmado que os receios de que eleições falsas alimentadas por IA não se tenham concretizado em 2024.
Nick Clegg, presidente de assuntos globais da empresa que administra o Facebook, Instagram e o WhatsApp, disse que a Rússia continua sendo a fonte número um de atividades online controversas, mas disse em um briefing que era “surpreendente” quão pouca IA estava sendo usada para tentar enganar os eleitores no ano mais movimentado da história das eleições em todo o mundo. .
O ex-vice-primeiro-ministro britânico revelou que o Meta, que tem mais de 3 mil milhões de utilizadores, teve de rejeitar pouco mais de 500 mil pedidos para gerar imagens com as suas próprias ferramentas de inteligência artificial de Donald Trump e Kamala Harris, JD Vance e Joe Biden no mês anterior. . até o dia das eleições nos EUA.
Mas os especialistas em segurança da empresa tiveram de enfrentar uma nova operação que utilizava contas falsas para manipular o debate público para um objectivo estratégico, a uma taxa de mais de uma a cada três semanas. Incidentes de “comportamento inautêntico coordenado” incluiu uma rede russa usando dezenas de contas fictícias do Facebook e sites de notícias para atacar pessoas na Geórgia, Armênia e Azerbaijão.
Outra foi uma operação baseada na Rússia que usou inteligência artificial para criar sites de notícias falsas usando marcas como a Fox News e o Telegraph para tentar enfraquecer o apoio ocidental à Ucrânia, e usou sites de notícias falsas francófonos para promover o papel da Rússia em África e criticar o da França. .
“A Rússia continua a ser a principal fonte de operações de influência secreta que interrompemos até agora, com 39 redes interrompidas no total desde 2017”, disse ele. As próximas fontes mais frequentes de interferência estrangeira detectadas pelo Meta são o Irão e a China.
Avaliando o efeito da falsificação de IA após uma onda de pesquisas em 50 países, incluindo Estados Unidos, Índia, Taiwan, França, Alemanha e Reino Unido, ele disse: “Houve todos os tipos de avisos sobre os riscos potenciais de coisas como falsificação generalizada”. Deepfakes e IA permitiram campanhas de desinformação. Não foi isso que vimos no que monitoramos em todos os nossos serviços. “Parece que estes riscos não se materializaram de forma significativa e que qualquer impacto desse tipo foi modesto e de âmbito limitado.”
Mas Clegg alertou contra a complacência e disse que o impacto relativamente baixo do deepfake, que usa IA generativa para manipular vídeos, vozes e fotografias, era “muito, muito provável” que mudasse.
“É claro que estas ferramentas se tornarão mais predominantes e veremos cada vez mais conteúdo sintético e híbrido online”, disse ele.
A meta avaliação continua conclusões No mês passado, o Centro para Segurança e Tecnologia Emergentes declarou que “o conteúdo enganoso gerado pela IA moldou o discurso eleitoral americano, amplificando outras formas de desinformação e inflamando debates políticos”. Ele disse que faltam evidências sobre seu impacto na vitória eleitoral de Donald Trump.
Concluiu que as ameaças impulsionadas pela IA começaram a prejudicar a saúde dos sistemas democráticos em 2024 e alertou que “a complacência não deve surgir” antes das eleições de 2025 na Austrália e no Canadá.
Sam Stockwell, pesquisador associado do Instituto Alan Turing, disse que as ferramentas de inteligência artificial podem ter moldado os discursos eleitorais e amplificado narrativas prejudiciais de maneiras sutis, especialmente nas recentes eleições nos EUA.
“Isso incluiu alegações enganosas de que a manifestação de Kamala Harris foi gerada por IA e rumores infundados de que imigrantes haitianos comiam animais de estimação se tornaram virais com a ajuda de memes xenófobos gerados por IA”, disse ele.
