Fábricas de conteúdo no exterior criam deepfakes políticos descobertos

há 1 dia

CompartilharSalvar

Ben SummerNews Impact

CompartilharSalvar

Getty Images

Várias páginas no exterior estão publicando notícias falsas assistidas por IA sobre a política do Reino Unido nas redes sociais

Fábricas de conteúdo no exterior estão usando Inteligência Artificial (IA) para criar publicações nas redes sociais sobre a política do Reino Unido, alertou um especialista.

A empresa de tecnologia Meta removeu várias páginas com sede no Vietname do Facebook após uma investigação da BBC Wales descobrir que elas estavam espalhando notícias falsas.

O aviso, do Prof. Martin Innes, da Universidade de Cardiff, ocorre enquanto a Comissão Eleitoral está desenvolvendo software para identificar e combater deepfakes antes das eleições do Parlamento galês e escocês em maio.

A BBC também descobriu exemplos de vídeos gerados por IA, compartilhados por páginas no País de Gales, que falsamente mostram políticos galês em situações comprometedora, incluindo apoiar um rival e beijar um colega.

Vários políticos galês relataram à BBC suas experiências como vítimas de deepfakes.

“Não acho que exista um político que não tenha passado por isso… dizer isso em voz alta me deixa bastante triste”, disse a deputada trabalhista Alex Davies-Jones.

O que é um deepfake?

Deepfakes são vídeos, fotos ou trechos de áudio digitalmente alterados ou manipulados para fazer algo falso parecer real.

Alguns são bobos, mas outros podem potencialmente prejudicar reputações.

E as ferramentas de IA de texto para imagem tornaram mais fácil do que nunca gerá-los.

Imagens de políticos Boris Johnson, Zia Yusuf e Nigel Farage, que os faziam parecer estar no hospital, estavam entre as publicadas por páginas no Vietname.

A BBC Wales encontrou várias páginas no Facebook publicando notícias falsas sobre políticos do Reino Unido, muitas vezes acompanhadas de imagens geradas por IA.

Cada uma dessas páginas tinha milhares de seguidores e muitas delas postavam o mesmo, ou conteúdo muito semelhante.

Elas frequentemente tinham nomes que sugeriam serem veículos de notícias do Reino Unido — mas, usando uma função de transparência no Facebook, foi possível ver que quase todas essas páginas eram administradas do Vietname.

Embora apresentassem algumas notícias reais, uma grande parte de seu conteúdo podia ser facilmente provada como falsa.

A Meta removeu algumas dessas páginas após contato da BBC, mas, durante a investigação, novas páginas eram criadas quase diariamente.

As páginas frequentemente retratavam vários políticos, incluindo Nigel Farage, Boris Johnson, Rishi Sunak e Zia Yusuf, na mesma situação falsa — por exemplo, saindo de uma entrevista na BBC após discussões dramáticas com Laura Kuenssberg.

Não há indicação de que essas páginas sejam administradas por, ou em nome de, qualquer partido político.

Uma discussão falsa com Laura Kuenssberg foi um dos cenários falsos em que vários políticos foram encenados.

O Prof. Martin Innes, diretor do Instituto de Pesquisa em Crime e Segurança da Universidade de Cardiff, disse que as páginas eram “fábricas de conteúdo” projetadas para viralizar.

Elas podem, por sua vez, gerar lucro para seus proprietários através do programa de monetização do Facebook, mas não é possível saber ao certo se cada página é monetizada.

O Facebook marcou algumas histórias com um aviso, dizendo que foram provadas falsas por verificadores de fatos independentes — por exemplo, após o Full Fact desmentir uma história de que o líder do Reform UK, Nigel Farage, estaria no hospital.

Mas, em cada caso, era possível encontrar histórias muito semelhantes que não tinham esse aviso.

Deepfakes não consensuais são ilegais no Reino Unido — como eles são detectados?

Aplicativo de notícias mostra anúncio de IA com Alex Jones sangrando

Muitas das histórias publicadas por essas páginas pareciam ser feitas para chamar a atenção dos apoiadores de Farage, mas nem todas eram positivas em relação a ele.

Em algumas, ele era falsamente retratado adotando cães, doando sua riqueza pessoal para boas causas ou recebendo um bebê.

Mas outra mostrava-o sendo preso, com fotos geradas por IA dele em algemas.

Muitos posts parecem ter como objetivo atrair apoiadores do Reform — embora nem todas as histórias falsas sejam positivas.

As páginas também apresentam outros políticos, incluindo Sir Keir Starmer, alegando falsamente que ele ficou doente no palco, foi processado por “fraude eleitoral” e foi removido do cargo de primeiro-ministro.

Nem sempre eram políticos — uma ampla variedade de celebridades também podia ser vista inserida em algumas dessas situações inventadas.

Innes disse que páginas como essas eram “movidas por uma necessidade de lucro” e fariam “qualquer coisa que acreditassem que possa atrair visualizações se isso lhes trouxer dinheiro”.

Alguns desses posts receberam muitos likes, comentários e compartilhamentos, enquanto outros quase não tiveram engajamento, apesar do alto número de seguidores.

Innes afirmou que não podemos ter certeza se todos os seguidores dessas páginas são pessoas reais, acrescentando que os proprietários frequentemente usam bots para “enganar o algoritmo” e fazer o conteúdo aparecer nos feeds das pessoas.

A seção de comentários sugeria que nem todos que viram esse conteúdo acreditavam nele.

Muitos expressaram dúvida ou irritação com as histórias falsas — mas outros pareciam ser enganados.

Quando a BBC entrou em contato com a Meta com os exemplos encontrados, a empresa removeu várias páginas do Facebook.

Ela acrescentou que possui uma política contra o uso de contas ou páginas “não autênticas” em suas plataformas.

Como os deepfakes podem afetar a eleição no País de Gales?

As eleições devolutivas acontecerão no País de Gales e na Escócia em 7 de maio, no mesmo dia das eleições locais em partes da Inglaterra.

Houve alertas anteriores sobre uma chamada ‘eleição deepfake’ no Reino Unido — e opiniões divergentes sobre se isso realmente aconteceu.

O Instituto Alan Turing, um centro nacional de ciência de dados e IA, não encontrou “evidências” de que deepfakes ou desinformação habilitados por IA tenham impactado significativamente o resultado das eleições gerais de 2024.

Mas, quase dois anos depois, os “barreiras de entrada” para criar esse tipo de conteúdo foram reduzidas, disse Innes.

“Antes, fazer esse tipo de manipulação de imagem ou vídeo exigia bastante poder de computação e conhecimento técnico, mas isso não é mais necessário.”

Ele afirmou que isso poderia criar um “efeito cascata”, onde vídeos começariam a impactar a política devolutiva.

O risco é alto o suficiente para que a Comissão Eleitoral se envolva.

O órgão independente, que supervisiona e regula as eleições no Reino Unido, está trabalhando com o Home Office no desenvolvimento de software para identificar, rastrear e relatar deepfakes.

Seu diretor executivo, Vijay Rangarajan, disse que isso “ajudará os eleitores a identificar desinformação durante as campanhas eleitorais e reduzirá atividades que prejudicam a confiança dos eleitores na condução dos candidatos”.

Após esse anúncio, a BBC identificou vários vídeos falsos gerados por IA de políticos galês, criados nas últimas semanas.

Entre eles, um vídeo falso do Primeiro-Ministro Keir Starmer e da Primeira-Ministra do País de Gales, Eluned Morgan, se beijando, e outro do líder do Plaid Cymru, Rhun ap Iorwerth, gritando “Eu amo o Reform”.

Os proprietários da página do Facebook por trás desses dois vídeos disseram que eram “sátira óbvia”.

Adicionaram que confiavam que seu público usaria “o bom senso”, mas indicaram que os vídeos eram falsos nas legendas.

Outro, compartilhado por uma página anti-Reform, mostrava Nigel Farage com uma bandeira do País de Gales ao fundo.

No vídeo, ele grita: “A Grã-Bretanha é grande; não vejo sentido em ter quatro times esportivos diferentes e quatro parlamentos.”

Não há registro de Farage dizendo essas palavras, e o vídeo parecia distorcido de maneiras compatíveis com geração por IA.

A página por trás desse vídeo foi contatada para comentários.

Esses exemplos específicos, disse Innes, estavam mais próximos de “shallowfakes” do que de “deepfakes” — ou seja, eram menos realistas e criados com softwares menos sofisticados.

Mas identificar falsificações estava ficando “cada vez mais difícil”, acrescentou, com sua equipe às vezes passando um dia “analisando” exemplos mais sofisticados.

Ele afirmou que os planos da Comissão Eleitoral para combater deepfakes “podem nos ajudar a entender as coisas após o evento”, mas não impedirão ou evitarão que deepfakes afetem a eleição.

Histórias falsas sugerindo que Sir Keir Starmer desmaiou no palco ou foi removido como PM estavam entre as compartilhadas pelas páginas.

Davies-Jones, que representa Pontypridd, Rhondda Cynon Taf, disse que foi vítima de “deepfakes horríveis”, incluindo algumas que a mostravam em posições sexuais “cruas” usando roupa íntima.

Ela acrescentou que falar sobre deepfakes sexuais não consensuais poderia ser “embaraçoso” e levar a “aumentar a perseguição” — e que sua existência “não é boa para uma democracia saudável”.

Llŷr Powell, candidato do Reform UK na eleição suplementar de Caerphilly, disse que sua equipe encontrou vídeos gerados por IA dele e de seus colegas, que colocavam palavras na boca dele, mentindo sobre suas políticas.

Powell afirmou que é “a favor da liberdade de expressão”, mas há um problema quando o uso de IA leva algumas pessoas a acreditarem que aquilo é fato e não paródia.

Ele acrescentou: “Não queremos sacrificar as liberdades que temos neste país, mas ao mesmo tempo o público tem o direito de saber que tipo de informação está sendo fornecida, e a ferramenta está sendo mal utilizada aqui, assim como qualquer outra.”

Janet Finch-Saunders, deputada conservadora por Aberconwy, no norte do País de Gales, disse que “se sentiu mal” ao ver uma foto dela editada de forma “muito nojenta” para criar um deepfake explícito.

Ela afirmou que os falsificações podem ser “muito enganosas” para pessoas que são “menos familiarizadas com tecnologia” e que “é bastante preocupante, pois há muito mais capacidade agora”.

“Quando você está na política… ou em qualquer outra profissão, não deve ser atacado pessoalmente. E certamente não com IA usada para diminuir você.”

Baronesa Carmen Smith, membro do Plaid Cymru, disse: "Deepfakes representam seriamente uma ameaça à democracia, mas também são uma ameaça a muitas, muitas pessoas, seja sua irmã, seu amigo, seu colega.

Precisamos acompanhar os avanços em ferramentas de IA… é algo que realmente precisamos abordar e priorizar agora."

Rachel Millward, vice-líder do Partido Verde na Inglaterra e País de Gales, afirmou que ela mesma foi vítima de um “deepfake misógino” e pediu ao governo do Reino Unido que regulasse o setor de IA para evitar que esse tipo de conteúdo “minimize a legitimidade das futuras eleições”.

Um porta-voz do Partido Liberal Democrata do País de Gales afirmou que deepfakes representam uma “ameaça à segurança dos políticos de todo espectro político” e pediu “ação conjunta entre as nações”.

O departamento de ciência, inovação e tecnologia do governo do Reino Unido disse que o “potencial dos deepfakes de semear divisão, espalhar informações falsas e influenciar a opinião pública” é “bem reconhecido”.

Disse que as plataformas de redes sociais devem “enfrentar proativamente conteúdos fraudulentos ilegais” sob a Lei de Segurança Online, ou “enfrentar ações de fiscalização”.