Deepfake e a manipulação das eleições para o Parlamento Europeu: uma ameaça à democracia na era digital

 Deepfake e a manipulação das eleições para o Parlamento Europeu: uma ameaça à democracia na era digital

• Os “deepfakes” podem ser utilizados para difundir desinformação e manipular a opinião pública, mas existe também a ameaça potencial de ciberataques às infraestruturas dos sistemas eleitorais.

As eleições europeias estão cada vez mais próximas. Apesar de a data oficial de votação ser a 9 de junho, há portugueses que pediram para votar antecipadamente e vão já este fim de semana às urnas. Por isso mesmo, a Check Point® Software Technologies Ltd. (NASDAQ: CHKP), fornecedor líder de plataformas de segurança cibernética alimentadas por IA e entregues na cloud, decidiu alertar para o facto de as ciberameaças e as tecnologias “deepfake” afetarem a confiança nas eleições e no seu processo.

O risco de ciberataques, relacionados com a aproximação das eleições está a aumentar, assim como a indevida utilização de tecnologias “deepfake”. Não se trata apenas de uma ameaça tecnológica, mas também de um desafio democrático para todos os Estados-Membros.

“Investigámos 36 eleições parlamentares, regionais e presidenciais realizadas entre setembro de 2023 e fevereiro de 2024 e descobrimos que, em pelo menos 10 casos, foram utilizados vídeos e gravações áudio deepfake com clonagem de voz para campanhas de desinformação. Muitas vezes, estas campanhas não são obra de lobos solitários, mas sim de ações coordenadas de grupos profissionais. No contexto das eleições europeias, podemos esperar uma nova onda de fraudes em todos os países", explica Sergey Shykevich, Diretor do Grupo de Inteligência de Ameaças da Check Point Software Technologies.

Por exemplo, durante as eleições parlamentares na Eslováquia, assistimos a esforços para influenciar a opinião pública através da clonagem de voz de candidatos, e é possível que estas fraudes tenham sido o pico da balança que ajudou a decidir o vencedor numa eleição renhida. Do mesmo modo, assistimos a esforços para influenciar as eleições na Polónia utilizando vídeos com áudio gerado por IA. Mas muitos outros países tiveram experiências igualmente desastrosas. O êxito, embora difícil de medir, destas fraudes aumentará ainda mais a motivação de outros atacantes nas próximas eleições.

Os “deepfakes” podem ser utilizados para difundir desinformação e manipular a opinião pública, mas existe também a ameaça potencial de ciberataques às infraestruturas dos sistemas eleitorais. Por esse motivo, é necessária a vigilância e a cooperação a todos os níveis para preservar a integridade do processo eleitoral.

As tecnologias Deepfake utilizam a aprendizagem automática e a inteligência artificial para criar ou editar vídeos e gravações de áudio para que pareçam e soem autênticos. As pessoas representadas podem então fazer e dizer coisas que na realidade nunca fizeram ou disseram. No contexto das eleições, esses vídeos podem prejudicar a reputação dos políticos e espalhar notícias falsas e desinformação que podem influenciar as decisões dos eleitores.

Existem centenas de canais (aproximadamente 400-500) e grupos no Telegram que oferecem serviços de deepfake, desde bots automatizados que guiam os utilizadores ao longo de todo o processo até serviços personalizados fornecidos diretamente por cibercriminosos individuais. Os preços começam nos 2 dólares por vídeo e, por 100 dólares, pode pagar por mais vídeos e tentativas. Criar conteúdo fraudulento é cada vez mais perturbadoramente acessível.

A clonagem de voz é utilizada para reproduzir a voz humana com uma precisão extraordinária. A altura, o tom e o estilo da voz são analisados para que a IA possa gerar discursos falsos convincentes que imitam fielmente a voz original. Para tal, bastam alguns segundos de áudio de um vídeo online ou de outra gravação. Os preços começam em cerca de 10 dólares para uma subscrição mensal, mas podem subir para as centenas de dólares dependendo da qualidade das funcionalidades fornecidas, como a conversão para discurso em tempo real, menor latência ou acesso a APIs.

A utilização destas tecnologias em campanhas de desinformação representa uma ameaça significativa para as eleições para o Parlamento Europeu e o processo eleitoral pode ser perturbado de várias formas:

1. Manipulação de eleitores: Os vídeos e áudios deepfake podem ser utilizados para criar eventos falsos em que os políticos dizem ou fazem coisas que podem prejudicar a sua reputação ou influenciar os eleitores. Esses vídeos podem espalhar-se muito rapidamente através das redes sociais. Ou, pelo contrário, podem surgir vídeos que glorificam certos candidatos, mostrando as suas ações meritórias que, na realidade, nunca realizaram.
2. Prejudicar a confiança do público: Se os vídeos e gravações de áudio “deepfake” se tornarem ferramentas comuns, isso pode levar a uma maior desconfiança do público em relação à informação, tornando ainda mais difícil para os eleitores tomarem uma decisão informada.
3. Destabilização do ambiente político: A disseminação efetiva de boatos deepfake pode levar a tensões e instabilidade política se os eleitores não conseguirem distinguir a informação verdadeira da falsa. A consequência pode ser uma falta de confiança nas instituições e processos democráticos.
4. Espionagem: Os grupos nacionais de hackers e outros cibercriminosos podem também tentar perturbar as eleições através de uma série de ataques sofisticados e de esforços de espionagem e fuga de dados para influenciar os resultados eleitorais a favor de determinados grupos políticos ou ideologias.
5. Dilema legal e ético: os vídeos Deepfake levantam questões sobre a interferência nos direitos pessoais e nas normas legais. Os quadros jurídicos podem ter dificuldade em acompanhar a evolução tecnológica, tornando difícil regular e punir os abusos.

“A União Europeia e os Estados-Membros estão a tentar ativamente combater estas ameaças. Por exemplo, a Comissão Europeia adoptou recentemente uma lei sobre inteligência artificial que deverá aumentar a transparência e limitar a utilização da IA para fins prejudiciais", afirma Sergey Shykevich. “Os cibercriminosos e os grupos de hackers nacionais também vão utilizar as eleições europeias para difundir propaganda contra a UE e apoiar várias iniciativas anti-UE em países individuais.”

Ao mesmo tempo, é de esperar uma vaga de ataques de hacktivistas, especialmente sob a forma de ataques DDoS a vários serviços e websites expostos. Por exemplo, durante as eleições presidenciais checas, o grupo hacktivista pró-russo NoName057(16) tentou derrubar os websites de alguns candidatos e criar uma atmosfera de medo.

Como nos podemos defender?

• Verificar fontes: Aprender a identificar fontes de informação fiáveis e evitar partilhar conteúdos pouco fiáveis que possam manipular amigos e conhecidos.
• Investir na educação: A educação e a utilização de competências de pensamento crítico são fundamentais para combater a manipulação e a desinformação. É útil frequentar workshops ou cursos sobre literacia mediática, por exemplo, para identificar conteúdos falsos.
• Utilizar a tecnologia para uma boa causa: Utilizar as ferramentas disponíveis para detetar deepfake e outros conteúdos manipuladores. As redes e plataformas sociais devem informar os utilizadores sobre conteúdos potencialmente manipulados.
• Cuidado com as mensagens não desejadas: Não abrir mensagens de correio eletrónico ou anexos de fontes ou pessoas desconhecidas. Para além de não reagir a essas mensagens, têm de ser apagadas e denunciadas.