IA Generativa É a Nova Ferramenta das Ditaduras e Governos Totalitários

Um novo relatório da Freedom House revelou uma tendência alarmante: líderes políticos e ditadores em pelo menos 16 países estão usando deepfakes e outras ferramentas de Inteligência Artificial (IA) para manipular informações, influenciar a opinião pública, e fortalecer sua ditadura. Essas manipulações variam desde semear dúvidas até difamar oponentes, desencadeando, sobretudo, um aumento significativo nas preocupações sobre a segurança das democracias em todo o mundo.

Fakenews no Paquistão

No relatório, casos importantes ​​foram destacados. Como por exemplo, quando os protestos no Paquistão no início deste ano se transformaram em confrontos entre forças pró-governo e apoiadores do antigo primeiro-ministro Imran Khan. No caso, o líder agora preso recorreu às redes sociais para reforçar a sua mensagem. Khan compartilhou um breve video no Twitter (X) mostrando seus apoiadores segurando cartazes com seu rosto e gritando seu nome. O video termina com uma foto de uma mulher corajosamente parada frente a uma fila de policiais. “O que nunca será esquecido é a brutalidade das nossas forças de segurança e a forma vergonhosa como elas se esforçaram para abusar, ferir e humilhar as nossas mulheres”, tuitou Khan. O único problema: a imagem que mostrava a mulher corajosamente diante da polícia não era real. Ela foi criada usando uma das muitas ferramentas de IA generativa de imagens.

IA Generativa Mal Utilizada Pode Influenciar as Eleições nos EUA.

Outro exemplo, é o do ex-presidente dos Estados Unidos, Donald Trump, e o governador da Flórida, Ron DeSantis, ambos candidatos à presidência dos EUA. Nesse caso, os políticos foram mencionados por utilizarem deepfakes para atacar mutuamente suas reputações. No caso de Trump, ele usou áudios falsos imitando George Soros, Adolf Hitler e o próprio Diabo (sim, o Diabo) para zombar dos anúnciods da campanha de DeSantis no Twitter Spaces. Já o time de campanha do Ron Desantis, divulgou imagens supostamente forjadas de Donald Trump e Antony Fauci, criadas através de IA. Pouco tempo antes, uma provável imagem do Pentágono sob ataque, também produzida por IA, causou instabilidade momentânea no mercado de ações, resultando em um pronunciamento do Departamento de Defesa Americano para desmentir as informações. O uso de deepfakes nesses contextos não é apenas um sinal preocupante da divulgação dessa tecnologia, mas também uma indicação de como ela está sendo mal integrada nas estratégias políticas de alto nível.

Como uma Ditadura se Aproveita da IA

Além disso, o relatório revelou que líderes políticos estão utilizando empresas especializadas na criação de propaganda gerada com IA, para criar deepfakes de apresentadores de notícias reais. Isso foi ilustrado em países como a Venezuela, onde estações de notícias estatais compartilharam deepfakes de apresentadores de notícias em inglês, contradizendo críticas estrangeiras feitas ao país que vive uma ditadura. Em outro caso, bots do governo chinês compartilharam videos semelhantes de apresentadores de notícias gerados por IA, desta vez parecendo rejeitar os críticos. Nesse caso, os avatares de IA pró-China faziam parte de uma agência de notícias de IA totalmente falsa, supostamente chamada “Wolf News”.

Ditadura, Censura e a IA

Uma tendência ainda mais alarmante observada foi a confusão entre deepfakes genuínos e vídeos autênticos. Políticos importantes foram pegos em vídeos verdadeiros, mas tentaram alegar que eram deepfakes, minando ainda mais a confiança do público nos meios de comunicação e na política em geral. Além disso, o relatório identificou que governos em 22 dos 70 países analisados ​​implementaram leis que obrigam empresas de redes sociais a usar IA para censurar discursos políticos, sociais e religiosos desfavorecidos. Esta forma de censura estatal feita por governos totalitários ou por uma ditadura é amplamente facilitada pela IA, permitindo uma repressão digital eficaz e rápida. Esses movimentos levantam sérias preocupações sobre a integridade dos processos democráticos em todo o mundo. Assim, o relatório destaca a necessidade urgente de regulamentações rigorosas e medidas de segurança globalmente coordenadas para conter o uso malicioso da IA generativa. À medida que essas tecnologias continuam a evoluir, a proteção da integridade das democracias tem que se tornar uma prioridade global.

---

🚀Gostou do conteúdo? Continue lendo as principais notícias do mercado de IA. 📩Assine a nossa newsletter e fique por dentro de tudo sobre a Inteligência Artificial. Imagem: iStock