Número de campanhas políticas manipuladas usando IA cresceu, segundo empresa do Google

A preocupação com o impacto da inteligência artificial generativa nas próximas eleições não é infundada e a popularização das deepfakes é uma prova disso. Agora, a Mandiant, uma empresa norte-americana de segurança cibernética que pertence ao Google, revelou nesta quinta-feira (17) que contabilizou um aumento no uso da IA para realizar campanhas de manipulação de informação online nos últimos anos. A maior parte dessas campanhas falsas têm motivação política.

Leia mais:

EUA se preocupam com IA e aceitam debater proibição de deepfakesDeepfakes seguem à solta; ferramentas de detecção não acompanham ritmoComo identificar fotos “falsas” criadas por IA

IA para manipular campanhas políticas

O uso da inteligência artificial generativa para criar deepfakes ou outros conteúdos enganosos e manipular campanhas já era uma consequência prevista.De acordo com a Reuters, os pesquisadores da empresa de cibersegurança encontraram “vários casos” de manipulações desse tipo desde 2019.O relatório da Mandiant ainda revelou que essas violações foram flagradas em grupos alinhados aos atuais governos da China, Irã, Etiópia, Rússia, El Salvador, Equador, Argentina, Cuba e México.Nesse contexto, a IA permitiu que os envolvidos a usassem para, por exemplo, melhorar a qualidade de conteúdos da campanha que podem ter influência em larga escala.Uma ação registrada pelo relatório também foi o uso de fotos de perfis falsos para usuários promovendo as campanhas online.Um dos casos foi a campanha pró-China Dragonbrige, que, segundo a Mandiant, cresceu “exponencialmente’ em 30 plataformas sociais em 10 idiomas diferentes usando a tecnologia.O país negou acusações de envolvimento com o caso.

Impacto da IA ainda não foi prático, mas pode acontecer (Imagem: Undrey/Shutterstock)

Impacto limitado, por enquanto

Segundo Sandra Joyce, vice-presidente da Mandiant Intelligence, o impacto do uso da IA de forma maliciosa em campanhas de cunho político ainda está limitado.

Do ponto de vista da eficácia, não há muitas vitórias. Eles realmente não mudaram o curso do cenário de ameaças ainda.

Sandra Joyce

Isso porque, de acordo com ela, ainda não houve nenhuma ação prática que tenha sido causada por consequências da IA.

No entanto, ainda está cedo para dizer que essa influência nunca se transformará em algo prático. “Podemos estar muito confiantes de que esse será um problema que se agravará com o tempo”, acrescentou.

Casa Branca é uma das que demonstrou preocupações com os avanços da IA e como isso pode impactar eleições (Imagem: Getty Images)

IA nas eleições

Nomes importantes do setor da IA generativa, incluindo desenvolvedoras, já revelarem temores em relação à IA e as eleições.Sam Altman, CEO da OpenAI (desenvolvedora do ChatGPT) é um deles. Em maio, o executivo testemunhou no Senado dos EUA afirmando que os legisladores deveriam aprovar regras para regular o setor.Em outra ocasião, em sua turnê com a OpenAI, Altman admitiu que a IA pode ser motivo de preocupação na eleição presidencial, mas que quer uma regulação que não limite muito o desenvolvimento.Recentemente, a Casa Branca também demonstrou preocupações com a tecnologia. O governo se reuniu com as principais empresas do setor (OpenAI inclusa) para alinhar questões de segurança e regulação da IA.Entre as medidas, companhias se comprometeram em rotular conteúdo gerado por IA.

Já assistiu aos novos vídeos no YouTube do Olhar Digital? Inscreva-se no canal!

O post Número de campanhas políticas manipuladas usando IA cresceu, segundo empresa do Google apareceu primeiro em Olhar Digital.