EUA: empresa é acusada de usar IA para clonar voz de Biden em ligações falsas
O procurador-geral de New Hampshire anunciou a abertura de uma investigação criminal para identificar quem foi o responsável por usar inteligência artificial para imitar a voz do presidente Joe Biden em ligações automáticas. Uma empresa sediada no Texas é a principal suspeita. As chamadas continham uma mensagem atribuída ao político e que pedia para que os eleitores democratas do estado de New Hampshire não votassem nas primárias do partido, marcadas para o final de janeiro passado.
Leia mais
EUA investigam uso de IA para imitar voz de Biden em ligações falsasOpenAI suspende usuário por criar bot de candidato presidencialOpenAI desautoriza uso de suas IAs para campanhas eleitoraisEUA 2024: eleitores temem IA e deepfakes; leis podem não ser suficientesEUA: qual é a opinião dos eleitores sobre o uso de IA em 2024?
IA foi usada para clonar voz de Biden
O procurador-geral John Formella também determinou que a empresa de telecomunicações Life Corp. pare imediatamente de violar as leis do estado contra a supressão de eleitores. A decisão serve como um aviso para empresas de New Hampshire e de outros estados norte-americanos que tentarem usar a IA para interferir nas eleições.
No final de janeiro deste ano, cerca de 20 mil pessoas receberam telefonemas gerados através de inteligência artificial se passando por Biden que diziam: “seu voto faz diferença em novembro, não nesta terça-feira”. Elas teriam sido manipuladas para parecer que foram enviadas por um funcionário de um comitê democrata.
Ainda de acordo com as autoridades norte-americanas, “essas mensagens seriam uma tentativa ilegal de interromper a eleição primária presidencial de New Hampshire”. Não se sabe ainda qual foi o impacto das ligações irregulares no pleito.
As gravações provavelmente foram criadas por um software da empresa de clonagem de voz de IA ElevenLabs, de acordo com uma análise da Universidade da Flórida. A companhia tem sido fortemente criticada por não adotar mecanismos de proteção suficientes para garantir que a tecnologia não seja utilizada por golpistas.
A ElevenLabs disse que suspendeu a conta que criou o deepfake de Biden. Ainda afirmou que está dedicada a “prevenir o uso indevido de ferramentas de IA de áudio”. Já a Life Corp. não se pronunciou oficialmente sobre o caso.
A campanha de Biden elogiou o procurador-geral de New Hampshire por “agir rapidamente como um poderoso exemplo contra novos esforços para interromper eleições democráticas”. As informações são do The Washington Post.
Gravações foram criadas por um software da empresa de clonagem de voz de IA ElevenLabs (Imagem: Yuichiro Chino/Shutterstock)
Eleições nos Estados Unidos
As primárias do Partido Democrata, assim como a do Republicano, são processo eleitorais para a definição dos candidatos à disputa da Casa Branca.O não comparecimento às urnas em New Hampshire, como o pretendido pelas mensagens falsas atribuídas ao atual presidente, poderiam prejudicar a vitória do próprio Biden na tentativa da reeleição.Todos os estados norte-americanos realizarão disputas primárias para confirmar os nomes dos candidatos à presidência do país.A projeção é que a corrida eleitoral seja, mais uma vez, entre Biden e Trump.As eleições nos EUA estão marcadas para novembro de 2024.
O post EUA: empresa é acusada de usar IA para clonar voz de Biden em ligações falsas apareceu primeiro em Olhar Digital.
