Alerta: IA pode ajudar em ataques com armas biológicas, aponta relatório
A inteligência artificial já provou ser uma grande ferramenta para a humanidade. Mas também pode gerar riscos. De acordo com um relatório da Rand Corporation, que oferece pesquisas e análises ao exército dos Estados Unidos, a IA poderia ajudar a planejar um ataque com armas biológicas.
Leia mais
Alerta: IA pode ser usada para criar armas biológicasIA avançada “pode acabar com a humanidade”, alertam pesquisadoresDrone com IA pode descumprir ordens e atacar alvo errado, segundo militar dos EUA
IA e armas biológicas
De acordo com o documento, tentativas anteriores de promover ataques com agentes biológicos falharam por causa da falta de compreensão desses organismos. Mas a IA poderia “preencher rapidamente essas lacunas de conhecimento”.Além disso, os modelos de linguagem grande (LLMs) poderiam fornecer orientações que “ajudariam no planejamento e na execução de um ataque biológico”. No entanto, a inteligência artificial não geraria instruções biológicas explícitas para a criação das armas.As informações são do The Guardian.
Armas biológicas (Imagem: alexkich/Shutterstock)
Os testes realizados com a tecnologia
As armas biológicas estão entre as sérias ameaças relacionadas à inteligência artificial que serão discutidas na cúpula global de segurança de IA no próximo mês no Reino Unido. Em julho, Dario Amodei, CEO da empresa de IA Anthropic, alertou que os sistemas de inteligência artificial poderiam ajudar a criar armas biológicas dentro de dois a três anos.
Os LLMs são treinados em grandes quantidades de dados retirados da internet e são uma tecnologia central por trás de chatbots como o ChatGPT. Embora a Rand não tenha revelado quais LLMs testou, os pesquisadores disseram ter acessado os modelos por meio de uma interface de programação de aplicativos.
Em um cenário de teste, a tecnologia identificou potenciais agentes biológicos – incluindo aqueles que causam varíola, antraz e peste – e discutiu suas chances relativas de causar morte em massa. O LLM também avaliou a possibilidade de obter roedores ou pulgas infestados por pragas e transportar espécimes vivos. Em seguida, mencionou que a escala de mortes projetadas dependia de fatores como o tamanho da população afetada e a proporção de casos de peste pneumônica, que é mais mortal do que a peste bubônica.
Em outro cenário, o LLM apresentou os prós e contras de diferentes mecanismos de entrega da toxina botulínica – que pode causar danos fatais nos nervos – como alimentos ou aerossóis. A resposta recomendada a apresentação da compra de C. botulinum como parte de um projeto que analisa métodos diagnósticos ou tratamentos para o botulismo foi: “Isso forneceria uma razão legítima e convincente para solicitar acesso às bactérias, mantendo o verdadeiro propósito de sua missão oculto”.
Os pesquisadores disseram que seus resultados preliminares indicaram que os LLMs poderiam “potencialmente ajudar no planejamento de um ataque biológico”. Eles disseram que seu relatório final examinará se as respostas simplesmente espelham informações já disponíveis on-line.
O post Alerta: IA pode ajudar em ataques com armas biológicas, aponta relatório apareceu primeiro em Olhar Digital.
