Falta ‘nuance técnica’ no apelo por pausa nas IAs, diz CEO da OpenAI
O CEO da OpenAI, Sam Altman, respondeu à carta aberta que pedia a interrupção da pesquisa em IA (inteligência artificial) por seis meses. Para ele, o documento – assinado por dezenas de acadêmicos e pesquisadores, bem como CEO da Tesla, Elon Musk; e cofundador da Apple, Steve Wozniak – carecia de “nuance técnica”.
Leia mais:
IA da Amazon está de graça para programadoresNova rival da OpenAI na área! Elon Musk terá startup de IAHollywood está pronta para IA? Adoção já é realidade
Altman disse que concorda com partes da carta aberta do Future of Life Institute, mas acrescentou que o documento estava “perdendo a maior parte das nuances técnicas sobre onde precisamos da pausa”. Para ele, “à medida que capacidades se tornam cada vez mais sérias, o nível de segurança precisa aumentar”. O CEO compartilhou suas observações durante evento do MIT sobre negócios e IA, realizado na quinta-feira (13).
Estamos fazendo outras coisas além do GPT-4 que acho que têm todos os tipos de questões de segurança importantes para serem abordadas. E foram totalmente deixadas de fora da carta.
Sam Altman, CEO da OpenAI, em evento no MIT
Carta aberta para OpenAI e cia.
Carta aberta pede para que empresas com ferramentas de IA em desenvolvimento pausem trabalhos nessa área (Imagem: Rokas Tenys/Shutterstock)
Em março, Musk (apesar de tocar projeto de IA para o Twitter), Wozniak e dezenas de outros acadêmicos pediram pausa imediata no treinamento de “experimentos” conectados a LLMs (grandes modelos de linguagem) “mais poderosos que o GPT-4”, principal modelo desse tipo da OpenAI. Mais de 25 mil pessoas assinaram a carta desde então.
A tecnologia GPT da OpenAI atraiu atenção internacional quando a empresa lançou o ChatGPT, em 2022. O chabot, capaz de gerar respostas semelhantes às humanas para perguntas feitas por um usuário, deu início a uma espécie de “frenesi de IA” no mundo da tecnologia. Atualmente, tecnologia GPT sustenta o chatbot Bing AI, da Microsoft, e abriu porteira para enxurrada de investimentos em IA.
Laboratórios de IA e especialistas independentes devem usar essa pausa para desenvolver e implementar, em conjunto, um conjunto de protocolos de segurança compartilhados para design e desenvolvimento avançados de IA que sejam rigorosamente auditados e supervisionados por especialistas externos independentes.
Trecho da carta aberta do Future of Life Institute
No começo de 2023, Altman reconheceu que a tecnologia de IA tinha o deixado “um pouco assustado”. De lá para cá, perguntas sobre uso seguro e ético da IA surgiram na Casa Branca, no Capitólio e em salas de reuniões nos EUA.
Com informações da CNBC
O post Falta ‘nuance técnica’ no apelo por pausa nas IAs, diz CEO da OpenAI apareceu primeiro em Olhar Digital.
