Nvidia lança software que torna IAs mais seguras
A Nvidia lançou na terça-feira (25) o NeMo Guardrails, software que ajudará empresas a treinar seus grandes modelos de linguagem (LLMs) para torná-los mais precisos e seguros.
De acordo com a companhia, a tecnologia foi projetada para auxiliar desenvolvedores a manter a segurança de aplicativos baseados em IA. O software funcionará com LLMs populares como o ChatGPT da OpenAI.
Leia mais:
Nvidia aposta em IA para melhorar o desempenho dos jogos; entendaInteligência artificial: conheça os pontos negativos e perigos da IAO que é ChatGPT e como acessar a inteligência artificial em português
O NeMo Guardrails é um kit de ferramentas de código aberto para desenvolver facilmente sistemas de conversação LLM seguros e confiáveis. Como a segurança na IA generativa é uma preocupação de todo o setor, a NVIDIA projetou o NeMo Guardrails para funcionar com todos os LLMs, incluindo o ChatGPT da OpenAI.
Nvidia em comunicado
O NeMo Guardians permite que os desenvolvedores definam alguns limites para as IAs:
Proteção específica: impede que aplicativos deem respostas fora da área desejada;Projeções de segurança: garante que as ferramentas respondam precisamente, filtrando linguagem indesejada e selecionando fonts confiáveis;Proteções de segurança: limita a conexão de IAs apenas com aplicativos terceiros considerados seguros.
O aplicativo foi disponibilizado em código aberto e funciona com as mesmas ferramentas que desenvolvedores de aplicativos utilizam. A Nvidia observou que ele pode ser executado usando — por exemplo — o LangChain, um kit de ferramentas de código aberto que os desenvolvedores usam para conectar aplicativos terceiros às LLMs.
Os usuários podem facilmente adicionar NeMo Guardrails aos fluxos de trabalho do LangChain para colocar rapidamente limites seguros em torno de seus aplicativos baseados em IA.
Harrison Chase, CEO da LangChain.
O NeMo Guardrails faz parte do selo Nvidia Foundations, anunciado pela empresa em seu evento anual com três ferramentas capazes de gerar textos e imagens com IA generativa.
Inicialmente a Nvidia divulgou três ferramentas para o selo Foundations:
Nvidia NeMo (textos);Nvidia Picasso (imagens);NvidiaBioNemo (biologia e medicina).
Para conferir detalhes sobre as ferramentas acesse a matéria completa.
Já assistiu aos novos vídeos no YouTube do Olhar Digital? Inscreva-se no canal!
O post Nvidia lança software que torna IAs mais seguras apareceu primeiro em Olhar Digital.
