A F5 apresentou o F5 AI Guardrails integrado ao NVIDIA NeMo Guardrails. Trata-se de uma solução nativa de IA que integra os recursos de segurança de IA da F5, protegendo aplicações de IA em produção.
A segurança continua sendo um dos principais motivos pelos quais as empresas enfrentam dificuldades para migrar a IA da fase piloto para a produção. As organizações que adotam vários modelos e frameworks de IA em infraestruturas híbridas multicloud enfrentam controles de segurança fragmentados. Outro problema é a aplicação inconsistente de políticas, além de lacunas de governança que se ampliam a cada nova aplicação de IA. A maioria dos frameworks de IA inclui verificações básicas de segurança, mas esses controles estão incorporados dentro de aplicações individuais, em vez de serem aplicados de forma centralizada. Com isso, as equipes de segurança e conformidade são obrigadas a reunir manualmente a visibilidade entre ferramentas e aplicações. Faz falta um único local para inspecionar o tráfego de IA e, a partir daí, aplicar políticas ou auditar o que ocorreu.
O F5 AI Guardrails integrado ao NVIDIA NeMo Guardrails oferece segurança e governança centralizadas e consistentes em todas as aplicações de IA. Isso é feito de modo a separar a aplicação de segurança da estrutura de IA. As organizações podem padronizar o uso do NVIDIA NeMo Guardrails, enquanto o F5 AI Guardrails lida com a inspeção de segurança de prompts e respostas de LLM, aplicando políticas corporativas de forma centralizada sem exigir alterações nas aplicações de IA.
O resultado é uma arquitetura em camadas, na qual a biblioteca da estrutura, os microsserviços, a orquestração e a segurança cumprem suas respectivas funções e evoluem de forma independente.
“As empresas não têm escassez de aplicações de IA. Elas têm escassez de segurança e governança consistentes para esse universo”, disse Kunal Anand, diretor de produtos da F5. “À medida que a IA entra em produção, controles fragmentados geram riscos, complexidade e atrasos. Essa integração oferece às equipes de segurança um ponto unificado para inspecionar o tráfego de IA aplicar políticas e governar aplicações de IA em todos os seus ambientes, ao mesmo tempo em que dá aos desenvolvedores a liberdade de continuar criando.”
Inspeção de segurança centralizada para IA em produção
F5 AI Guardrails protege sistemas de IA inspecionando prompts e respostas entre usuários e aplicações e ajudando a prevenir injeção de prompts, exposição de informações de identificação pessoal (PII), vazamento de dados e saídas maliciosas. As políticas de segurança são aplicadas centralmente, em vez de serem incorporadas a cada aplicação de IA permitindo que as organizações cumpram os requisitos de segurança corporativos sem modificar o código do aplicativo.
A abordagem utilizada elimina o conflito entre a velocidade de desenvolvimento e os requisitos de segurança, permitindo que as equipes de plataforma de IA avancem rapidamente na orquestração. Em paralelo, as equipes de segurança mantêm controle independente sobre inspeção, políticas e governança. Com essa solução, nenhuma das partes precisa esperar pela outra.
“O NVIDIA NeMo Guardrails oferece uma estrutura aberta e programável para aplicar políticas de segurança e proteção a aplicações de IA”, disse Ash Bhalgat, diretor sênior de Soluções de Rede e Segurança de IA, Ecossistema e Marketing da NVIDIA. “A integração com o F5 AI Guardrails amplia o leque de proteções que os clientes podem usar para proteger prompts e respostas de LLM à medida que colocam agentes de IA em produção.”
Uma arquitetura aberta que se adapta à adoção da IA
O F5 AI Guardrails integrado ao NVIDIA NeMo Guardrails protege aplicações de IA independentemente do modelo de linguagem de grande porte subjacente. As organizações podem trocar de modelo, adicionar novas aplicações de IA ou expandir para outras unidades de negócios, mantendo uma inspeção de segurança e aplicação de políticas consistentes. À medida que a adoção da IA cresce, a segurança é projetada para se adaptar a ela, em vez de restringi-la.
