A Open Secure AI Alliance (OSAA), criada pela NVIDIA em julho deste ano para desenvolver tecnologias abertas de segurança para inteligência artificial, passou para a governança da Linux Foundation. O movimento dá à iniciativa uma estrutura considerada mais neutra para a colaboração entre fabricantes de hardware, provedores de nuvem, empresas de software, desenvolvedores de modelos, empresas de cibersegurança e usuários corporativos. A mudança ocorre pouco mais de um mês após o lançamento da aliança, que já tinha a Linux Foundation entre seus parceiros fundadores.
A mudança de governança é relevante porque o problema que a OSAA pretende enfrentar não pertence a um único fornecedor. À medida que modelos de IA passam a operar como agentes capazes de consultar dados, utilizar ferramentas, executar código e interagir com sistemas corporativos, a superfície de segurança deixa de estar concentrada no modelo. Ela passa a incluir runtime, identidade, permissões, contexto, políticas, mecanismos de execução, isolamento, observabilidade, registros de auditoria e recuperação. A própria aliança descreve esse conjunto como uma pilha de segurança que precisa ser tratada de forma integrada.
Essa abordagem desloca uma parte importante da discussão sobre IA segura. Em vez de considerar que a proteção está incorporada às chamadas “guardrails” de um modelo, a arquitetura passa a ser analisada como um sistema distribuído, no qual diferentes componentes precisam ser identificáveis, verificáveis e auditáveis. Para ambientes corporativos e industriais, essa distinção é particularmente importante: um agente conectado a ERP, MES, sistemas de engenharia, bancos de dados ou ambientes OT não pode ser tratado apenas como uma interface conversacional. Sua segurança depende também de quem pode acioná-lo, quais recursos pode acessar, quais ações pode executar, quais limites estão definidos e como cada decisão pode ser reconstruída posteriormente.
A OSAA pretende desenvolver ferramentas e práticas abertas para essa camada de defesa. Entre os trabalhos já associados à iniciativa está o NOOA (NVIDIA Labs Object-Oriented Agent), um framework de pesquisa aberto destinado a tornar o comportamento de agentes mais fácil de testar, rastrear, auditar e governar. A Linux Foundation também destaca a continuidade com iniciativas de segurança de código aberto, como a Open Source Security Foundation (OpenSSF) e o trabalho da própria fundação em projetos de infraestrutura e segurança.
Outro eixo importante é o SAFE (Shared AI Findings Exchange). A proposta, atualmente em desenvolvimento por um grupo de trabalho da OSAA e submetida a Request for Comments, procura criar uma estrutura comum para que organizações possam aprender com incidentes e quase-incidentes envolvendo sistemas de IA. A ideia é transformar falhas individuais em conhecimento reutilizável: identificar padrões de vulnerabilidade, preservar evidências, comunicar os envolvidos e converter problemas recorrentes em controles, testes e recomendações de segurança.
O SAFE é particularmente interessante porque amplia o conceito de incidente de IA. Não se trata apenas de um modelo produzir uma resposta inadequada. A proposta considera situações em que um agente pode acessar ou explorar sistemas sem autorização, ultrapassar limites de isolamento, acessar informações confidenciais ou continuar interagindo com um ambiente de produção depois que sua atividade indevida tenha sido identificada. Isso aproxima a segurança de IA dos princípios já utilizados em segurança cibernética tradicional: detecção, contenção, preservação de evidências, análise de causa, correção e aprendizado coletivo.
A participação da Linux Foundation também reforça a discussão sobre open weights. A fundação argumenta que modelos abertos permitem inspeção, testes independentes, adaptação e investigação de vulnerabilidades por uma comunidade mais ampla. Isso não significa que abertura seja sinônimo de segurança. Modelos abertos podem ser modificados, redistribuídos e utilizados de formas que escapam ao controle de seus desenvolvedores. A tese é outra: em um cenário no qual atacantes também utilizam IA avançada, os defensores precisam ter acesso a ferramentas suficientemente capazes para testar, simular e compreender essas ameaças.
O ponto estratégico, portanto, não é simplesmente open source versus proprietário. É a possibilidade de construir uma infraestrutura de segurança que não dependa de um único fornecedor ou de uma única arquitetura. A OSAA pretende trabalhar com ferramentas, modelos, padrões e práticas que possam ser inspecionados e adaptados e que continuem funcionando quando modelos, fornecedores, plataformas ou ambientes de execução forem substituídos. Essa portabilidade é especialmente relevante para empresas que não querem transformar a segurança de seus agentes em mais uma forma de dependência tecnológica.
Para a indústria, a discussão chega em um momento em que a IA começa a ultrapassar a camada de análise e recomendação para assumir funções operacionais. Em uma arquitetura industrial, por exemplo, um agente pode receber dados de processo, consultar documentação técnica, abrir uma ordem de manutenção ou recomendar uma alteração de parâmetro. O risco não está apenas na resposta gerada pelo modelo, mas na cadeia de autorização que transforma uma inferência em ação.
Por isso, a consolidação da OSAA sob a Linux Foundation merece ser acompanhada não como mais uma iniciativa de IA, mas como uma tentativa de estabelecer uma espécie de camada comum de segurança para sistemas agentivos. O indicador de sucesso será menos o número de empresas participantes e mais a capacidade de produzir código funcional, especificações interoperáveis, mecanismos de identidade, ferramentas de avaliação, processos de divulgação de vulnerabilidades e práticas de resposta que possam ser adotados por diferentes fornecedores. A questão fundamental para a adoção empresarial da IA então é quem controla o agente e quem consegue provar o que ele fez? À medida que agentes passam a atuar sobre sistemas críticos, segurança deixa de ser apenas uma característica do modelo e passa a ser propriedade de toda a arquitetura.
