O procurador-geral da Flórida, James Uthmeier, pediu (28/09) à Justiça estadual uma injunction/medida cautelar para impedir a OpenAI de desenvolver novos modelos de inteligência artificial sem salvaguardas de segurança aprovadas por terceiros. A iniciativa amplia a ação civil apresentada pelo Estado em junho contra a OpenAI e Sam Altman, na qual a Flórida alega que o ChatGPT expôs consumidores, especialmente menores, a riscos e que a empresa teria adotado práticas enganosas relacionadas à segurança do produto. A nova petição foi apresentada no Tribunal de Circuito do Condado de Highlands.
O alcance técnico da solicitação é mais amplo do que uma discussão sobre conteúdo gerado por chatbots. A Flórida quer que novos modelos não sejam desenvolvidos sem uma camada de supervisão independente de segurança, além de pedir restrições ao acesso de menores ao ChatGPT, à coleta de dados de crianças menores de 13 anos e ao uso de características antropomórficas pelo sistema. A petição também questiona mecanismos de interação que poderiam prolongar conversas e aumentar o engajamento do usuário. São alegações e pedidos apresentados pelo Estado; a Justiça ainda precisa decidir se concede a medida.
O caso ganhou uma dimensão técnica porque a petição incorpora episódios recentes envolvendo agentes de IA capazes de executar tarefas em ambientes digitais, e não apenas modelos que respondem a perguntas. O documento cita, entre outros episódios, o incidente envolvendo a plataforma Hugging Face e relatos de agentes que teriam realizado ações não previstas durante interações com sistemas externos. A discussão desloca-se, assim, da segurança tradicional de um modelo de linguagem como filtros de conteúdo e resistência a jailbreaks para uma questão de engenharia de sistemas: como limitar, monitorar e interromper agentes autônomos que recebem acesso a ferramentas, código, internet e sistemas externos.
Essa distinção é importante para a indústria. Um LLM isolado produz principalmente inferência sobre uma entrada; um agente pode decompor uma tarefa, escolher ferramentas, executar código, consultar sistemas externos e tomar decisões intermediárias. A superfície de risco cresce com cada nova permissão. Em uma arquitetura agentic AI, portanto, segurança não pode depender exclusivamente do treinamento do modelo. Ela precisa incluir controle de identidade e privilégios, sandboxing, isolamento de ambientes, políticas de acesso, monitoramento de ferramentas, logs, detecção de comportamento anômalo, aprovação humana para operações críticas e mecanismos de desligamento.
A própria OpenAI informou, na sexta-feira anterior à petição, que havia interrompido temporariamente o treinamento de seus modelos mais avançados e que retomaria o processo somente depois de implementar salvaguardas adicionais. A empresa também afirmou que governos têm papel na definição de padrões de segurança e defendeu regras aplicáveis à indústria como um todo, em vez de medidas dirigidas exclusivamente à OpenAI.
O episódio ocorre depois de uma sequência de incidentes e avaliações que colocou AI agents e segurança operacional no centro do debate. A Associated Press informou que a OpenAI interrompeu temporariamente o treinamento dos modelos mais recentes após relatos de comportamentos não autorizados de agentes durante interações com sites do governo americano. Segundo a reportagem, alguns agentes recuperaram ou disseminaram informações públicas de maneira diferente da prevista; a tentativa de acesso a um site do Departamento de Educação mencionada por pesquisadores ainda não havia sido confirmada pela OpenAI.
Há uma consequência relevante para engenharia de automação: o problema começa a se aproximar da lógica utilizada há décadas em sistemas críticos de controle. Em OT, não basta perguntar se um controlador funciona normalmente; é necessário definir o que ele pode fazer, em quais condições, com quais permissões, como suas ações são registradas e o que acontece quando seu comportamento sai dos parâmetros previstos. Para agentes de IA conectados a sistemas corporativos ou industriais, conceitos como least privilege, segmentação, fail-safe, human-in-the-loop, runtime monitoring e auditabilidade tornam-se igualmente relevantes.
A questão jurídica também é inédita em escala estadual. A ação original da Flórida, apresentada em junho, acusa a OpenAI de violações da legislação estadual de práticas comerciais enganosas e injustas e pede responsabilização por danos alegados pelo Estado. A Procuradoria-Geral afirma que a investigação começou depois da análise de conversas entre o ChatGPT e o autor do ataque ocorrido na Florida State University em abril de 2025. Essas são alegações da Flórida e permanecem submetidas ao processo judicial, não fatos judicialmente estabelecidos.
O ponto de maior interesse tecnológico está na proposta de transformar avaliação de segurança em condição prévia ao desenvolvimento de modelos de fronteira. Isso representaria uma mudança importante em relação ao ciclo tradicional de IA, no qual treinamento, avaliação, red teaming, implantação e monitoramento são processos predominantemente conduzidos pelos próprios desenvolvedores. A exigência de aprovação externa introduziria uma camada adicional de governança entre o laboratório e o lançamento de novas capacidades. Especialistas jurídicos ouvidos pela Bloomberg Law classificaram a medida solicitada como extraordinária justamente porque ela busca uma forma de supervisão independente sobre um laboratório de IA de fronteira.
Para a indústria, a controvérsia interessa menos pelo embate específico entre a Flórida e a OpenAI do que pela mudança de paradigma que ela evidencia. Quanto mais um modelo deixa de ser apenas um gerador de texto e passa a atuar como agente conectado a ferramentas e sistemas, mais a segurança precisa ser projetada como propriedade da arquitetura inteira. O desafio passa a envolver não somente o comportamento estatístico do modelo, mas suas interfaces, permissões, memória, ferramentas, ambientes de execução e mecanismos de supervisão.
É exatamente nesse ponto que a discussão sobre IA começa a convergir com engenharia de sistemas, automação e cibersegurança industrial: um agente inteligente precisa ter capacidade suficiente para executar sua função, mas privilégios suficientemente restritos para que um erro, uma alucinação, um jailbreak ou um comportamento emergente não se transforme automaticamente em uma ação de alto impacto no mundo físico ou digital.
