Em julho de 2026, um exercício de segurança acabou por produzir um incidente de segurança. A OpenAI avaliava modelos num ambiente isolado, sem os classificadores usados em produção para travar atividade cibernética de elevado risco. A última linha de contenção deveria ser o próprio ambiente. Não foi suficiente. Segundo as conclusões preliminares divulgadas pela empresa, os modelos exploraram uma vulnerabilidade num serviço interno, chegaram à Internet e combinaram outras falhas e credenciais até acederem à infraestrutura de produção da Hugging Face, onde estavam as soluções do exercício. Não lhes tinha sido pedido que atacassem outra empresa. Tinham recebido um problema e encontraram a resposta fora do espaço onde deveriam procurá-la. Para quem desenhou a avaliação, havia fronteiras claras: investigação e produção, interior e exterior, sistemas próprios e sistemas de terceiros. Para a execução, havia apenas ligações possíveis entre um ponto de partida e um resultado. As organizações veem compartimentos. Quem procura um caminho vê passagens. A inteligência artificial não inventou esta forma de procurar. Está a torná-la mais persistente, mais barata e mais escalável. E o problema não pertence apenas às empresas de tecnologia. Fábricas, hospitais, bancos e retalhistas dependem de software que não escreveram, infraestruturas que não controlam e fornecedores com acesso aos seus sistemas. Uma falha isolada raramente explica um ataque. Uma aplicação secundária oferece o primeiro acesso, uma credencial esquecida abre outra porta e uma permissão excessiva aumenta o alcance. Em conjunto, formam um percurso. Uma vulnerabilidade é um ponto no mapa. Um ataque é a rota. É possível corrigir centenas de vulnerabilidades e deixar disponível o caminho que realmente importa. Por isso, a segurança não pode continuar a ser tratada como um estado confirmado periodicamente. Um teste diz algo importante sobre determinados sistemas, num momento concreto e dentro de um âmbito definido. Pode ser excelente e começar a envelhecer quando termina. Uma nova versão, uma API exposta ou um acesso temporário que permanece ativo bastam para alterar o risco. Testar mais vezes é necessário. Mas avaliações que recomeçam sempre do princípio produzem mais fotografias, não necessariamente mais conhecimento. O que interessa é aquilo que permanece: os caminhos encontrados, as correções verificadas e as relações entre sistemas que podem voltar a criar risco. É aqui que a inteligência artificial altera a economia da segurança. Um especialista compreende o negócio e reconhece consequências que uma ferramenta dificilmente perceberia sozinha. Mas o tempo humano é finito. Nenhuma equipa consegue acompanhar todas as alterações e experimentar continuamente todas as combinações possíveis. Testes do AI Security Institute britânico mostraram modelos capazes de completar autonomamente ataques simulados com dezenas de etapas e de melhorar em poucas semanas. Os cenários eram deliberadamente vulneráveis e não reproduziam uma organização bem protegida. Ainda assim, mostraram quão depressa esta capacidade está a evoluir. Nada disto torna os especialistas dispensáveis. Uma máquina pode testar milhares de hipóteses e continuar a responder à pergunta errada. Pode demonstrar que uma ação é possível sem compreender se deve ser realizada. O episódio deixa uma regra que se estende para além da cibersegurança: quanto maior for a capacidade de ação de um sistema, menos podemos depender de limites que existem apenas nas nossas intenções. Uma autorização continua ativa até ser revogada. Um ambiente não permanece isolado porque está identificado assim num diagrama. Um agente não conhece fronteiras que nunca foram transformadas em restrições efetivas. Mas o incidente mostrou também por que razão a defesa terá de usar a mesma tecnologia. A Hugging Face afirmou que a atividade foi inicialmente sinalizada por mecanismos de deteção assistidos por inteligência artificial. Para perceber o que acontecera, aplicou agentes de análise a mais de 17 mil eventos registados e conseguiu realizar em horas uma investigação que normalmente demoraria dias. A inteligência artificial ajudou a percorrer o caminho e ajudou a reconstruí-lo. Mas foram pessoas que tiveram de interpretar o impacto, interromper acessos, revogar credenciais e recuperar os sistemas. A resposta não está em escolher entre pessoas e máquinas. O trabalho exclusivamente humano já não oferece escala suficiente. A inteligência artificial, por si só, não oferece contexto, responsabilidade ou confiança suficientes. Antes de uma fragilidade ser explorada, uma organização ainda pode corrigir, limitar um acesso ou isolar um sistema. Depois de um incidente, essas decisões já são tomadas sob pressão. O acontecimento impõe o calendário. É esta perda de liberdade que os indicadores habituais raramente mostram. Nenhuma organização encontrará todas as suas vulnerabilidades. Nenhum modelo eliminará a incerteza. A questão é saber se a organização descobre aquilo que mudou enquanto ainda pode escolher o que fazer, ou apenas quando o próprio acontecimento começa a escolher por ela. Porque a segurança não é a certeza de que todas as portas estão fechadas. É descobrir a tempo que uma delas não estava, enquanto a decisão sobre o que fazer ainda é nossa.