A OpenAI conseguiu derrubar a eficácia de ataques que tentavam extrair o raciocínio protegido de seus modelos mais recentes, o GPT-6.2 Astra e o GPT-6.2 Sol. Em testes automatizados feitos internamente, a taxa de sucesso das investidas contra o GPT-6.2 Astra ficou em 0,2% quando o objetivo era resgatar o raciocínio de requisições anteriores — bem abaixo dos 54,0% verificados no GPT-6 Astra. Já os ataques dirigidos à requisição em curso recuaram de 22,9% para 0,9%.
O dado mais relevante é a escala da queda: duas frentes de ataque que funcionavam com frequência passaram a falhar de forma quase sistemática. A empresa também informou que levará parte dessas melhorias ao GPT-6 Astra, modelo da geração anterior.
O placar dos testes
Os números abaixo saem de exercícios de red teaming — simulações em que especialistas atacam o sistema para descobrir falhas antes que agentes mal-intencionados o façam. A métrica usada é a taxa de sucesso de ataque (ASR), medida em cenário adaptativo de caixa-preta, no qual o atacante não vê a estrutura interna do modelo e ajusta a estratégia a cada tentativa. O resultado agrega seis modelos atacantes.
| Frente de ataque | GPT-6 Astra (defesas originais) | GPT-6.2 Astra (defesas atualizadas) |
|---|---|---|
| Extração de raciocínio protegido de requisição anterior | 54,0% | 0,2% |
| Extração de raciocínio protegido da requisição atual | 22,9% | 0,9% |
Quanto menor o percentual, melhor para a segurança do modelo.
Duas camadas de proteção
A arquitetura de defesa descrita pela OpenAI atua em dois níveis distintos. No atendimento de cada requisição isolada, o sistema combina treinamento direcionado, filtros de entrada e saída aplicados a mensagens e a chamadas de ferramentas (os comandos que o modelo dispara para executar ações externas) e bloqueios na API que impedem versões mais antigas de ler o raciocínio protegido.
Contra campanhas organizadas, a companhia adota banimentos em massa: milhares a dezenas de milhares de contas suspensas por semana. É uma resposta a tentativas coordenadas de raspar o comportamento do modelo em escala, prática que consome recursos computacionais e pode servir de base para replicar capacidades internas.
A corrida contra a destilação
O problema não é exclusivo da OpenAI. A Anthropic também enfrenta ataques sistemáticos de destilação — técnica em que um agente treina um modelo próprio imitando as respostas de outro para absorver seu desempenho sem arcar com o custo de desenvolvimento. O relato aponta êxito em 90% a 99% dos casos de contenção, igualmente com o banimento de dezenas de milhares de contas, além de um apelo da empresa por reação coordenada de companhias e formuladores de políticas públicas.
O que isso significa para o investidor
Para quem acompanha o setor de tecnologia, o episódio reforça que a proteção do raciocínio interno virou ativo estratégico, não detalhe técnico. O raciocínio de um modelo é parte do capital intelectual de quem o desenvolve: se puder ser extraído com frequência, o investimento em treinamento se dilui e a vantagem competitiva encolhe.
Há também efeito sobre a adoção corporativa. Empresas que contratam modelos para automação e análise de dados precisam de garantias de que informações sensíveis e a lógica interna do sistema não vazem por meio de prompts maliciosos. Quanto mais robustas as salvaguardas, menor o atrito para levar essas ferramentas a áreas reguladas.
O contraponto é o custo: filtros, treinamento adicional e monitoramento de contas exigem estrutura permanente, e a corrida entre defensores e atacantes não tem linha de chegada. Para o investidor brasileiro, a leitura útil é acompanhar como esse equilíbrio aparece nas margens e nos contratos corporativos das empresas de tecnologia, não apenas nos anúncios de capacidade dos modelos.

