A OpenAI publicou em 20 de novembro de 2026 os detalhes de como combate a destilação adversarial: o uso não autorizado das respostas de um modelo de fronteira para treinar outro modelo, com salvaguardas mais fracas. O exemplo central é a capacidade cibernética, que um modelo copiado poderia usar em ataques que o original recusaria.
O que muda na API
A empresa dá peso especial ao raciocínio protegido do modelo, ou seja, as etapas intermediárias que ele gera antes de responder. No GPT-6.2 Astra e no GPT-6.2 Sol, esse raciocínio fica atrelado ao histórico da conversa que o produziu. Mensagens novas podem se apoiar no raciocínio anterior, mas, se uma mensagem antiga for reescrita, a API descarta o raciocínio que veio depois dela.
Famílias de modelos mais antigas, com salvaguardas mais fracas, também ficam impedidas de ler o raciocínio protegido do Astra e do Sol. A OpenAI afirma ter reforçado as proteções nas fronteiras entre usuário, workspace, organização e família de modelos, e ter fechado um caminho que poderia expor o raciocínio criptografado de outro usuário.
Salvaguardas em cada requisição
A empresa descreve três camadas no nível da requisição:
- Treinamento adversarial, para que o modelo se recuse a revelar o raciocínio protegido sem deixar de explicar as coisas a usuários legítimos.
- Classificadores de entrada que detectam tentativas de extração e classificadores de saída que pegam vazamentos em mensagens do assistente e em argumentos de chamadas de ferramentas, tanto em respostas com streaming quanto sem.
- Regras da API que limitam como o raciocínio protegido pode ser reaproveitado entre conversas e modelos.
Os números
Em testes adaptativos de red teaming em caixa-preta, agregados entre seis modelos atacantes, o sucesso em recuperar o raciocínio de uma requisição anterior caiu de 54,0% no GPT-6 Astra, com as salvaguardas originais, para 0,2% no GPT-6.2 Astra. Para a requisição atual, a queda foi de 22,9% para 0,9%. São resultados internos da OpenAI. A empresa diz que já aplica melhorias selecionadas também ao GPT-6 Astra.
Em um estudo interno à parte, um modelo aluno treinado com os traços exatos de raciocínio costumou superar o treinado com resumos do raciocínio após o ajuste fino supervisionado. Depois de uma rodada leve de aprendizado por reforço, o aluno de traços exatos ainda liderava no maior orçamento de inferência testado.
Fiscalização
A OpenAI diz ter visto várias campanhas de destilação não autorizada neste ano. Suas ações semanais de fiscalização já atingiram de milhares a dezenas de milhares de contas, com o ritmo subindo forte ao longo do verão. A empresa age contra redes inteiras de contas e compartilha indicadores de comprometimento com outros provedores de modelos. Em divulgações anteriores, citou a DeepSeek e pessoas associadas à Moonshot AI como autores, e diz apoiar uma legislação dos EUA que dê ao governo mais ferramentas contra a extração por agentes estrangeiros.
O texto também lista passos para outros desenvolvedores: verificar vazamentos nos argumentos de chamadas de ferramentas, manter os ataques bem-sucedidos como testes de regressão e combinar controles por requisição com investigações de campanhas.