Перейти к содержимому

OpenAI привязала рассуждения GPT-6.2 к истории чата

Короткий ответ

OpenAI усилила защиту от враждебной дистилляции, когда посторонние обучают конкурирующую модель на её ответах. В GPT-6.2 Astra и Sol защищённые рассуждения привязаны к диалогу, который их породил, а правка раннего сообщения стирает рассуждения, шедшие после него. Старые семейства моделей их больше не читают.

Что это значит для операций

Если агенты поддержки или продаж работают у вас через API OpenAI и вы обрезаете, сжимаете или переписываете прежние сообщения диалога, прогоните эти сценарии на GPT-6.2 Astra и Sol: API отбрасывает рассуждения, которые шли после изменённого сообщения. Проверьте и все схемы, где рассуждения передаются между моделями, рабочими пространствами или старыми версиями моделей, - эти пути теперь ограничены. Убедитесь также, что ни у подрядчика, ни во внутреннем конвейере нет сбора ответов моделей для обучения другой модели: OpenAI заявляет, что принимает меры против сетей аккаунтов, которые этим занимаются. Последний пункт - наш вывод для небольших команд, в источнике о них ничего не сказано.

OpenAI опубликовала 20 ноября 2026 года подробности о том, как борется с враждебной дистилляцией: так называют несанкционированное использование ответов передовой модели для обучения другой модели с более слабой защитой. Главный пример компании - кибервозможности, которые скопированная модель могла бы применить в атаках, где оригинал отказал бы.

Что изменилось в API

Особое внимание OpenAI уделяет защищённым рассуждениям модели - промежуточным шагам, которые она строит перед ответом. В GPT-6.2 Astra и GPT-6.2 Sol эти рассуждения привязаны к истории диалога, в котором они появились. Новые сообщения могут опираться на прежние рассуждения, но если более раннее сообщение переписать, API отбрасывает рассуждения, следовавшие за ним.

Старым семействам моделей со слабыми защитными механизмами тоже закрыт доступ к защищённым рассуждениям Astra и Sol. По словам OpenAI, компания укрепила защиту на границах пользователя, рабочего пространства, организации и семейства моделей, а также закрыла путь, который мог раскрыть чужие зашифрованные рассуждения.

Защита на уровне каждого запроса

Компания описывает три слоя:

  • состязательное обучение: модель отказывается раскрывать защищённые рассуждения, но по-прежнему объясняет всё добросовестным пользователям;
  • классификаторы на входе, которые замечают попытки извлечения, и классификаторы на выходе, которые ловят утечки в сообщениях ассистента и аргументах вызова инструментов, в потоковых и обычных ответах;
  • правила API, ограничивающие повторное использование защищённых рассуждений в разных диалогах и моделях.

Цифры

В адаптивном red-teaming методом чёрного ящика, суммарно по шести атакующим моделям, доля успешного восстановления рассуждений из более раннего запроса упала с 54,0% у GPT-6 Astra с исходной защитой до 0,2% у GPT-6.2 Astra. Для текущего запроса показатель снизился с 22,9% до 0,9%. Это внутренние результаты OpenAI. Компания сообщает, что теперь переносит часть улучшений и на GPT-6 Astra.

Отдельно внутреннее исследование показало: студенческая модель, обученная на точных трассах рассуждений, после обучения с учителем в целом обходила ту, что училась на кратких пересказах рассуждений. После небольшого раунда обучения с подкреплением ученик на точных трассах всё равно лидировал при самом большом из проверенных бюджетов на вывод.

Принудительные меры

OpenAI говорит, что в этом году видела несколько кампаний несанкционированной дистилляции. Еженедельные меры затрагивали от тысяч до десятков тысяч аккаунтов, причём к лету темп резко вырос. Компания действует против сетей аккаунтов целиком и делится индикаторами компрометации с другими поставщиками моделей. В прежних публикациях она называла DeepSeek и людей, связанных с Moonshot AI, среди тех, кто этим занимался, и заявляет, что поддерживает законодательство США, дающее правительству больше инструментов против иностранного извлечения.

Для других разработчиков в публикации есть список шагов: проверять аргументы вызова инструментов на утечки, сохранять удавшиеся атаки как регрессионные тесты и сочетать защиту на уровне запросов с расследованием кампаний.

Источник: OpenAI · В Атласе: OpenAI →

Инструменты из этой новости

  • DeepSeek - цена, кто пользуется, альтернативы
Следующий шаг

Discovery Sprint

Если ИИ уже работает у вас в каком-то процессе, следующий шаг - разобрать именно его. Тридцать минут, и мы скажем, сойдётся ли арифметика.

Записаться на разбор

Бесплатный разбор, 30 минут. Говорим о спринте.

Стоимость
$2 500
Срок
1-2 недели

Заканчивается одним из двух ответов: строить или не строить. Карта процесса, цифры и список кандидатов по порядку остаются у вас в любом случае.