28 октября 2026 г.
Sleep-фреймворк Google Research: новый способ непрерывного обучения LLM без катастрофического забывания
Исследователи предложили двухфазный цикл консолидации и «сновидений», позволяющий языковым моделям удерживать длительный контекст, поглощать новые факты и улучшать рассуждение без потери старых навыков.
Исследователи Google Research Али Бехруз и Вахаб Миррокни описали парадигму непрерывного обучения языковых моделей, вдохновлённую работой человеческого мозга во время сна. Sleep-фреймворк позволяет развёрнутым LLM постоянно усваивать новые факты, удерживать длительный контекст до 10 миллионов токенов и улучшать способность к сложным рассуждениям без катастрофического забывания ранее приобретённых знаний.
На практике это означает: вместо статичной модели с фиксированной датой отсечения данных появляется агент, который самостоятельно обновляет параметры в фоновом режиме, сохраняя стабильность и точность. Создатели подчёркивают, что термины «сон» и «сновидения» заимствованы из нейробиологии, но весь процесс реализован чисто алгоритмически, без изменения архитектуры сети.
Две фазы sleep-цикла: консолидация и dreaming
Консолидация повторяет функцию медленного сна: модель сжимает фрагменты кратковременной памяти (контекст последних сессий) в долговременные параметры. Для этого используется смесь экспертов (Mixture-of-Experts) с низкоранговыми структурами и разблокируемыми блоками памяти. Благодаря on-policy дистилляции и семантическим наградам модель отбирает направления обновлений, которые сохраняют смысл, а не просто копируют распределение токенов. Параметрическое расширение даёт место для новых знаний без перезаписи старых.
Фаза dreaming имитирует быстрый сон: модель генерирует синтетические примеры через случайную активацию разных экспертов и усиливает наиболее полезные сигналы с помощью обучения с подкреплением. Такой подход разнообразит пространство градиентов и делает обновления более сбалансированными, позволяя модели улучшать рассуждение и общую компетентность без вмешательства человека.
Что показали эксперименты
Sleep-фреймворк сравнивался с in-context обучением и дообучением под контролем (SFT) по нескольким сценариям последовательного накопления навыков. Ключевые результаты:
- В задачах инкрементального обучения классам и непрерывного перевода на ранее не виданные языки (Manchu, Kalamang) падение качества оказалось практически нулевым, тогда как базовые методы страдали от резкого забывания.
- На тесте BABILong модель сохраняла понимание текстов длиной до 10 миллионов токенов, демонстрируя почти идеальную масштабируемость.
- При добавлении новых фактологических знаний и математических рассуждений сон-цикл обеспечивал стабильный рост без деградации предыдущих умений.
Практическое значение для разработчиков
Sleep-фреймворк открывает путь к LLM-агентам, которые могут непрерывно учиться прямо в продакшене, не требуя полного переобучения. Это снижает затраты на обновление знаний и позволяет создавать персональные модели, адаптирующиеся к пользователю без риска забыть важную общую информацию. Фреймворк пока описан на уровне исследовательской публикации; открытого кода или готового сервиса Google Research не предоставила. Разработчикам стоит следить за дальнейшими техническими отчётами и возможным появлением реализации в открытых репозиториях.
