Velké jazykové modely se po nasazení přestanou učit. Co se stalo po uzávěrce trénovacích dat, znají jen z toho, co jim uživatel vloží do kontextu, a po skončení relace to zase zapomenou. Výzkumníci z Google Research proto navrhli rámec Sleep, ve kterém model střídá dvě fáze. Za bdění pracuje normálně a nové informace si ukládá do rychlé krátkodobé paměti. Ve spánku přestane přijímat vstupy a to, co nasbíral, přepíše do trvalých vah. Cílem je model, který se učí i po nasazení a nezapomíná přitom, co už uměl.
Autory jsou Ali Behrouz a Vahab Mirrokni z Google Research, Farnoosh Hashemi z Cornellovy univerzity a Adel Javanmard (Google a University of Southern California). Odborný článek Language Models Need Sleep vyšel na arXivu v červnu 2026, Google ho na svém blogu představil 27. října. Navazuje na architekturu Hope z práce Nested Learning (Behrouz a kol., prosinec 2025). Hope rozkládá paměť modelu do několika úrovní. Některé paměťové bloky se přepisují často, jiné jen zřídka. Právě do těch pomalých ukládá Sleep dlouhodobé znalosti.
Dosud se nabízely dvě cesty a obě mají háček. Kdo model průběžně dolaďuje na nových datech (supervised fine-tuning, SFT), přepisuje tytéž váhy, ve kterých leží staré znalosti. Model se naučí nové věci a staré zapomene. Odborně se tomu říká katastrofické zapomínání. Učení z kontextu (in-context learning, ICL) váhy vůbec nemění, takže nic nepřepíše, jenže znalost vydrží jen do zaplnění kontextového okna nebo do konce relace a v další konverzaci začíná model znovu od nuly. Sleep jde jinudy. Místo přepisování starých parametrů model ve spánku přidá nové: do pomalých paměťových bloků doplní malé low-rank experty v architektuře Mixture-of-Experts (MoE) a jádro modelu zůstane stejné.
Spánek modelu má dvě části pojmenované podle fází toho lidského. První, konsolidace paměti, odpovídá hlubokému non-REM spánku. Model v ní přenáší obsah krátkodobé paměti do nových dlouhodobých parametrů postupem, kterému autoři říkají knowledge seeding. Netradičně přitom menší část sítě učí tu větší. Při on-policy destilaci se „žák“ učí z pravděpodobností, které „učitel“ přiřazuje textům vygenerovaným samotným žákem. Při napodobování dostává žák odměnu, když dokončí začátek učitelova textu podobně jako učitel, a podobnost se měří významově i Levenshteinovou vzdáleností. Na konci konsolidace se rychlé dočasné parametry vynulují, aby měl model místo na další informace. Autoři to přirovnávají k prořezávání synapsí.
Druhá část, snění, odpovídá REM fázi a slouží k procvičování. Router, který v MoE rozhoduje, kterou část sítě zapojit, během ní náhodně aktivuje i experty, které by běžně nevybral, takže se v generovaných textech mísí obory. Z těchto syntetických „snů“ model vybere vzorky podle jejich vlivu na gradienty a doladí se na nejlépe hodnocených. Pak kontroluje, jestli se tím zlepšily výsledky v navazujících úlohách. Člověk do toho nezasahuje.
Na matematických úlohách autoři zkoušeli Sleep s modelem Qwen3-8B. Model po spánku dosáhl v AIME 24 úspěšnosti 79,2 %, zatímco výchozí model měl 73,8 % a nejlepší srovnávací metoda OPSD 76,6 %. V AIME 25 a HMMT 25 byly odstupy menší: 69,0 proti 68,1 % a 46,1 proti 42,4 % u výchozího modelu. Samotné SFT přitom v AIME 25 skončilo pod výchozím modelem, na 66,4 %. Při vkládání nových faktů ze sady SQuAD, kdy model odpovídá na otázky k textu, který už nemá v kontextu, uspěl Sleep ve 48,9 % případů, výchozí model ve 31,9 % a metoda SEAL ve 46,7 %. Bez fáze snění by Sleep spadl na 35,7 %, většinu zisku tedy nese právě ona. Při překladu z mandžuštiny a z jazyka kalamang, které model při předtrénování neviděl, si Sleep podle autorů udržel výkon téměř beze ztrát, zatímco ICL, SFT a metoda Cartridges zapomínaly. Jeden tréninkový krok Sleep je asi čtyřikrát dražší než krok SFT. Samotné SFT by ale podle autorů potřebovalo 3,6× až 4,8× víc času, než by se k matematickým výsledkům Sleep dostalo. Všechna čísla pocházejí z experimentů autorů.
Zdroje:
- Google Research: The sleep framework: A new way for LLMs to retain knowledge in continual learning, 27. října 2026
- Ali Behrouz a kol.: Language Models Need Sleep: Learning to Self-Modify and Consolidate Memories, arXiv, červen 2026
- Ali Behrouz a kol.: Nested Learning: The Illusion of Deep Learning Architectures, arXiv, prosinec 2025
