Qwen3.5-9B-GLM5.1-Distill-v1 je experimentální 9B model postavený na Qwen3.5-9B, který se nesnaží přidat úplně nové schopnosti, ale spíš zlepšit způsob, jak model přemýšlí nad složitějšími úlohami. Hlavní myšlenka je jednoduchá: vzít silnější reasoning styl z GLM-5.1 a přenést ho do menšího modelu tak, aby odpovědi byly stabilnější, čitelnější a lépe držely zadání. To je zajímavější než běžné „vyladění na pár ukázkách“, protože tady nejde jen o formát odpovědi, ale o samotnou strukturu postupu.
Za modelem stojí Jackrong a jde o samostatný open-source projekt publikovaný na Hugging Face pod licencí Apache 2.0. Autor ho trénoval jako supervised fine-tuning a distillation variantu nad Qwen3.5-9B s využitím Unsloth a LoRA. Jako hlavní zdroj použil reasoning dataset Kassadin88/GLM-5.1-1000000x a doplnil ho o vlastní menší dataset Jackrong/Qwen3.5-reasoning-700x.
High-quality reasoning supervision can help the student model better use its existing knowledge, rather than simply replacing it with teacher outputs.
Prakticky je tenhle model určený hlavně pro úlohy, kde záleží na vícekrokovém uvažování, práci s omezeními v promptu a čisté organizaci odpovědi. Místo stylu, který jen natahuje chain-of-thought, se snaží nejdřív rozpoznat typ problému, vytáhnout klíčové podmínky, rozdělit úlohu na menší kroky a až potom sestavit finální odpověď. Autor to popisuje jako přenos „reasoning scaffold“, tedy spíš naučeného postupu než kopírování konkrétních výstupů učitele.
Důležité je, že autor neslibuje žádný dramatický skok ve schopnostech. Naopak otevřeně říká, že u 9B modelů bývají přínosy spíš postupné: lepší stabilita ve vícekrokovém reasoning, čitelnější výstupy, přesnější dodržení instrukcí a mírné zlepšení u složitějších úloh. Dataset, ze kterého model vychází, má podle model card zhruba 1,05 milionu reasoning traces a použitá část prošla čištěním, skórováním a filtrováním, aby do tréninku šly konzistentnější ukázky a méně šumu.
Tenhle release tak dobře ukazuje, kam se část open-source scény posouvá: méně honby za obřím modelem, víc práce s tím, jak z menšího modelu dostat rozumnější pracovní postup. Pro lokální inference nebo experimenty s reasoning modely je to zajímavé právě tím, že cílí na workflow odpovědi, ne jen na benchmarkové skóre. Současně je ale fér brát vážně i omezení, která autor uvádí: model je testovací, určený hlavně pro research a technické zkoumání, a může mít problémy jako hallucinations, reasoning drift nebo logické smyčky.
Zdroje: