Nativ je open-source aplikace pro Macy s Apple Siliconem, která stáhne a spouští jazykové i multimodální modely přímo na počítači. Místo dalšího účtu u cloudové služby dostane uživatel chat a správu modelů; přehled o běhu inference je ve stejném okně. Projekt Blaizzy běží nativně v SwiftUI a pro samotné modely používá server mlx-vlm. Potřebuje macOS 26 nebo novější a dostatek sjednocené paměti podle vybraného modelu.
Vedle chatu Nativ také vyhledá nebo stáhne kompatibilní modely z Hugging Face a měří rychlost generování, čas do prvního tokenu i využití paměti. Vybraný model lze z rozhraní přepnout nebo odstranit. MLX, na němž stojí běhová vrstva, vyvíjí tým Apple Machine Learning Research pro Apple Silicon a pracuje se sdílenou pamětí CPU a GPU. Nativ proto dává technickým uživatelům hotové rozhraní místo ručního skládání Pythonu se serverem a jeho konfigurací.
Pro kódovací pracovní tok je důležitější lokální server než samotné okno chatu. Nativ zpřístupňuje rozhraní kompatibilní s OpenAI i Anthropicem a umí k němu připojit Codex, Claude Code, Pi, Hermes nebo OpenCode. Po stažení modelu probíhá inference na Macu; síť zůstává potřeba pro modely a první sestavení některých závislostí. Výchozí adresa serveru je http://127.0.0.1:8080.
Zdroje:
