ByteShape ladí model pro méně VRAM
et,
1 měsíc ago
1 min read
ByteShape vydal pět kvantizací Qwen3.8-27B pro llama.cpp. Jeho testy srovnávají velikost souboru, rychlost generování a relativní kvalitu; MTP s DFlash2 přidávají spekulativní dekódování pro rychlejší...
Bonsai 2 27B vměstná Qwen 27B do 5,9 GB vah
et,
1 měsíc ago
1 min read
PrismML zkomprimoval Qwen3.8 27B do ternárního modelu s deklarovanou velikostí 5,9 GB, ale pro běh zatím potřebuje vlastní větev llama.cpp.
llmfit hledá lokální model, který počítač utáhne
et,
3 měsíce ago
2 min read
Nástroj llmfit porovná hardware počítače s modely a poradí, které lokální LLM na něm poběží rozumně.
Qwen 3.6 27B ukazuje, že lokální AI už není jen experiment
et,
4 měsíce ago
1 min read
Qwen 3.6 27B přináší výkon, který podle prvních zkušeností poprvé umožňuje používat lokální AI model jako plnohodnotnou alternativu ke cloudovým asistentům pro vývojáře.
Ollama: kdy se vyplatí přestat platit za API a provozovat AI doma
Nikolas Vereš,
6 měsíců ago
8 min read
Lokální jazykové modely zaznamenaly v roce 2026 zlom. Ollama hlásí 52 milionů stažení měsíčně, MLX backend zdvojnásobil výkon na Apple Silicon, a Qwen 3.5 9B...
Apple Silicon a lokální AI: Proč Mac v roce 2026 vyhrává race, o které nikdo nepsal
Valentino Hesse,
7 měsíců ago
8 min read
Přiznám se rovnou: ještě v roce 2023 jsem si myslel, že lokální LLM na Macu je spíš hračka pro nadšence. Stáhl jsem Ollamu, spustil llama-2-7b,...
Recent Posts
Actual
ArtCraft: s pomocí AI vznikají alternativy k Adobe v Rustu
Brandon Thomas podle svého vyjádření použil Claude k vývoji sedmi otevřených alternativ k aplikacím Adobe; PhotoCraft zatím zůstává v rané alfě.
Pět repozitářů, ve kterých jsou místo kódu hlavně návody, podle nichž AI agenti pracují.
Pět veřejných repozitářů na GitHubu pod účtem Hessevalentino má společného jmenovatele, který na první pohled není vidět. Skoro žádný z nich neobsahuje program v klasickém...
REA dává AI agentům nástroje pro rozbor aplikací
REA propojí AI agenta s rozborem aplikace, aby mohl vysvětlit její chování a podle zjištěných pravidel napsat vlastní implementaci.
Laya třídí zprávy lokálně bez generování textu
Rozhodovací model Laya vybírá z předem určených odpovědí a vrací jejich pravděpodobnosti, například při třídění požadavků zákazníků. ---