Ve farmacii nemusí být nejcennější ten největší model, ale ten, který funguje i mimo datacentrum. Příklad dává startup RxAll. Jeho ruční spektrometr naskenuje pilulku infračerveným světlem a AI podle molekulárního profilu vyhodnotí, zda jde o pravý lék, nebo padělek.
Klíčový moment přišel už v roce 2019 během demonstrace v Kapském Městě. Zakladatel Adebayo Alonge podle IEEE narazil na to, že server byl ve Spojených státech, zhruba 14 tisíc kilometrů daleko, a jeden výsledek dorazil až po více než pěti minutách. Tým proto model zmenšil tak, aby běžel přímo v telefonu s Androidem. Podle článku to zvládl během dvou hodin. Právě tady je vidět, proč se o malých jazykových modelech mluví tolik: v terénu rozhoduje latence, spotřeba a to, jestli systém funguje i bez stabilního připojení.
Tento posun zapadá i do širšího vývoje oboru. Přehledová práce Language Models in Molecular Discovery z roku 2023 popisuje, že jazykové modely se v chemii a vývoji léčiv používají hlavně pro návrh nových molekul, odhad vlastností a práci s reakční chemií. Mezi návrhem kandidáta a skutečným nasazením v laboratoři je ale stále dlouhá cesta. O to zajímavější je praktičtější větev oboru: malé, úzce trénované modely, které řeší jednu konkrétní úlohu okamžitě.
IEEE tenhle příběh zasazuje do širšího rámce „small AI“. Uvádí, že takové modely mívají nejvýš několik miliard parametrů, takže se vejdou do telefonu nebo na Raspberry Pi a vystačí si s pár watty. Článek také cituje listopadovou zprávu Světové banky, podle níž ChatGPT použilo jen 0,7 % internetových uživatelů v nejchudších zemích, zatímco v nejrozvinutějších státech zhruba čtvrtina. Není ještě jasné, jak rychle se malé modely rozšíří. Směr je ale čitelný už teď: ve zdravotnictví a farmacii bude mít často větší cenu tichý model v kapse než další efektní AI služba závislá na cloudu.
Zdroje:
