Subscribe Now
Trending News
Shorts

Anthropic dává 40 milionů dolarů na pravidla pro AI

Anthropic dává 40 milionů dolarů na pravidla pro AI

Anthropic pošle dalších 20 milionů dolarů organizaci Public First Action a svou letošní podporu tím zvedá na 40 milionů dolarů. Prvních 20 milionů dolarů jí firma darovala v únoru. Skupina vede veřejnou kampaň za pravidla pro pokročilé AI modely a oslovuje voliče napříč stranami. Firma tvrdí, že peníze nesmějí sloužit k podpoře ani porážce konkrétního kandidáta; Public First Action však působí vedle navázaných PAC a její téma míří přímo do kampaně před listopadovými volbami do Kongresu.

Obhajoba Anthropicu stojí na tom, že samotné zveřejňování rizik už nestačí. Chce povinné testování modelů s katastrofickým rizikem, nezávislé hodnocení, veřejné informace o výsledcích a možnost úřadů nasazení nebezpečného modelu zpomalit či zastavit. Firma jako důvod uvádí také schopnosti svého modelu Mythos Preview, který podle jejího oznámení našel tisíce závažných chyb v softwaru; model proto zpřístupnila jen omezenému okruhu kybernetických obránců. V návrhu politiky žádá, aby stát mohl bezpečnostní tvrzení laboratoří ověřovat a za nedodržení pravidel uložit občanskoprávní sankci.

Právě tady se z bezpečnostní debaty stává spor o trh. V diskusi na r/singularity převládá podezření, že zavedené laboratoře chtějí „zvednout most za sebou“: nákladná pravidla snáz unesou firmy s miliardovým financováním než nový tým. Podobně argumentuje poradce Bílého domu David Sacks, podle něhož Anthropic prosazuje regulační zajetí. WIRED připomíná, že dosud podporované zákony míří hlavně na vývojáře velkých modelů s výdaji ve stovkách milionů dolarů a ročními tržbami nad 500 milionů dolarů. To malé začínající firmy zatím vyřazuje, budoucí soupeře Anthropicu už ale ne nutně.

Riziko se týká i open-weight modelů. Anthropic spolu s OpenAI tlačí na přísnější dohled nad čínskými otevřenými modely a Amodei namítá, že po zveřejnění vah už nelze odebrat přístup ani opravit ochranná opatření. Zastánci otevřených modelů naopak upozorňují, že právě dostupnost modelů dává firmám, vědcům a nezávislým vývojářům alternativu k několika uzavřeným poskytovatelům. Pokud se pravidla navážou na schopnosti modelu místo na velikost firmy, mohou dopadnout i na rychle rostoucí laboratoře. Pokud budou napsaná široce nebo draze, AI startup bez vlastního právního a bezpečnostního aparátu začne s výraznou nevýhodou.

Peníze Anthropic posílají do už rozběhnutého souboje. Konkurenční skupina Leading the Future, podporovaná lidmi z OpenAI a fondem Andreessen Horowitz, držela po druhém čtvrtletí 31 milionů dolarů a prosazuje rychlejší vývoj s mírnějšími omezeními. Public First Action mezitím financuje veřejné kampaně a je spojena se třemi PAC pro různé části politického spektra. Pravidla pro AI tak ve Spojených státech nevznikají jen v Kongresu; stále víc je budou určovat i rozpočty firem, které mají z jejich podoby nejvíc získat nebo ztratit.

Zdroje:

Related posts