AI červ, který se šíří sám: Výzkumníci ukázali nový typ hrozby

Výzkumný tým Univerzity v Torontu vytvořil funkční prototyp počítačového červa poháněného umělou inteligencí, schopného autonomně zneužívat známé zranitelnosti napříč různými systémy. Jde o zásadní posun v tom, jak vůbec přemýšlíme o kybernetických hrozbách – a pro IT manažery a bezpečnostní týmy v českých firmách je to varování, které nelze přehlédnout.

Tradiční síťoví červi byli vždy dílem zkušených programátorů, kteří je navrhovali k využití konkrétní, přesně definované zranitelnosti. Jakmile byl vydán bezpečnostní patch, hrozba byla prakticky neutralizována. Výzkumníci z Toronta však použili open-source jazykové modely v izolovaném, zabezpečeném prostředí a vytvořili něco kvalitativně jiného – malware, který se dokáže přizpůsobovat, učit a šířit bez jakékoli lidské asistence.

Prototyp červa není vázán na jednu platformu ani jednu chybu. Dokáže přizpůsobit útok různým typům zranitelností na systémech Windows, Linux i zařízeních internetu věcí (IoT). Při průchodu sítí sbírá data, krade přihlašovací údaje a průběžně odhaluje další slabá místa, která mu umožňují kompromitovat další stroje. Klíčová vlastnost, která ho odlišuje od dosavadních hrozeb: pokud je infekce na jednom zařízení odhalena a opravena, červ okamžitě přepne na jinou zranitelnost a napadne cíl znovu jinou cestou.

Nejzávažnější aspekt celého konceptu je však jeho schopnost sebeudržení. Červ přesměrovává výpočetní výkon infikovaných strojů na pohon vlastního „uvažování“ – jinými slovy, na plánování dalších útoků. Hlavní autor studie Nicolas Papernot to komentuje jednoznačně: útočníci si v minulosti museli vybírat cíle s ohledem na omezený čas a výpočetní zdroje, a proto se soustředili na nejhodnotnější objekty. Jakmile je ale podobný červ jednou spuštěn, operační náklady útoku klesnou prakticky na nulu. To zásadně mění ekonomiku kybernetického útočení – a rovnováhu sil mezi útočníky a obránci.

Scénář autonomního AI malwaru přestal být teoretický i v důsledku jiného vývoje na trhu. Společnost Anthropic nedávno představila model Mythos, navržený primárně pro identifikaci dosud neznámých bezpečnostních rizik. Anthropic uvádí, že Mythos již objevil přes deset tisíc zranitelností a dramaticky zvýšil rychlost jejich nalézání u partnerských organizací. Cloudflare, který model také testoval, pomocí něj identifikoval dva tisíce zranitelností, z nichž čtyři sta bylo klasifikováno jako vysoce rizikové nebo kritické.

Důležitý je vztah mezi oběma projekty. Torontský prototyp umí zneužívat pouze již známé zranitelnosti – sám nové neobjevuje. Model jako Mythos naopak nové zranitelnosti nachází, ale primárně za účelem obrany. Kombinace obou přístupů v rukou útočníka by však představovala kvalitativně novou úroveň hrozby: systém, který v reálném čase odhaluje neznámé slabiny a okamžitě je zneužívá, zcela bez lidského zásahu.

Sdílení těchto výzkumných zjištění není samoúčelné. Je to výzva pro průmysl, aby se začal na podobné scénáře připravovat dříve, než se z laboratorního prototypu stane reálná zbraň.

Zdroj: utoronto.ca