Anthropic pod tlakem: čínský přístup k modelu Mythos stojí za americkými restrikcemi

Rozhodnutí Bílého domu zavést vývozní omezení na modely společnosti Anthropic nepřišlo jen tak, ale to si ostatně nikdo ani nemyslel. Podle serveru Semafor za ním stojí konkrétní obava: skupina napojená na čínskou vládu mohla získat přístup k internímu modelu s kódovým označením Mythos.

Jádrem problému, který vyústil v rychlé nejnovějšího modelu, je technika zvaná destilace. Pokud by Peking získal přístup k modelu Mythos 5 nebo Fable 5, mohl by tyto systémy využít k tréninku vlastních, méně vyspělých AI modelů – a to prostřednictvím analýzy jejich odpovědí a chování. Výsledkem by byla de facto rekonstrukce schopností špičkového amerického systému bez přístupu k jeho zdrojovému kódu či váhám. Jde o hrozbu, kterou Washington vyhodnotil jako závažné riziko pro národní bezpečnost.

Bílý dům sice oficiální podrobnosti nepotvrdil, poradce prezidenta Donalda Trumpa pro technologie David Sacks však situaci komentoval příspěvkem na síti X – ovšem s odlišným akcentem. Sacks se zaměřil na zranitelnost modelů vůči technikám obcházení bezpečnostních omezení, tzv. jailbreakingu. Vedení Anthropicu tuto konkrétní hrozbu odmítá jako nepodloženou. Samotná společnost se k žádostem o komentář nevyjádřila, interní zdroje však potvrdily, že jednání s washingtonskou administrativou o exportní kontrole se Číny přímo nedotýkala.

Pokud by se infiltrace ze strany státních aktérů potvrdila, nebyl by to pro Anthropic první případ selhání v oblasti ochrany přístupu k nejcitlivějším systémům. Model Mythos je interně považován za natolik výkonný a potenciálně nebezpečný, že nebyl veřejně zpřístupněn. Přesto skupina uživatelů na platformě Discord dokázala udržet neoprávněný přístup k tomuto systému po dobu dvou týdnů – a to dříve, než byla bezpečnostní mezera odhalena a přístup zablokován. Tento případ ilustruje, že ani přísně střežené interní systémy nejsou imunní vůči průnikům přes zdánlivě periferní kanály.

Zdroj: semafor.com

Zdroj: Photo by CARLOS DE SOUZA on Unsplash