Trendy

Nejnovější čip IBM by mohl být 25krát výkonnější než grafické procesory

NorthPole se obejde bez operační paměti, aby byl rychlejší.

Výzkumníci vyvinuli procesor postavený na neuronových sítích, který dokáže provádět úlohy umělé inteligence mnohem rychleji než běžné čipy, protože odstraňuje potřebu přístupu k externí paměti.

I ty nejlepší procesory narážejí při zpracování dat na limity, protože výpočty musejí využívat operační paměť, přičemž toto přenášení dat tam a zpět je zkrátka neefektivní. IBM doufá, že se jí podaří vyřešit takzvané Von Neumannovo úzké hrdlo pomocí svého čipu NorthPole, píše Nature.

Procesor NorthPole vkládá malé množství paměti do každého ze svých 256 jader, která jsou vzájemně propojena podobným způsobem, jako jsou části mozku propojeny bílou hmotou. To znamená, že čip eliminuje úzké hrdlo. 

NorthPole od IBM je spíše proof-of-concept než plně funkčním čipem, který by mohl konkurovat čipům AMD a Nvidie. Obsahuje například pouze 224 MB paměti RAM, což zdaleka nestačí rozsahu potřebnému pro umělou inteligenci nebo pro běh velkých jazykových modelů (LLM).

Na čipu také mohou běžet jen předprogramované neuronové sítě vyškolené na samostatných systémech. Jeho unikátní architektura však znamená, že jeho skutečnou předností je energetická účinnost. Výzkumníci tvrdí, že kdyby byl NorthPole vytvořen dnes s nejmodernějšími výrobními standardy, byl by 25krát efektivnější než nejlepší GPU a CPU.

Může také předstihnout systémy umělé inteligence v úlohách, jako je rozpoznávání obrazu. Jeho architektura neuronové sítě znamená, že spodní vrstva přijímá data, jako jsou pixely na obrázku, a další vrstvy začínají detekovat vzory, které se stávají složitějšími, jak se informace předávají z jedné vrstvy do druhé. Nejvyšší vrstva pak vyprodukuje konečný výsledek, například navrhne, zda obrázek obsahuje určitý objekt.

Zdroj: Techradar.com

Copilot webinář Zažijte budoucnost práce