Ameriški proizvajalec čipov AMD je v Berlinu predstavil novo ultra zmogljivo delovno postajo Threadripper Halo Station, s katero želi zmogljivosti umetne inteligence, doslej značilne predvsem za podatkovne centre, pripeljati na namizje.

Podjetje napravo opisuje kot »osebni superračunalnik«, namenjen »popolnoma novi dobi računalništva«, ki jo poganja umetna inteligenca. AMD je novost predstavil na tehnološkem dogodku Internationale Funkausstellung (IFA), kjer jo je predstavil višji podpredsednik podjetja Jack Huynh.

Zmogljivost, ki je bila doslej rezervirana za podatkovne centre

Threadripper Halo Station je zasnovan kot delovna postaja za najzahtevnejše naloge na področju umetne inteligence. Opremljen je lahko z do dvema terabajtoma sistemskega pomnilnika in do 576 gigabajti visokopasovnega pomnilnika HBM3E.

V njegovi notranjosti je do 96 jeder Threadripper Pro, za računanje umetne inteligence pa skrbita dva pospeševalnika podatkovnih centrov MI350P. Celoten sistem je zaradi zahtevnih zmogljivostnih obremenitev opremljen tudi s tekočinskim hlajenjem.

Huynh je novo napravo označil za »najzmogljivejšo delovno postajo na svetu«. Po njegovih besedah je dovolj zmogljiva za izvajanje modelov umetne inteligence z več kot bilijonom parametrov.

Iz enega poziva do celotnega 3D-sveta

AMD je zmogljivosti nove platforme na dogodku ponazoril s praktičnim prikazom. Vodstvo podjetja je z enim samim pozivom ustvarilo celoten 3D-svet in simulator letenja.

Demonstracija ponazarja smer, v katero želi AMD razvijati lokalno računalništvo z umetno inteligenco: zahtevni modeli in aplikacije naj bi lahko delovali neposredno na uporabnikovi infrastrukturi, brez nenehnega zanašanja na oddaljene podatkovne centre.

Manj odvisnosti od vse dražjega oblaka

AMD želi s Threadripper Halo Station predvsem odgovoriti na hitro naraščajoče povpraševanje po računski moči za umetno inteligenco.

Cilj je zmogljivost in pomnilniško kapaciteto, kakršno danes najdemo v podatkovnih centrih, prenesti v namizni format. Takšna rešitev bi podjetjem in ustanovam omogočila lokalno izvajanje velikih jezikovnih modelov ter agentnih sistemov umetne inteligence, namesto plačevanja vse dražjih oblačnih storitev.

Vendar izraz »osebni superračunalnik« nekoliko zavaja. Naprava po pričakovanjih ne bo namenjena običajnim domačim uporabnikom, temveč predvsem podjetjem, raziskovalnim ustanovam in drugim organizacijam z dovolj velikimi proračuni.

Cena še ni znana, pričakujejo več kot 100.000 evrov

AMD je napovedal, da naj bi Threadripper Halo Station na trg prišel v začetku prihodnjega leta. Cena za zdaj še ni znana.

Glede na zmogljivosti sistema se pričakuje, da bi lahko presegla 100.000 evrov. To napravo postavlja precej dlje od klasičnega osebnega računalnika in jo umešča predvsem v segment profesionalnih delovnih postaj ter infrastrukture za umetno inteligenco.

Nvidia ima že svoj odgovor

Najpomembnejši konkurent AMD-jevi novi postaji je Nvidia DGX, ki prav tako omogoča izvajanje velikih modelov umetne inteligence v namiznem okolju.

Pristopa podjetij pa se razlikujeta. AMD stavi predvsem na ogromno količino pomnilnika in visoko pomnilniško pasovno širino. Threadripper Halo naj bi tako ponujal več kot trikrat toliko pomnilnika kot primerljiva rešitev Nvidia, kar odpira možnost lokalnega izvajanja modelov z več trilijoni parametrov.

Nvidia ima po drugi strani pomembno prednost pri ekosistemu programske opreme. Prenos kode z lokalne delovne postaje v oblak naj bi bil bolj neposreden, poleg tega je Nvidia DGX že na voljo in se prodaja za približno 100.000 evrov.

Ali se začenja nov boj za lokalno umetno inteligenco?

AMD-jeva napoved bi lahko po mnenju industrijskih analitikov pomembno vplivala na konkurenčno razmerje na hitro rastočem trgu lokalnega računalništva za umetno inteligenco.

Za podjetja in ustanove so lahko stroški uporabe umetne inteligence v oblaku pomemben dejavnik. Če se bo obseg uporabe velikih modelov še naprej povečeval, bi lahko lokalna infrastruktura postala privlačnejša alternativa – zlasti tam, kjer je pomemben nadzor nad podatki, stroški ali dostopnostjo računske moči.

AMD želi ta trg nagovoriti s standardiziranimi komponentami in zmogljivostjo razreda podatkovnih centrov v obliki namizne delovne postaje. Če bo podjetju uspelo takšne sisteme narediti dovolj dostopne in uporabne, bi Threadripper Halo Station lahko pomenil pomemben korak pri širjenju umetne inteligence iz velikih podatkovnih centrov v podjetja, raziskovalne ustanove in lokalna računalniška okolja.