Tekoälyaiheista YouTube-kanavaa pitävä Sentdex testasi Asuksen ExpertCenter Pro ET900N G3 -työasemaa. Kone on Asuksen versio Nvidian DGX Station -työasemasta. Asus pyysi Sentdexiä arvioimaan koneen ja lainasi sen testiin. Sentdex julkaisi tulokset videolla 18. lokakuuta.

Koneen tärkein osa on GB300-piiri. Sen GPU:lla on 252 gigatavua HBM-muistia, ja Sentdexin mukaan muistin kaistanleveys on 7,1 teratavua sekunnissa. Markkinoinnissa korostettu 748 gigatavun yhtenäinen muisti sisältää myös Grace-suorittimen LPDDR5X-muistin. Sen kaistanleveys on vain 396 gigatavua sekunnissa. Sentdexin mukaan nopeus putoaa jyrkästi heti, kun malli joutuu käyttämään hitaampaa muistia. Vertailun vuoksi hän arvioi RTX Pro 6000 -näytönohjaimen kaistanleveydeksi noin 1,7 teratavua sekunnissa.

Hitaammastakin muistista on hyötyä, kun mallin osat jaetaan oikein. DeepSeek V4.1 Flash on MoE-malli, joka käyttää jokaisen tokenin tuottamiseen vain osaa osaverkoistaan eli asiantuntijoistaan. Local Inference Lab -yhteisön ylläpitäjä EL8 on laatinut työasemalle asetukset, joissa mallin painot ja usein käytetyt asiantuntijat ovat GB300:lla ja 99 harvoin käytettyä asiantuntijaa työaseman toisella näytönohjaimella, RTX Pro 6000:lla. Mallin engram-taulukot ovat LPDDR5X-muistissa. Testikoneen mukana tuli RTX Pro 4000, jonka Sentdex neuvoo vaihtamaan RTX Pro 6000:een.

Näillä asetuksilla malli käsitteli syötettä ennen vastauksen ensimmäistä tokenia keskimäärin 44 000 tokenia sekunnissa, huipussaan 63 000. Sentdexin mukaan RTX Pro 6000 -koneet yltävät tyypillisesti 9 000–20 000 tokeniin sekunnissa.

Parhaan tuloksen antoi Nvidian malli, joka esiintyy tekstityksessä nimellä ”Neotron”. Mallien nimet perustuvat videon automaattiseen tekstitykseen, joten niissä voi olla tunnistusvirheitä. Kun pyyntöjä oli 64 yhtä aikaa, malli tuotti yhteensä noin 6 500 tokenia sekunnissa ja jokaiselle pyynnölle yli 100 tokenia sekunnissa. Sentdex arvioi todellisen luvun olevan lähempänä 7 000:ta, koska osa pyynnöistä valmistui muita aiemmin. Sentdexin mukaan malli on hieman heikompi kuin Qwen-malli (tekstityksessä ”Quen 38 Flash Next”), mutta Qwenin nopeus ei enää kasvanut, kun rinnakkaisia pyyntöjä oli yli 16. Sentdexin omalla neljän RTX Pro 6000:n koneella Nvidian mallin nopeus ei kasvanut samalla tavalla, eikä hän osaa vielä selittää syytä.

Luvut ovat Sentdexin videolla esittämiä GB300-työaseman tuloksia yksittäisistä ajoista.

Sentdex muistuttaa, että hän ajoi mittaukset vain kerran, joten lukuihin on suhtauduttava varauksella. DeepSeek-mallilla vastausten tuottamisnopeus oli 1–4 rinnakkaisella pyynnöllä lähes sama kuin hänen omalla neljän RTX Pro 6000:n koneellaan, ja yksi pyyntö kerrallaan RTX-kone oli hieman nopeampi. GLM53 Flash -mallilla tuottamisnopeus oli lähes sama, ja GB300 käsitteli syötteen noin kolme kertaa nopeammin, mutta kokonaisuutena Sentdex pitää tulosta tasapelinä. Hänen mukaansa tämä on GB300:lle epäedullisin vertailu, koska työasema on selvästi kalliimpi kuin neljän RTX Pro 6000:n kokoonpano. Hinnaltaan työasema vastaa Sentdexin mukaan noin kuuden RTX Pro 6000:n konetta.

Sentdexin mielestä työaseman etu on, että se toimii sellaisenaan. RTX-koneessa yksi asetus kytkeytyi huomaamatta päälle, ja vastausten tuottaminen hidastui 30–50 prosenttia.