Ubrzanje umjetne inteligencije trebalo bi postati jedno od najprosperitetnijih hardverskih poslova u nadolazećim mjesecima i godinama, a Nvidia je u glavnoj poziciji da osvoji značajan udio na ovom tržištu. Datacentar GPU H100 već se pokazao kao glavni generator prihoda za tvrtku sa sjedištem u Santa Clari.
Za svaki prodani H100 GPU akcelerator, čini se da Nvidia ostvaruje izuzetan profit, s prijavljenim maržama koje dosežu 1000 posto proizvodnih troškova. Tae Kim, autor u Barron’su, nedavno je istaknuo da Nvidia troši oko 3.320 dolara za proizvodnju jedne jedinice H100, koja se zatim prodaje krajnjim kupcima po cijeni od 25.000 do 30.000 dolara. Ove procjene dala je konzultantska tvrtka Raymond James i naizgled također obuhvaćaju troškove povezane s ugrađenim HBM memorijskim čipovima.
Ako se procjene pokažu točnima, ovo bi moglo označiti početak zlatne ere bez presedana za Nvidijino GPU poslovanje. Potražnja za H100 GPU jedinicama je toliko visoka da su rasprodane do 2024., rekao je Kim. U međuvremenu, AI tvrtke pokušavaju osigurati dovoljno GPU akceleratora za poticanje svojih generativnih modela i usluga koje pokreće AI. Foxconn predviđa da će tržište AI poslužitelja dosegnuti vrijednost od 150 milijardi dolara do 2027. godine, a ovi moderni AI poslužitelji uvelike se oslanjaju na robusne računalne mogućnosti najnovijeg Nvidijinog hardvera.
H100 GPU temelji se na Hopper mikroarhitekturi, dizajniranoj kao pandan podatkovnog centra arhitekturi Ada Lovelace koja osnažuje najnoviju generaciju GeForce RTX gaming GPU-a. Međutim, Hopperov primarni fokus nije na igricama, kao što pokazuju referentne vrijednosti performansi. H100 akcelerator opremljen je modificiranim GH100 GPU-om koji sadrži 14.592 CUDA jezgre, uz 80 GB HBM3 RAM-a s 5.120-bitnom memorijskom sabirnicom.
S jedne strane, proizvodnja i prodaja H100 GPU-a mogla bi biti puno skuplja od prijavljenih 3320 USD. S druge strane, Kim Nvidiju prati već 30 godina, a sada čak piše i knjigu kao “definitivnu povijest” tvrtke. Stoga, kada je riječ o Nvidijinom unutarnjem radu i razinama troškova, on vjerojatno zna o čemu govori.
