Glasine su istinite, Microsoft je napravio vlastiti prilagođeni AI čip koji se može koristiti za treniranje velikih jezičnih modela i potencijalno izbjegavanje (pre)skupog oslanjanja na Nvidiju. Uz to, Microsoft je napravio vlastiti procesor temeljen na Armu za radna opterećenja u cloudu.
Oba prilagođena silikonska čipa dizajnirana su za napajanje Azure podatkovnih centara i pripremu kompanije i poslovnih korisnika za budućnost punu umjetne inteligencije.
Konkretnije, Microsoftov Azure Maia AI čip i Arm-powered Azure Cobalt CPU stižu iduću godine, zahvaljujući porastu potražnje ove godine za Nvidijinim H100 GPU-ovima koji se naširoko koriste za obuku i upravljanje generativnim slikovnim alatima i velikim jezičnim modelima. Postoji tako velika potražnja za tim GPU-ima da su neki čak postigli više od 40.000 američkih dolara na eBayu.
“Tijekom 2017. započeli smo s projektiranjem hrpe hardvera u cloudu i započeli smo to putovanje koje nas je dovelo na pravi put izgradnje naših novih prilagođenih čipova. Uostalom, Microsoft ima dugu povijest razvoja čipova”, objašnjava Rani Borkar, voditelj Azure hardverskih sustava i infrastrukture u Microsoftu.
Azure Cobalt CPU, nazvan po plavom pigmentu, je čip sa 128 jezgri koji je izgrađen na Arm Neoverse CSS dizajnu i prilagođen za Microsoft. Dizajniran je za pokretanje općih usluga u cloudu na Azureu. Ujedno, Microsoft trenutno testira Cobalt CPU na radnim opterećenjima kao što su Microsoft Teams i SQL poslužitelj, s planovima da virtualne strojeve sljedeće godine učini dostupnim korisnicima za različita radna opterećenja.
Maia 100 AI akcelerator, nazvan po jarko plavoj zvijezdi, dizajniran je za pokretanje AI radnih opterećenja u cloudu, poput obuke i zaključivanja modela velikog jezika. Koristit će se za pokretanje nekih od Microsoftovih najvećih AI radnih opterećenja na Azureu, uključujući dijelove multimilijarderskog partnerstva.
Proizvedena 5-nanometarskim TSMC procesom, Maia ima 105 milijardi tranzistora, što je oko 30 posto manje od 153 milijarde koliko ih ima AMD-ov Nvidijin konkurent, MI300X AI GPU.
Kao dodatni napor prema konkretnijim iskoracima u ovom području, Microsoft je dio grupe koja uključuje AMD, Arm, Intel, Meta, Nvidia i Qualcomm. Svima im je cilj standardizirati sljedeću generaciju formata podataka za AI modele. Microsoft gradi na zajedničkom i otvorenom radu projekta Open Compute Project (OCP) kako bi čitave sustave prilagodio potrebama umjetne inteligencije. To je ključno za Microsoft kako bi brže pokrenuo ove AI poslužitelje bez potrebe da za njih napravi mjesta u podatkovnim centrima diljem svijeta.
Za Microsoft je sad ključno koliko brzo će plasirati Maiju kako bi ubrzao AI ambicije koje ima, odnosno, kako bi se vidio utjecaj čipova na cijene za korištenje AI usluga u cloudu. Microsoft još nije spreman razgovarati o novoj cijeni poslužitelja, ali već smo vidjeli da je svoj Copilot u Microsoft 365 ponudio po cijeni od 30 dolara mjesečno po korisniku.
Trenutačno je ograničen samo na najveće Microsoftove klijente. I to samo one koji se obvežu da će imati najmanje 300 korisnika.
