- Maia 200 je najnovší interný akcelerátor umelej inteligencie od spoločnosti Microsoft, optimalizovaný pre rozsiahlu inferenciu s viac ako 10 PFLOPS v FP4 a približne 5 PFLOPS v FP8.
- Čip je určený pre cloudové dátové centrá a je určený pre úlohy ako Copilot, Microsoft Foundry, OpenAI GPT-5.2 a projekty tímu Superintelligence.
- Maia 200, postavená na 3 nm procese spoločnosti TSMC s viac ako 100 miliardami tranzistorov a 216 GB pamäte HBM3E, sa zameriava na vysokú účinnosť a lepší pomer výkonu na dolár ako Maia 100 aj konkurenčný hyperscaler kremík.
- Microsoft prezentuje Maia 200 ako strategický krok k zníženiu závislosti od spoločnosti Nvidia a k priamejšej konkurencii s rodinami čipov Trainium od Amazonu a TPU od spoločnosti Google.
Microsoft Maia 200 prišiel ako najnovší interný akcelerátor umelej inteligencie spoločnosti, čip navrhnutý od základov na zvládanie rozsiahlych inferenčných úloh v cloude. Namiesto zamerania sa na bežné spotrebiteľské zariadenia je tento procesor určený pre náročné prostredia dátových centier, kde modely s miliardami parametrov nepretržite bežia na odpovedanie na otázky, generovanie obsahu a napájanie podnikových aplikácií.
Microsoft opisuje Maiu 200 ako druh „kremíkový pracant“ pre inferenciu umelej inteligencie, špeciálne vyladený na rýchle, efektívne a rozsiahle spúšťanie už natrénovaných modelov. Čip je umiestnený ako základný kameň infraštruktúry Azure spoločnosti, ktorý podporuje služby ako Microsoft 365 Copilot, Microsoft Foundry a najnovšie generácie rozsiahlych jazykových modelov vyvinutých interne aj v spolupráci s OpenAI.
Architektúra, procesný uzol a surový výkon
Srdcom nového urýchľovača je 3-nanometrový výrobný proces TSMC, čím sa Maia 200 zosúladila s najpokročilejšími výrobnými technológiami, ktoré sú v súčasnosti dostupné pre vysokovýkonné výpočty. Využitím tohto uzla spoločnosť Microsoft v niektorých zverejneniach umiestnila na jeden čip Maia 200 viac ako 100 miliárd tranzistorov, zatiaľ čo iné technické briefingy uvádzajú číslo bližšie k 140 miliardy tranzistorovHoci sa presné číslo líši v závislosti od zdroja, všetky správy sa zhodujú na myšlienke, že ide o vysoko hustý a špičkový dizajn.
Z hľadiska výkonu je Maia 200 jednoznačne optimalizovaná pre... formáty údajov s nízkou presnosťou ktoré sa stali štandardom v moderných inferenčných pracovných zaťaženiach. Spoločnosť Microsoft uvádza, že akcelerátor môže prekročiť 10 petaflopov (1015 operácií s pohyblivou rádovou čiarkou za sekundu) pri behu v 4-bitovom režime (FP4), čo je komprimovaný číselný formát, ktorý obetuje určitú presnosť za veľmi vysokú priepustnosť a lepšiu energetickú účinnosť. V 8-bitovom režime (FP8) sa uvádza, že čip dosahuje výkon okolo 5 petaflopov, čo mu dáva značný priestor pre náročné inferenčné úlohy, ktoré stále vyžadujú vyššiu presnosť ako FP4.
Tieto čísla nie sú akademické: Jeden uzol Maia 200 je opísaný ako schopný spúšťať dnešné najväčšie modely a zároveň ponecháva priestor pre ešte väčšie architektúry, ktoré sa pravdepodobne objavia v blízkej budúcnosti. To pomáha vysvetliť, prečo Microsoft vyzdvihuje Maia 200 ako doteraz najschopnejší kremík prvej strany spoločnosti pre inferenciu, zameraný priamo na pracovné zaťaženia, ktoré už teraz posúvajú existujúcu infraštruktúru na jej hranice.
V interných a verejných porovnaniach spoločnosť Microsoft tvrdí, že Maia 200 dosahuje tri až štyrikrát vyšší výkon ako v FP4 tretej generácie akcelerátora Trainium od Amazonu a priepustnosť FP8, ktorá v určitých metrikách prevyšuje siedmu generáciu TPU od Googlu. Hoci priame porovnania čipov sú vždy nuansované, čísla naznačujú, že Microsoft si je dostatočne istý, aby označil Maia 200 za lídra medzi súčasnými akcelerátormi navrhnutými pre hyperscalery.
Dôležité je, že spoločnosť kladie dôraz nielen na čistú rýchlosť, ale efektívnosť a nákladyPodľa spoločnosti Microsoft ponúka Maia 200 zhruba o 30 % lepší výkon na dolár ako prvá generácia Maia 100, a to aj napriek tomu, že pracuje s vyšším tepelným výkonom. Pre poskytovateľov cloudových služieb aj zákazníkov je tento pomer nákladov a výkonu ústredným faktorom pri rozhodovaní o tom, ako škálovať služby umelej inteligencie.
Pamäťový subsystém a spracovanie dát
Jedným z najvýraznejších aspektov Maia 200 je jej konfigurácia pamäte, ktorá je špeciálne vyladená pre rozsiahle modely AIAkcelerátor integruje 216 GB vysokopásmovej pamäte HBM3E, spárovanej s celkovou šírkou pásma HBM približne 7 TB/s. Táto šírka pásma je určená na udržanie masívnych váh modelov a aktivácií bez úzkych miest, čo je kritická požiadavka pre vysokopriepustnú inferenciu a moderné architektúry úložných systémov.
Okrem HBM čip obsahuje aj približne 272 MB pamäte SRAM v čipe, usporiadané vo viacvrstvovej hierarchii, ktorú spoločnosť Microsoft opisuje ako SRAM na úrovni klastrov (CSRAM) a SRAM na úrovni dlaždíc (TSRAM). Táto vrstvená konštrukcia umožňuje, aby sa často používané údaje nachádzali bližšie k výpočtovým jednotkám, čím sa znižuje latencia a zlepšuje efektívne využitie dostupnej šírky pásma. Zdá sa, že veľká časť úsilia výskumu a vývoja pre Maia 200 bola investovaná do tejto hierarchie pamäte, ktorá je kľúčová pre udržanie vyťaženosti výpočtových jednotiek akcelerátora.
Celková architektúra je zameraná na udržiavanie parametrov modelu a medziľahlých údajov lokálnych čo najviac, aby úloha inferencie nemusela neustále vyhľadávať potrebné informácie cez server alebo sieťovú štruktúru. Toto lokálne zameranie znamená, že na hosťovanie daného modelu môže byť potrebných menej akcelerátorov, čo potenciálne znižuje počet hardvéru aj prevádzkovú zložitosť pre zákazníkov nasadzujúcich veľké pracovné zaťaženia.
Okrem pamäte v balení podporuje Maia 200 aj značné množstvo zvýšenie šírky pásma medzi čipmi, uvádza sa rýchlosť až 2.8 TB/s. Táto prepojovacia kapacita je navrhnutá tak, aby umožňovala viacerým akcelerátorom fungovať ako úzko integrovaný fond zdrojov v rámci servera alebo racku, čo im pomáha zvládať obzvlášť rozsiahle alebo zložité inferenčné úlohy, ktoré by mohli prekročiť kapacitu jedného zariadenia.
Hoci spoločnosť Microsoft zatiaľ nezverejnila vyčerpávajúce podrobnosti o presnom rozložení racku s procesorom Maia 200 ani o celkovom petaflopovom výkone plne osadeného systému, spoločnosť poznamenáva, že tieto akcelerátory budú nasadené spolu s inými typmi hardvéru umelej inteligencie. V praxi to znamená Maia 200 je súčasťou heterogénnej infraštruktúry Azure, spolupracuje s grafickými procesormi a inými akcelerátormi, a nie ich úplne nahrádza.
Zameranie na inferenciu a pracovné zaťaženie v reálnom svete
Na rozdiel od tréningových akcelerátorov, ktoré sú optimalizované na vytváranie modelov od základov, je Maia 200 zameraná na... inferencia – proces spúšťania modelov po ich natrénovaníTáto fáza používania umelej inteligencie často dominuje priebežným prevádzkovým nákladom, pretože modely môžu byť po dokončení školenia dotazované milióny alebo miliardy krát. Keďže organizácie zavádzajú čoraz zložitejšie systémy, potreba zefektívnenia inferencie sa stala naliehavejšou.
Zameraním sa na formáty FP4 a FP8 sa Maia 200 snaží dosiahnuť ideálnu rovnováhu medzi... presnosť, rýchlosť a spotreba energieFP4, hoci je menej presný, umožňuje mimoriadne vysokú priepustnosť a môže byť vhodný pre modely, ktoré tolerujú kvantizáciu bez výrazného zníženia kvality výstupu. FP8 ponúka možnosť vyššej presnosti pre scenáre, kde presnosť zostáva väčším problémom, pričom stále poskytuje lepšiu efektivitu ako tradičné 16-bitové alebo 32-bitové formáty s pohyblivou rádovou čiarkou.
Spoločnosť Microsoft začala používať Maia 200 na poskytovanie služieb. Model GPT-5.2 od OpenAI a ďalšie pokročilé LLM prostredníctvom Azure. Akcelerátor je tiež zabudovaný do Microsoft Foundry, platformy na vytváranie prispôsobených riešení umelej inteligencie, a napája pracovné úlohy pre Microsoft 365 Copilot, asistenta spoločnosti zameraného na produktivitu. V týchto úlohách má Maia 200 pomôcť zlepšiť reakčné časy, zvýšiť priepustnosť a umožniť sofistikovanejšie funkcie bez proporcionálneho nárastu nákladov.
Interne už Maia 200 podporuje projekty od Tím superinteligencie spoločnosti Microsoft, ambiciózna divízia skúmajúca špičkové systémy umelej inteligencie. Spoločnosť otvára skorú ukážku vývojárskej súpravy softvéru Maia 200 pre vybraných partnerov vrátane akademikov, vývojárov, laboratórií umelej inteligencie a prispievateľov do modelov s otvoreným zdrojovým kódom. Táto ukážka SDK má pomôcť externým tímom prispôsobiť svoje pracovné zaťaženie čipu a preskúmať, ako možno jeho architektúru čo najlepšie využiť.
Z pohľadu používateľa zavedenie Maia 200 okamžite nezmení spôsob, akým väčšina ľudí denne interaguje so službami umelej inteligencie. Avšak s tým, ako sa stále viac inferenčných úloh presúva do nového akcelerátora, Koncoví používatelia si môžu všimnúť rýchlejšie reakcie, plynulejšie zážitky a nové možnosti v nástrojoch ako Copilot, aplikáciách založených na Azure OpenAI a ďalších službách spoločnosti Microsoft, ktoré sa spoliehajú na rozsiahle inferencie v zákulisí.
Nasadenie v dátových centrách Azure a dostupnosť
Maia 200 sa už používa v produkčnom prostredí v rámci cloudovej infraštruktúry spoločnosti Microsoft. Spoločnosť to potvrdzuje. Počiatočné nasadenia sú aktívne v regióne US Central Azure, neďaleko Des Moines v Iowe. Plánujú sa ďalšie inštalácie, pričom US West 3 v oblasti Phoenixu v Arizone je označená ako jeden z ďalších regiónov, ktoré dostanú kapacitu Maia 200, a v priebehu času sa očakávajú aj ďalšie geografické oblasti, keďže dodávky sa budú rozširovať.
Zatiaľ je Maia 200 nasadená výlučne ako súčasť Systémy dátových centier spravované spoločnosťou MicrosoftNa rozdiel od grafických procesorov (GPU) alebo niektorých akcelerátorov tretích strán predávaných priamo zákazníkom, čip nie je ponúkaný ako samostatný komponent na zakúpenie a inštaláciu v lokálnych prostrediach. Namiesto toho budú organizácie pristupovať k funkciám Maia 200 nepriamo prostredníctvom služieb Azure, rozhraní API a spravovaných platforiem.
Spoločnosť Microsoft naznačila, že k tomu dôjde širšia dostupnosť pre zákazníkov v budúcnosti, čo naznačuje, že s rozvojom ekosystému bude môcť viac klientov explicitne zacieliť na inštancie alebo služby podporované platformou Maia 200 v rámci Azure. Či sa to nakoniec rozšíri na samostatné systémy mimo cloudu od spoločnosti Microsoft, zostáva otvorenou otázkou, ale v súčasnosti sa dôraz kladie na hostované ponuky.
Pokiaľ ide o praktické výhody, zákazníci Azure OpenAI, vedci, vývojári a veľké podniky by mali postupne vidieť vyššia priepustnosť a lepšia latencia pre komplexné inferenčné úlohy s rastúcim rozšírením Maia 200. To by mohlo byť obzvlášť dôležité pre aplikácie ako finančné modelovanie, vyhľadávanie, autonómni agenti alebo generatívne systémy v reálnom čase, ktoré vyžadujú rýchlosť aj konzistenciu.
Okrem komerčných používateľov spoločnosť Microsoft naznačuje, že infraštruktúra založená na platforme Maia 200 by mohla podporovať aj rozsiahle... výskumné projekty v oblastiach ako klimatické modelovanie, biologické vedy a chémiaTieto oblasti vo veľkej miere závisia od detailných simulácií a komplexných modelov, ktoré môžu výrazne ťažiť z akcelerátorov optimalizovaných pre rýchlu inferenciu na rozsiahlych súboroch údajov.
Účinnosť, tepelné vlastnosti a environmentálne umiestnenie
Keďže sa zvyšuje pozornosť súvisiaca s environmentálnymi nákladmi infraštruktúry umelej inteligencie, spoločnosť Microsoft označuje Maia 200 za... akcelerátor zameraný na efektivitu namiesto úplne energeticky náročného dizajnu. Čip má menovitý tepelný výkon (TDP) okolo 750 wattov, čo je výrazne menej ako niektoré z najnáročnejších GPU na trhu, ako napríklad Blackwell B300 Ultra od spoločnosti Nvidia, ktoré udávajú spotrebu približne 1 400 wattov.
Napriek vyššiemu TDP v porovnaní s jeho predchodcom, Maia 100, sa hovorí, že nový akcelerátor poskytuje... približne o 30 % lepší výkon na dolár ako predchádzajúca generácia. Toto zlepšenie sa pripisuje prechodu na pokročilejší výrobný uzol, architektonickým vylepšeniam a efektívnejšiemu pamäťovému subsystému. Skoršie správy naznačovali, že hoci Maia 100 bola technicky navrhnutá pre 700-wattový výkon, Microsoft ju v praxi obmedzil na približne 500 wattov, čo naznačuje, že Maia 200 môže v závislosti od možností nasadenia pracovať aj pod svojím teoretickým limitom.
Posolstvo spoločnosti Microsoft týkajúce sa Maia 200 je v súlade so širším úsilím spoločnosti ukázať, že je vedomí si vplyvu rozsiahlych dátových centier na okolité komunity a životné prostredie. Vedúci predstavitelia verejne tvrdili, že vývoj umelej inteligencie musí preukázať konkrétne prínosy pre spoločnosť, aby si udržal verejnú podporu a predišlo sa tomu, čo niektorí označujú za potenciálnu negatívnu reakciu na umelú inteligenciu.
V praxi môže vyššia účinnosť na watt a na dolár pomôcť znížiť počet akcelerátorov potrebných na podporu danej úrovne služieb, čím sa obmedzí spotreba energie aj hardvérová náročnosť. To zase môže pomôcť hyperškálovačom reagovať na obavy týkajúce sa spotreby energie, spotreby vody na chladenie a širších metrík udržateľnosti.
Aj keď spoločnosť Microsoft zatiaľ nezverejnila kompletné podrobnosti o balíku, ako napríklad celkový príkon a výkon plne osadeného racku Maia 200, dôraz na efektívnosť inferencie naznačuje, že čip má zohrávať kľúčovú úlohu pri udržiavaní dlhodobých prevádzkových nákladov služieb umelej inteligencie zvládnuteľných, a to finančne aj environmentálne.
Konkurenčné prostredie: Trainium, TPU a ekosystém Nvidie
Maia 200 prichádza v čase, keď sa hlavní poskytovatelia cloudových služieb predbiehajú v... vyvíjajú vlastné akcelerátory umelej inteligencie s cieľom znížiť závislosť od externých dodávateľov, najmä od spoločnosti Nvidia. Rad TPU od spoločnosti Google a séria Trainium od spoločnosti Amazon už zohrali v tomto trende kľúčovú úlohu a poskytujú alternatívy hlboko integrované do ich príslušných cloudových platforiem.
S čipom Maia 200 spoločnosť Microsoft otvorene prezentuje svoj priamy konkurent Amazonu Trainium3 a siedmej generácie TPU od GoogluSpoločnosť tvrdí, že jej akcelerátor nielenže prekonáva Trainium3 v priepustnosti FP4 faktorom tri až štyri, ale ponúka aj výkon FP8, ktorý prekonáva TPU v7, pričom Trainium3 v určitých metrikách FP8 viac ako zdvojnásobuje.
Kapacita pamäte a šírka pásma sú tiež súčasťou tohto konkurenčného príbehu. Maia 200 216 GB pamäte HBM3E a šírka pásma 7 TB/s sú v rozpore s verejnými špecifikáciami pre Trainium3 (144 GB a 4.9 TB/s) a TPU v7 (192 GB a 7.4 TB/s). Pokiaľ ide o škálovateľnosť, šírka pásma prepojenia 2.8 TB/s deklarovaná pre Maia 200 sa porovnáva s až 2.56 TB/s pre Trainium3 a približne 1.2 TB/s pre TPU v7.
Konkurenčný obraz je však zložitejší než len samotné čísla. Nvidia zostáva dominantným dodávateľom pre tréning umelej inteligencie a v mnohých prípadoch aj pre inferenciu, a to najmä vďaka vyspelosti softvérového ekosystému založeného na CUDA a širokej ponuke hardvéru. Aj keď spoločnosti Microsoft, Amazon a Google rozširujú svoje interné portfóliá kremíkových čipov, stále spolupracujú s Nvidiou na nových architektúrach a integrovaných systémoch.
Spoločnosť Amazon v skutočnosti spolupracuje so spoločnosťou Nvidia na začlenení pripravovaného Trainium4 popri technológiách, ako sú referenčné návrhy NVLink 6 a MGX. Podobne aj spoločnosť Microsoft pokračuje v nasadzovaní grafických procesorov Nvidia vo svojich dátových centrách, čím pozicionuje Maia 200 ako súčasť heterogénneho prostredia, a nie ako univerzálnu náhradu.
Pre zákazníkov sa kľúčové otázky budú točiť okolo celkové náklady na vlastníctvo a integráciu softvéruTo, ako ľahko sa dajú pracovné zaťaženia portovať alebo optimalizovať pre Maia 200 a ako sa ceny porovnávajú s inštanciami založenými na Nvidia alebo TPU, bude mať silný vplyv na to, ktorý akceleračný stack si vyberú. Dôraz spoločnosti Microsoft na výkon za dolár a za watt naznačuje, že tieto aspekty sú ústredným prvkom jej stratégie.
Od Maia 100 po Maia 200: vývoj a rady k plánu
Maia 200 stavia na základy položené Maiou 100, ktorý spoločnosť Microsoft predstavila v roku 2023 ako svoj prvý interný akcelerátor umelej inteligencie. Hoci spoločnosť poskytla len málo priamo porovnateľných metrík medzi týmito dvoma generáciami, novší čip je jednoznačne zameraný na vyšší výkon s agresívnejšími dizajnovými cieľmi a rozšírenými pamäťovými zdrojmi.
Správy naznačujú, že Maia 200, interne s kódovým označením „Braga“, zažil dlhší cyklus vývoja a nasadenia, ako sa pôvodne plánovalo. Počiatočné očakávania viedli k jeho uvedeniu na trh v roku 2025, čo by mohlo dokonca predbehnúť niektoré ponuky grafických procesorov novej generácie. Nakoniec sa jeho časový harmonogram vydania posunul, ale Microsoft sa teraz zdá byť odhodlaný upevniť si svoju pozíciu ako seriózneho hráča na trhu s hyperscale AI.
Napriek vyššiemu TDP okolo 750 wattov spoločnosť tvrdí, že celková ekonomická účinnosť Maia 200 je výrazne lepšia ako v prípade Maia 100, čiastočne vďaka pokročilejšiemu procesnému uzlu a architektonickým aktualizáciám. Zvýšený energetický rozpočet sa považuje za prijateľný kompromis na dosiahnutie vyššej trvalej priepustnosti a zníženia nákladov na inferenciu na operáciu.
Správy z odvetvia naznačujú, že do budúcnosti Budúce akcelerátory od spoločnosti Microsoft by mohli byť vyrobené procesom 18A od spoločnosti Intel, čo signalizuje, že spoločnosť skúma viacero partnerstiev s zlievarňami pre následné návrhy. Táto diverzifikácia by mohla spoločnosti Microsoft poskytnúť väčšiu flexibilitu pri vyvažovaní faktorov výkonu, dodávok a nákladov v budúcich generáciách.
Maia 200 zatiaľ predstavuje významný krok v širšej ceste spoločnosti Microsoft od spoločnosti primárne zameranej na softvér k spoločnosti, ktorá navrhuje kritické hardvérové komponenty, ktoré sú základom jej vlajkových ponúk v oblasti umelej inteligencie. Jej zavedenie pravdepodobne ovplyvní, ako agresívne dokáže Microsoft v nasledujúcich rokoch škálovať služby ako Copilot, Foundry a Azure OpenAI.
Ak vezmeme do úvahy všetky tieto prvky, Maia 200 sa javí ako účelový akcelerátor inferencie ktorý kombinuje vysokú priepustnosť FP4 a FP8, rozsiahly pamäťový subsystém a integráciu zameranú na cloud do heterogénnej infraštruktúry Azure. Hoci mnohé hlbšie architektonické detaily a úplné metriky na úrovni systému ešte len musia byť zverejnené, čip jasne predstavuje dôležitý krok v snahe spoločnosti Microsoft kontrolovať viac zo svojho balíka umelej inteligencie, riadiť náklady a priamo konkurovať iným hyperškálovacím spoločnostiam v pretekoch o napájanie ďalšej vlny rozsiahlych aplikácií umelej inteligencie.
