NVIDIA julkisti Project DIGITS:n: henkilökohtaisen AI-supertietokoneen massoille
54 lukukertaa
Las Vegasin Consumer Electronics Show (CES) -tapahtumassa NVIDIA on ottanut rohkean askeleen kohti tekoälyn demokratisointia julkistamalla Project DIGITS -henkilökohtaisen tekoälysupertietokoneen, joka on suunniteltu tuomaan huippuluokan tekoälyvalmiuksia tutkijoille, datatieteilijöille, ja opiskelijat ympäri maailmaa. Mullistavan NVIDIA GB10 Grace Blackwell -supersirun tukemana Project DIGITS tarjoaa huikean petaflopin tekoälyn laskentasuorituskykyä, minkä ansiosta käyttäjät voivat prototyyppiä, hienosäätää ja käyttää suuria tekoälymalleja suoraan pöytäkoneiltaan. Tämä innovaatio merkitsee keskeistä hetkeä tekoälykehityksessä, koska se asettaa supertietokoneen tehon miljoonien kehittäjien ulottuville, mikä mahdollisesti nopeuttaa tekoälyn innovointia eri toimialoilla.
Petaflop pöydälläsi
Project DIGITS -projektin keskipiste on NVIDIA GB10 Superchip , Grace Blackwell -arkkitehtuuriin rakennettu järjestelmä-siru (SoC) . GB10 yhdistää NVIDIA Blackwell GPU:n viidennen sukupolven Tensor Cores ja tehokkaan NVIDIA Grace CPU:n, jotka on yhdistetty NVLink-C2C sirujen välisellä liitännällä. Tämä integraatio tarjoaa jopa 1 petaflopin tekoälyn suorituskykyä FP4-tarkkuudella, kaikki samalla kun se toimii tavallisella sähköllä.
“Tekoäly tulee olemaan valtavirtaa kaikissa sovelluksissa kaikilla toimialoilla. Project DIGITSin myötä Grace Blackwell Superchip tulee miljoonien kehittäjien käyttöön”, sanoi Jensen Huang, NVIDIAn perustaja ja toimitusjohtaja. “Tekoälysupertietokoneen sijoittaminen jokaisen datatieteilijän, tekoälytutkijan ja opiskelijan työpöydälle antaa heille mahdollisuuden osallistua tekoälyn aikakauteen.”
GB10 Superchipin tehokkuutta ja suorituskykyä parantaa entisestään yhteistyö MediaTekin kanssa, joka on johtava käsivarsipohjaisten SoC-mallien toimittaja. Jokaisessa Project DIGITS -yksikössä on 128 Gt yhtenäistä muistia ja jopa 4 Tt NVMe-tallennustilaa, joten kehittäjät voivat käyttää tekoälymalleja jopa 200 miljardilla parametrilla. Vielä suuremmissa malleissa kaksi Project DIGITS -järjestelmää voidaan yhdistää NVIDIA ConnectX -verkon kautta jopa 405 miljardin parametrin mallien käsittelemiseksi.
Saumaton skaalaus työpöydältä pilveen
Yksi Project DIGITSin houkuttelevimmista ominaisuuksista on sen kyky kuroa umpeen paikallisen kehityksen ja laajamittaisen käyttöönoton välinen kuilu. Kehittäjät voivat prototyyppiä ja hienosäätää malleja työpöytäjärjestelmissään Linux-pohjaisen NVIDIA DGX OS:n avulla ja ottaa ne sitten saumattomasti käyttöön NVIDIA DGX Cloudissa, kiihdytetyissä pilvi-esiintymissä tai datakeskusinfrastruktuurissa. Tämä joustavuus varmistaa, että tekoälyprojektit voivat skaalata tehokkaasti ilman, että taustalla olevaan arkkitehtuuriin tarvitaan merkittäviä muutoksia.
Järjestelmä tarjoaa myös pääsyn NVIDIAn laajaan tekoälyohjelmistoekosysteemiin, mukaan lukien NVIDIA NeMo -kehys mallien hienosäätöön, RAPIDS-kirjastot datatieteen kiihdyttämiseen ja suosittuja kehyksiä, kuten PyTorch- ja Jupyter-kannettavia. Lisäksi kehittäjät voivat hyödyntää NVIDIA Blueprints- ja NIM-mikropalveluja rakentaakseen agentteja tekoälysovelluksia, ja yritystason tuki on saatavilla NVIDIA AI Enterprise -lisenssin kautta.
AI-innovaatioita massoille
Projektin DIGITS käynnistäminen on osa NVIDIAn laajempaa strategiaa vastata generatiivisten tekoälyjen ja suurten kielimallien (LLM) kasvaviin vaatimuksiin. Matemaatikko David H. Blackwellin kunniaksi nimetty Grace Blackwell -arkkitehtuuri edustaa merkittävää harppausta tekoälyn laskennassa. 208 miljardin transistorin määrä – yli 2,5 kertaa enemmän kuin NVIDIAn aiemmissa Hopper-grafiikkasuorittimissa – Blackwell-arkkitehtuuri on suurin koskaan rakennettu GPU, joka pystyy tuottamaan 20 petaFLOPS laskentatehoa.
Arkkitehtuurin toisen sukupolven Transformer Engine ja kehittyneet NVLink-liitännät mahdollistavat ennennäkemättömän suorituskyvyn koulutuksessa ja päätelmissä tukemalla malleja biljoonilla parametreillä. Nämä innovaatiot ovat kriittisiä, sillä teollisuudenalat terveydenhoidosta autoteollisuuteen luottavat yhä enemmän generatiiviseen tekoälyyn reaaliaikaisissa sovelluksissa.
Project DIGITS on saatavilla toukokuusta 2024 alkaen, ja hinnat alkavat 3 000 dollarista. Tämä edullisuus yhdistettynä sen uraauurtavaan suorituskykyyn asettaa Project DIGITSin pelin vaihtajaksi tekoälykehityksessä. Tuomalla huippulaskentatehoa yksittäisille kehittäjille, NVIDIA ei ainoastaan demokratisoi tekoälyn saatavuutta, vaan myös edistää uutta innovaatioaaltoa, joka voisi muokata toimialoja ja määritellä uudelleen, mikä on mahdollista tekoälyn aikakaudella.
