Nvidia
Ker sta umetna inteligenca in strojno učenje vedno bolj nepogrešljiv del sodobnega računalništva, Nvidijine poslovne osnove ostajajo močne. Predstavili so si prizadevanja, da bi bili pomembna sila v strežniškem poslu, kovanju partnerstev z več tehnološkimi podjetji. Nedavno sta Nvidia in VMware napovedala povezavo, ki bo Nvidijin vGPU (Virtual GPU Technology) prinesla v sklad VMware vSphere na AWS.
Grafični procesorji so zasnovani z vzporednim računalništvom podatkov, ki pospešuje vektorske in matrične operacije. Zaradi tega so idealni za obremenitve z umetno inteligenco.
Prej so bile delovne obremenitve AI omejene samo na CPE, zdaj pa jih je mogoče enostavno razporediti v virtualizirana okolja, kot je VMware vSphere vComputeServer programske opreme in NVIDIA NGC . Preko našega partnerstvo z VMware , ta arhitektura bo organizacijam pomagala brez težav preseliti delovne obremenitve umetne inteligence na grafične procesorje med podatkovnimi centri strank in oblakom VMware v storitvi AWS.
- ANNE HECHT (Nvidia)
GPU-pospešene delovne obremenitve se pogosto izvajajo na fizičnih strežnikih z enim najemnikom, vendar lahko podjetja vComputeServer izvajajo delovne obremenitve umetne inteligence v virtualnem okolju, kar ponuja večjo prilagodljivost in prihranek denarja (do določenega obsega). Nvidia že podpira nekaj hipervizorjev, ki temeljijo na KVM, med njimi Red Hat in Nutanix. VMware's vSphere je najnovejši dodatek.
Značilnosti vComputeServer vključujejo:
- Uspešnost GPU: Do 50-krat hitrejše usposabljanje za globoko učenje kot samo CPU, podobna zmogljivost kot izvajanje GPU-ja na goli kovini.
- Napredno računanje: Koda za odpravljanje napak in upokojitev dinamične strani preprečujeta poškodbe podatkov za visoko natančne delovne obremenitve.
- Selitev v živo: Navidezne stroje, ki podpirajo GPU, je mogoče preseliti z minimalnimi motnjami ali nedelovanjem.
- Povečana varnost: Podjetja lahko varnostne prednosti virtualizacije strežnikov razširijo na grozde GPU.
- Izolacija več najemnikov : Delovne obremenitve je mogoče izolirati, da varno podpirajo več uporabnikov na isti infrastrukturi.
- Upravljanje in spremljanje : Skrbniki lahko za upravljanje strežnikov GPU uporabljajo ista orodja za virtualizacijo hipervizorja z vidnostjo na ravni gostitelja, navideznega stroja in aplikacije.
- Širok nabor podprtih grafičnih procesorjev: vComputeServer je podprt z grafičnimi procesorji NVIDIA T4 ali V100, grafičnimi procesorji Quadro RTX 8000 in 6000 ter prejšnjimi generacijami grafičnih procesorjev Pascal-arhitekture P40, P100 in P60.
- Nvidia
Uporabniki VMware vSphere bodo prejeli tudi podporo za Nvidia GPU Cloud, ki je oblačna platforma, pospešena z GPU, optimizirana za poglobljeno učenje in znanstveno računalništvo. Anne Hecht iz Nvidije piše “ NVIDIA NGC , naše središče za GPU-optimizirano programsko opremo za globoko učenje, strojno učenje in HPC, ponuja več kot 150 vsebnikov, predhodno usposobljene modele, skripte za usposabljanje in delovne tokove za pospeševanje umetne inteligence od zasnove do izdelave, vključno HITRE , naša CUDA-pospešena programska oprema za znanost o podatkih “.
VMware Partnership V skladu z nedavnimi pridobitvami
VMware bo prevzel Bitfusion, ki bo dodal veliko vrednost svoji oblačni platformi vSphere. Kot smo že omenili v članku, lahko virtualizacija podjetjem z minimalno uspešnostjo prinese veliko prednosti. S tehnologijo Bitfusion se bodo podjetja lahko oddaljila od golokovinskih strežnikov in virtualizirala svoje grafične procesorje, saj lahko takšna ureditev privede do boljše uporabe razpoložljivih virov. S pospešenim računalništvom bodo osrednja podjetja iskala načine za virtualizacijo svojega sklada strojne opreme, VMware se tega zaveda in si prizadeva, da bi platforma vSphere postala vitalna v podatkovnih centrih.
Oznake nvidia
