Cloud VMware na AWS získava virtualizované GPU, pretože spoločnosť spolupracuje so spoločnosťou Nvidia

Tech / Cloud VMware na AWS získava virtualizované GPU, pretože spoločnosť spolupracuje so spoločnosťou Nvidia 2 minúty prečítané

Nvidia



Pretože je AI a strojové učenie čoraz viac nevyhnutnou súčasťou moderných výpočtových technológií, základné obchodné základy spoločnosti Nvidia zostávajú silné. Na čele svojej snahy byť prominentnou silou v podnikaní so servermi vytvárajú partnerstvá s rôznymi technologickými spoločnosťami. Nedávno spoločnosti Nvidia a VMware oznámili prepojenie, ktoré prinesie vGPU (technológia virtuálneho GPU) spoločnosti Nvidia do balíka vSphere spoločnosti VMware na AWS.

GPU sú navrhnuté s ohľadom na dátovo-paralelné výpočty, ktoré urýchľujú vektorové a maticové operácie. Vďaka tomu sú ideálne pre pracovné zaťaženie AI.



Pracovné úlohy umelej inteligencie, ktoré boli predtým obmedzené iba na CPU, je teraz možné ľahko nasadiť vo virtualizovaných prostrediach, ako je VMware vSphere, s novými vComputeServer softvér a NVIDIA NGC . Prostredníctvom našich partnerstvo so spoločnosťou VMware , táto architektúra pomôže organizáciám bezproblémovo migrovať pracovné zaťaženie umelej inteligencie na GPU medzi zákazníckymi dátovými centrami a VMware Cloud na AWS.



- ANNE HECHT (Nvidia)



Pracovné záťaže akcelerované GPU sa často spúšťajú na fyzických serveroch s jedným nájomcom, ale vďaka spoločnostiam vComputeServer môžu pracovné záťaže AI spúšťať vo virtualizovanom prostredí, čo ponúka väčšiu flexibilitu a peňažné úspory (do určitého rozsahu). Nvidia už podporuje niekoľko hypervízorov založených na KVM, vrátane Red Hat a Nutanix. VMware vSphere je najnovším prírastkom.

Medzi funkcie vComputeServer patria:

  • Výkon GPU: Až 50-krát rýchlejší tréning hlbokého učenia ako iba procesor, podobný výkon ako beh grafického procesora na bare metal.
  • Pokročilý výpočet: Kód opravujúci chyby a vyradenie dynamických stránok zabraňujú poškodeniu údajov pri vysoko presných pracovných zaťaženiach.
  • Živá migrácia: Virtuálne stroje s podporou GPU možno migrovať s minimálnym prerušením alebo prestojmi.
  • Zvýšená bezpečnosť: Podniky môžu rozšíriť bezpečnostné výhody virtualizácie serverov na klastre GPU.
  • Izolácia viacerých nájomcov : Pracovné úlohy je možné izolovať, aby sa zabezpečila podpora viacerých používateľov na jednej infraštruktúre.
  • Správa a monitorovanie : Správcovia môžu na správu serverov GPU používať rovnaké virtualizačné nástroje hypervisora ​​s viditeľnosťou na úrovni hostiteľa, virtuálneho stroja a aplikácie.
  • Široká škála podporovaných GPU: vComputeServer je podporovaný na grafických kartách NVIDIA T4 alebo V100, ako aj na grafických kartách Quadro RTX 8000 a 6000 a na predchádzajúcich generáciách grafických procesorov Pas40 s architektúrou P40, P100 a P60.

- Nvidia



Používatelia servera VMware vSphere tiež dostanú podporu cloudu Nvidia GPU Cloud, čo je cloudová platforma akcelerovaná GPU optimalizovaná pre hlboké učenie a vedecké výpočty. Anne Hecht z Nvidia píše „ NVIDIA NGC , naše centrum pre softvér optimalizovaný pre GPU pre hlboké učenie, strojové učenie a HPC, ponúka viac ako 150 kontajnerov, vopred vyškolené modely, výcvikové skripty a pracovné postupy na zrýchlenie AI od konceptu po výrobu, vrátane RÝCHLE , náš softvér pre dátovú vedu akcelerovaný CUDA “.

Partnerstvo spoločnosti VMware v súlade s nedávnou akvizíciou

Spoločnosť VMware sa chystá získať spoločnosť Bitfusion, ktorá svojej cloudovej platforme vSphere dodá veľkú hodnotu. Ako sme už diskutovali v predchádzajúcom článku, virtualizácia môže spoločnostiam ponúknuť veľa výhod s minimálnym zásahom do výkonu. Vďaka technológii Bitfusion budú spoločnosti schopné odkloniť sa od bare-metal serverov a virtualizovať svoje GPU, pretože také usporiadanie môže viesť k lepšiemu využitiu dostupných zdrojov. Vďaka zrýchlenému počítaču, ktorý sa dostane do centra pozornosti, budú spoločnosti hľadať spôsoby, ako virtualizovať svoj hardvérový zásobník, VMware si to dobre uvedomuje a usiluje sa o to, aby bola platforma vSphere v dátových centrách životne dôležitá.

Značky nvidia