NVIDIA entscheidet sich hinsichtlich KI-Services für Oracle Cloud Infrastructure
Austin – Oracle hat seine Zusammenarbeit mit NVIDIA um die Ausführung strategischer NVIDIA KI-Anwendungen auf dem neuen Oracle Cloud Infrastructure (OCI) SuperclusterTM erweitert. NVIDIA hat OCI als ersten Hyperscale-Cloud-Provider ausgewählt, der NVIDIA DGX CloudTM, einen KI-Supercomputing-Service, in grossem Umfang anbietet. Darüber hinaus führt NVIDIA seine neuen generativen KI-Cloud-Services «NVIDIA AI Foundations», die über DGX Cloud verfügbar sind, auf OCI aus.
«OCI ist die erste Plattform, die Tausenden von Kunden aus allen Branchen einen KI-Supercomputer in grossem Massstab anbietet. Dies ist eine entscheidende Fähigkeit, da immer mehr Unternehmen Computing-Ressourcen für ihre einzigartigen KI-Anwendungsfälle benötigen. Um diese Nachfrage zu unterstützen, bauen wir unsere Zusammenarbeit mit NVIDIA weiter aus», sagte Clay Magouyrk, Executive Vice President, Oracle Cloud Infrastructure.
«Die unbegrenzten Möglichkeiten für KI-gesteuerte Innovationen tragen dazu bei, praktisch jedes Unternehmen zu transformieren. Die Zusammenarbeit von NVIDIA mit Oracle Cloud Infrastructure macht die aussergewöhnliche Supercomputing-Performance der beschleunigten Computing-Plattform von NVIDIA für jedes Unternehmen erreichbar», sagte Manuvir Das, Vice President of Enterprise Computing, NVIDIA.
Neuer Supercluster von OCI
NVIDIA DGX Cloud und die NVIDIA AI Foundations-Services, die darauf ausgeführt werden, nutzen den einzigartigen Supercluster von OCI, der von NVIDIA zertifiziert wurde, um sicherzustellen, dass er die hohen Standards von DGX Cloud erfüllt.
Der Supercluster von OCI umfasst OCI Compute Bare Metal, einen RoCE-Cluster mit extrem niedriger Latenz, der auf NVIDIA-Netzwerken basiert, und eine Auswahl an HPC-Speicher. Er wurde von NVIDIA bereitgestellt und validiert, um Tausende von OCI Compute Bare Metal-Instanzen zu unterstützen, die massiv parallele Anwendungen effizient verarbeiten können. Das OCI Supercluster-Netzwerk kann jetzt auf bis zu 4‘096 OCI Compute Bare Metal-Instanzen mit 32‘768 A100-GPUs skaliert werden. OCI Compute Bare Metal-Instanzen mit NVIDIA H100-GPUs sind jetzt nur noch begrenzt verfügbar.
Darüber hinaus gab NVIDIA bekannt, dass Oracle seinen Netzwerk-Stack um NVIDIA BlueField-3-DPUs erweitert.
Generative KI-Services zum Erstellen benutzerdefinierter Unternehmensmodelle
Die Modellerstellungsservices von NVIDIA AI Foundations umfassen Sprache, Bilder, Video und 3D sowie Biologie. Unternehmen können den Sprachdienst NVIDIA NeMoTM und die Bild-, Video- und 3D-Services von NVIDIA Picasso nutzen, um proprietäre, domänenspezifische, generative KI-Anwendungen für intelligenten Chat und Kundensupport, professionelle Inhaltserstellung, digitale Simulation und mehr zu erstellen. Für das Training und die Inferenz biologischer KI-Modellen bietet der NVIDIA BioNeMoTM Cloud-Service Tools zum schnellen Anpassen und Bereitstellen generativer KI-Anwendungen.
Auf OCI profitieren benutzerdefinierte Modelle, die mit NVIDIA AI Foundations erstellt wurden, und Modellfamilien wie GPT-3 vom OCI Supercluster, der ein speziell entwickeltes RDMA-Netzwerk umfasst, das eine nahezu lineare Performance mit einer Latenz im Mikrosekundenbereich liefert und Sperrprobleme für RDMA-abhängige Workloads eliminiert. (Oracle/mc)
