„GPT-in-a-Box“: Infrastrukturlösung vereinfacht Einführung generativer KI

Mit der Infrastrukturlösung für künstliche Intelligenz von Nutanix beschleunigen Unternehmen den Weg zu neuralen Netzwerkmodellen wie Generative Pre-trained Transformers und Large Language Models und behalten weiter die Kontrolle über ihre Daten.

Die Lösung „Nutanix GPT-in-a-Box“ ist für den Schnellstart innovativer Kundenprojekte zu künstlicher Intelligenz (KI) und maschinellem Lernen (ML) bei voller Datenkontrolle konzipiert – so der Originalton von Nutanix. Bei diesem Angebot handelt es sich um eine softwarebasierte Full-Stack-Plattform für den Einsatz von KI-Lösungen.

Sie ist ab sofort verfügbar und enthält Dienste, die Unternehmen bei der Skalierung und Konfigurierung geeigneter Hardware- und Softwareinfrastrukturen helfen, um ein gepflegtes Set von „Large Language Models“ (LLMs) – unter Nutzung führender Open-Source-Frameworks für KI und „Machine Learning Operations“ (MLOps) auf der Nutanix Cloud Platform – bereitstellen zu können. Damit steht Anwendern eine schlüsselfertige Infrastruktur für den Einsatz von KI-Lösungen zur Verfügung, mit deren Hilfe sie „Generative Pre-trained Transformers“ (GPTs) und LLMs in ihren Edge-Umgebungen und Rechenzentren optimieren und betreiben können.

Viele Unternehmen hadern damit, wie sie die Vorteile generativer KI- sowie von KI- und ML-Anwendungen schnell, effizient und sicher nutzen können. Das gilt insbesondere für Anwendungsfälle, die sie aufgrund von Bedenken bezüglich Datenhoheit, Governance und Privatsphäre nicht in der Public Cloud betreiben können oder wollen. Auf der Suche der Unternehmen nach Wegen, generative KI gewinnbringend für die Verbesserung von Kundenservice, Entwicklerproduktivität, Betriebseffizienz und mehr zu nutzen, entstehen täglich neue Anwendungsfälle.

Von der automatisierten Transkription interner Dokumente über die Hochgeschwindigkeitssuche von Multimediainhalten bis hin zu automatisierten Analysen – viele Unternehmen erkennen die Chancen von KI, ringen aber mit wachsenden Bedenken wie Verlust von geistigem Eigentum, Einhaltung von Vorschriften und Regularien sowie Datenschutz. Zudem wissen Unternehmen, die einen einsatzbereiten KI-Stack aufbauen wollen, oft nicht, wie sie ML-Administratoren und Datenwissenschaftler am besten unterstützen können. Darüber hinaus bringt die Aussicht auf hohe KI-Investitionskosten die KI- und ML-Strategien von Unternehmen ins Stocken.

Nutanix GPT-in-a-Box bietet eine gebrauchsfertige, vom Kunden kontrollierte KI-Infrastruktur für das Edge- oder Core-Rechenzentrum. Mit ihrer Hilfe können Kunden KI- und GPT-Modelle betreiben und optimieren. Die Lösung umfasst:

• die branchenführende Nutanix-Cloud-Infrastructure-Plattform, die Nutanix-Speicherlösungen Nutanix Files Storage und Nutanix Objects Storage, den Hypervisor Nutanix AHV und Kubernetes sowie die NVIDIA-GPU-Beschleunigungstechnologie, die sich beliebig nach oben wie unten skalieren lassen,
• Nutanix-Dienste zur Unterstützung von Kunden bei der Skalierung ihres Clusters und der Bereitstellung eines umfassenden Stacks mit den führenden Open-Source-Frameworks für Deep Learning und MLOps, Inferenzserver und ein gepflegtes Set an LLMs wie Llama2, Falcon und MPT,
• die Möglichkeit für Datenwissenschaftler und ML-Administratoren, diese Modelle unmittelbar mit Anwendungen ihrer Wahl, einer erweiterten Terminal-UI oder einer Standard-CLI zu nutzen sowie
• die Möglichkeit, auf der Plattform weitere GPT-Modelle zu betreiben und unter Verwendung interner Daten zu optimieren, die auf den mitgelieferten Nutanix-Files- oder -Objects-Storage-Diensten gehostet werden. (rhh)

Nutanix