Dank der Generierungsmöglichkeiten von ChatGPT und der Verfügbarkeit des Quellcodes haben viele Unternehmen ihre eigenen Generierungsanwendungen entwickelt. Allerdings benötigt ein Sprachgenerierungsmodell eine hohe Rechenleistung, um richtig zu funktionieren, was für Startups eine große finanzielle Belastung darstellt. Um ihnen die nötige Leistung zur Verfügung zu stellen, stellt Open AI Foundry online, eine Entwicklungsplattform, damit kleine Unternehmen die Kapazität mieten können.
Woraus besteht Foundry ?
OpenAI hat die Einführung einer neuen Entwicklungsplattform angekündigt, mit der Kunden die Vorteile seiner neuesten Modelle, wie GPT 3.5, einem Algorithmus für maschinelles Lernen, nutzen können. Diese Plattform, OpenAI Foundry genannt, bietet dedizierte Kapazitäten für Inferenzen in großem Maßstab. Die Nutzer der Plattform werden eine vollständige Konfiguration des Modells und ein anpassbares Leistungsprofil haben. Es handelt sich um eine innovative Lösung, die den Kunden die volle Kontrolle über die selbstständige Ausführung ihrer eigenen KI-Modelle bietet.
Was wird OpenAI Foundry bei seiner Einführung bieten?
Nach seiner Einführung wird Foundry seinen Kunden eine statische Zuweisung von dedizierter Rechenkapazität anbieten, wahrscheinlich auf der öffentlichen Cloud-Plattform Azure. Die Benutzer werden die Möglichkeit haben, bestimmte Instanzen mit denselben Tools und Dashboards zu überwachen, die auch OpenAI verwendet. Darüber hinaus wird Foundry die Verwaltung von Versionen seiner Modelle ermöglichen, was den Kunden die Wahl lässt, auf die neuesten Versionen umzusteigen. Die Mieten werden auf dedizierten Recheneinheiten basieren, mit Verpflichtungen für drei Monate oder ein Jahr.
