New Relic führt eine OpenAI-GPT-Observability-Applikation ein. Diese sei die erste MLOps-Lösung überhaupt, die Entwicklern die Überwachung von OpenAI GPT ermöglicht. Unterstützt würden alle aktuellen OpenAI-GPT-Versionen, darunter auch das kürzlich veröffentlichte Sprachmodell GPT-4.
Das Open-AI-Dashboard zeigt u.a. die durchschnittliche Response-Zeit sowie die Kosten der GPT-Nutzung an.
(Bild: New Relic)
Die OpenAI-GPT-Observability-Lösung versetze Entwicklungsteams in die Lage, mit nur zwei Zeilen Code OpenAI-Completion-Queries zu überwachen und gleichzeitig Leistungs- und Kostenmetriken in Echtzeit in einer einzigen Ansicht zu verfolgen, so New Relic. Die neue Integration trage der rasanten Entwicklung von KI-Lösungen wie ChatGPT Rechnung: Sie soll Unternehmen dabei helfen, die Leistung neuer KI-Technologien noch besser für sich nutzbar zu machen, um Geschäftsziele schneller entwickeln und dann auch erreichen zu können. Der Einstieg sei kostenlos und erfordere ein nur minimales Setup. New Relic zufolge sind die folgenden Funktionen und Fakten wichtig:
Kostenfreier Zugang: Der Zugang zu New Relic Instant Observability und der sofort einsatzbereiten GPT-Observabilty-Lösung sei der erste seiner Art und stehe ohne zusätzliche Kosten allen Nutzern der vollen New-Relic-Plattform zur Verfügung.
Einfache Installation: Mit zwei Zeilen Code könnten Anwender das Monitormodul aus der nr_openai_monitor-Library importieren und automatisch ein Dashboard generieren, das eine Vielzahl von wichtigen GPT-Leistungsmetriken anzeigt.
Monitoringkosten: Die Nutzung des Davinci-Modells von OpenAI kann Kosten verursachen. New Relic biete Entwicklungsteams einen Kostenüberblick ihrer GPT-Nutzung in Echtzeit.
Verbesserte Leistung: New Relic gibt Entwicklungsteams einen Einblick in die durchschnittliche Response-Zeit und andere wichtige Leistungsmetriken rund um GPT-Anfragen. Ingenieure könnten somit die Nutzung optimieren und bestmögliche Antwortzeiten sicherstellen.
Analyse von Prompts und Antworten: New Relic liefert Informationen über die Nutzung, die Geschwindigkeit und die Effektivität von GPT. Sie sollen Entwicklungsteams dabei helfen, bessere Ergebnisse mit ihren ML-Modellen zu erzielen.
Weitere Informationen zur Einrichtung von New Relic MLOps oder zur Integration von GPT-Anwendungen in die Observability-Infrastruktur liefert Dan Holloran, Product Marketing Manager bei New Relic, in einem Blog-Beitrag.
(ID:49309187)
Stand vom 30.10.2020
Es ist für uns eine Selbstverständlichkeit, dass wir verantwortungsvoll mit Ihren personenbezogenen Daten umgehen. Sofern wir personenbezogene Daten von Ihnen erheben, verarbeiten wir diese unter Beachtung der geltenden Datenschutzvorschriften. Detaillierte Informationen finden Sie in unserer Datenschutzerklärung.
Einwilligung in die Verwendung von Daten zu Werbezwecken
Ich bin damit einverstanden, dass die Vogel IT-Medien GmbH, Max-Josef-Metzger-Straße 21, 86157 Augsburg, einschließlich aller mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen (im weiteren: Vogel Communications Group) meine E-Mail-Adresse für die Zusendung von redaktionellen Newslettern nutzt. Auflistungen der jeweils zugehörigen Unternehmen können hier abgerufen werden.
Der Newsletterinhalt erstreckt sich dabei auf Produkte und Dienstleistungen aller zuvor genannten Unternehmen, darunter beispielsweise Fachzeitschriften und Fachbücher, Veranstaltungen und Messen sowie veranstaltungsbezogene Produkte und Dienstleistungen, Print- und Digital-Mediaangebote und Services wie weitere (redaktionelle) Newsletter, Gewinnspiele, Lead-Kampagnen, Marktforschung im Online- und Offline-Bereich, fachspezifische Webportale und E-Learning-Angebote. Wenn auch meine persönliche Telefonnummer erhoben wurde, darf diese für die Unterbreitung von Angeboten der vorgenannten Produkte und Dienstleistungen der vorgenannten Unternehmen und Marktforschung genutzt werden.
Falls ich im Internet auf Portalen der Vogel Communications Group einschließlich deren mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen geschützte Inhalte abrufe, muss ich mich mit weiteren Daten für den Zugang zu diesen Inhalten registrieren. Im Gegenzug für diesen gebührenlosen Zugang zu redaktionellen Inhalten dürfen meine Daten im Sinne dieser Einwilligung für die hier genannten Zwecke verwendet werden.
Recht auf Widerruf
Mir ist bewusst, dass ich diese Einwilligung jederzeit für die Zukunft widerrufen kann. Durch meinen Widerruf wird die Rechtmäßigkeit der aufgrund meiner Einwilligung bis zum Widerruf erfolgten Verarbeitung nicht berührt. Um meinen Widerruf zu erklären, kann ich als eine Möglichkeit das unter https://support.vogel.de abrufbare Kontaktformular nutzen. Sofern ich einzelne von mir abonnierte Newsletter nicht mehr erhalten möchte, kann ich darüber hinaus auch den am Ende eines Newsletters eingebundenen Abmeldelink anklicken. Weitere Informationen zu meinem Widerrufsrecht und dessen Ausübung sowie zu den Folgen meines Widerrufs finde ich in der Datenschutzerklärung, Abschnitt Redaktionelle Newsletter.