Yoav Landman, CTO von JFrog
Die neue JFrog Artifactory-Integration bietet Entwicklern und Data Scientists eine Open Source Software-Lösung, um die Entwicklung von ML-Modellen zu vereinfachen, zu sichern und zu beschleunigen
JFrog, das Liquid Software Unternehmen und Entwickler der JFrog Software-Lieferkettenplattform, hat eine neue Integration zwischen JFrog Artifactory und MLflow, einer ursprünglich von Databricks entwickelten Open-Source-Softwareplattform, angekündigt. Nach den nativen Integrationen, die Anfang des Jahres mit Qwak und Amazon SageMaker veröffentlicht wurden, erweitert JFrog seine universellen KI-Lösungen und bietet Unternehmen ein einziges System für die Aufzeichnung mit Artifactory als Modell-Registry. Die neue Integration bietet JFrog-Nutzern eine leistungsstarke Möglichkeit, ML-Modelle und generative KI (GenAI)-gestützte Anwendungen neben allen anderen Software-Entwicklungskomponenten in einem rationalisierten, durchgängigen DevSecOps-Workflow zu erstellen, zu verwalten und bereitzustellen. Indem jedes Modell unveränderlich und nachvollziehbar gemacht wird, können Unternehmen die Sicherheit und Herkunft von ML-Modellen validieren und so verantwortungsvolle KI-Praktiken in ihre Prozesse einbringen.
Untersuchungen aus der Branche zeigen, dass 80 Prozent oder mehr der ML-Modelle, die für die Entwicklung neuer KI-gestützter Anwendungen entwickelt werden, nicht zum Einsatz kommen, was größtenteils auf technische Hürden bei der Integration des Modells in bestehende Abläufe zurückzuführen ist. Die Integration mit MLflow hilft Unternehmen, dies zu überwinden, indem die beliebte Open-Source-Modellentwicklungslösung nahtlos mit den ausgereiften DevOps-Workflows eines Unternehmens verbunden wird – und so eine durchgängige Transparenz, Automatisierung, Kontrolle und Nachvollziehbarkeit von ML-Modellen vom Experiment bis zur Produktion ermöglicht.
„Damit Unternehmen KI- und GenAI-gestützte Anwendungen erfolgreich einführen und in großem Umfang bereitstellen können, müssen Entwickler und Data-Science-Teams Modelle vertrauensvoll verwalten, so wie sie alle Softwarepakete verwalten“, sagt Yoav Landman, CTO von JFrog. „Dies ist nur mit einem universellen, skalierbaren, einheitlichen System für alle Binärdateien realisierbar, das Versionierung, Lebenszyklus und Sicherheitskontrollen bietet, was unsere neue Integration mit MLflow ermöglicht.“
JFrog MLOps: Eine einzige „Source of Truth“ für alle Modelle
Aufbauend auf den erfolgreichen Integrationen mit allen wichtigen ML-Tools auf dem Markt, ermöglicht die Kombination von JFrog Artifactory und MLflow ML-Ingenieuren, Python-, Java- und R-Entwicklern die Freiheit, mit ihrem bevorzugten Tool-Stack zu arbeiten, indem sie Artifactory als ihre standardmäßige Modell-Registry nutzen. Die universelle, skalierbare Plattform von JFrog ist auch ein nativer Proxy für Hugging Face, der es Entwicklern ermöglicht, immer auf verfügbare Open-Source-Modelle zuzugreifen und gleichzeitig bösartige Modelle zu erkennen und die Einhaltung der Lizenzbestimmungen durchzusetzen. Die Lösung kommt auch mit den Software-Sicherheitsfunktionen und Scannern, die von der Plattform bereitgestellt werden, um risikofreie ML-Anwendungen zu erhalten.
MLSecOps – Vertrauenswürdige und kuratierte Modelle
Das JFrog Security Research Team entdeckte kürzlich Hunderte von Instanzen bösartiger AI ML-Modelle auf dem öffentlichen Hugging Face AI Repository, die ein erhebliches Risiko für Datenverletzungen oder Angriffe darstellen. Dieser Vorfall verdeutlicht die potenziellen Bedrohungen, die in KI-gestützten Systemen lauern, und unterstreicht die Notwendigkeit ständiger Sicherheitsvorkehrungen und proaktiver Cyberhygiene.
Die Zusammenführung von JFrog Artifactory mit MLflow wird es den Nutzern ermöglichen, Modelle mit größerer Sicherheit, Governance, Versionierung, Rückverfolgbarkeit und Vertrauen einfacher zu erstellen, zu trainieren und einzusetzen, indem sie JFrogs Scan-Umgebung nutzen, um jedes neue Modell, das auf Hugging Face hochgeladen wird, rigoros zu prüfen.
Weitere Informationen über JFrog’s Integration mit MLflow finden Sie in diesem Blog.