KI-Praxis

Machine-Learning-Modelle in die produktive Phase bringen

26.09.2022 von Joachim Schmider
Modelle für das Machine Learning bleiben häufig im Stadium von Pilotprojekten stecken. Praktiker berichten, wie Unternehmen mit MLOps Abhilfe schaffen.
Machine-Learning-Modelle von einem MVP oder Pilotprojekt in den produktiven Betrieb zu überführen, fällt vielen Unternehmen schwer. Das Konzept Machine Learning Operations (MLOps) kann dabei helfen.
Foto: Phonlamai Photo - shutterstock.com

"Ich habe drei Wochen gebraucht, um das Machine-Learning-Modell zu entwickeln. Inzwischen ist ein Jahr vergangen und es ist immer noch nicht in Produktion." Diese Klage eines anonymen KI-Entwicklers beschreibt das Dilemma, in dem viele Unternehmen stecken, die ML-Projekte verfolgen und eigentlich die Vorteile von künstlicher Intelligenz und Machine Learning (KI/ML) in größerem Umfang nutzen möchten.

Auch die Mitglieder des Anwenderverbands CBA Lab sehen bei der Übernahme der als Prototypen entwickelten ML-Lösungen in die Produktion noch einige unbewältigte Herausforderungen. Hier ist man noch weit entfernt von einem reifen und etablierten DevOps-Ansatz, der bei Entwicklung und Produktion von Nicht-KI/ML-Projekten inzwischen zum Mainstream geworden ist.

DevOps beschreibt die Verzahnung des Entwicklungsprozesses mit dem IT-Betrieb. Deshalb befasst sich der aktuelle KI/ML-Workstream des CBA Lab genau mit diesem Übergang zwischen Entwicklung und Produktion. Ziel ist es laut Workstreamleiter Jürgen Klein, Chefarchitekt der Carl Zeiss AG, einen Ansatz zu entwickeln, der den Anforderungen in ML-Projekten an Qualität und Automatisierungsgrad entsprechen kann. Der Workstream hat sich deshalb intensiv mit dem sogenannten MLOps-Ansatz auseinandergesetzt. Machine Learning Operations (MLOps) steht für eine auf Machine Learning ausgerichtete Vorgehensweise, die die Tugenden des Development and Operations-Modells (DevOps) nutzt.

Hürden beim Einsatz von Machine Learning

Der Workstream führt einige der Herausforderungen aus, die der ML-Einsatz mit sich bringt:

Einige dieser Herausforderungen können adressiert werden, in dem man ML-Anwendungen einem erweiterten DevOps-Ansatz unterwirft, dem sogenannten MLOps. Es erweitert die bekannten DevOps-Prinzipien, um die Entwicklung und den Betrieb von ML-basierten Anteilen der Lösungen spezifisch und optimal zu unterstützen. Das Hinzufügen neuer Datensätze, aber auch die schleichende Degradation der Modellperformanz benötigt ein kontinuierliches Training, um diese stabil zu halten oder gar zu verbessern. Da ein ML-Modell meistens nur eine kleine, aber sehr kritische Komponente eines Software-System darstellt, muss ihre Interaktion mit anderen Komponenten ständig überprüft werden. Das bedeutet die Überprüfung neuer Modelle durch besondere Testverfahren wie Daten- und Modellvalidierung.

Voraussetzungen für MLOps schaffen

Das MLOps-Prinzip funktioniert allerdings nur dann, wenn die Organisation auch über die nötigen Fähigkeiten verfügt, die der CBA Workstream in einem Capability Framework zusammenfasst. Es besteht aus folgenden Bausteinen:

Der Workstream des CBA fasst seine Erkenntnisse in einem ausführlichen Whitepaper zusammen. Außerdem macht er den Mitgliedern transparent, welche ML-Tools von den KI-aktiven Unternehmen im CBA Lab für welchen Zweck eingesetzt werden. Die sich daraus ergebende Liste wird einheitlich strukturiert sein, sodass auf einen Blick klar wird, welche Tools für was eingesetzt werden.

Das Cross-Business-Architecture Lab

Das Cross-Business-Architecture Lab ist ein Verband von Anwendern für Anwender. Erprobte Best Practices werden geteilt und zu belastbaren, direkt nutzbaren Ergebnissen weiterentwickelt. Der Verband erarbeitet mit und für seine Mitglieder innovative "Bausteine" für die digitale Transformation, die die Architektur prägen und organisieren. (wh)