Jana Koehler im Interview

Woran KI-Projekte scheitern

Karriere und Management in der IT ist ihr Leib- und Magenthema - und das seit über 20 Jahren. Langweilig? Nein, sie entdeckt immer neue Facetten in der IT-Arbeitswelt und im eigenen Job. Sie recherchiert, schreibt, redigiert, moderiert, plant und organisiert.
Ein KI-System ist nur so gut wie die Trainingsdaten, sagt Jana Koehler, wissenschaftliche Direktorin am DFKI im CIO-Interview.
Jana Koehler ist wissenschaftliche Direktorin des Forschungsbereichs Algorithmic Business and Production am Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI) in Saarbrücken.
Jana Koehler ist wissenschaftliche Direktorin des Forschungsbereichs Algorithmic Business and Production am Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI) in Saarbrücken.
Foto: DFKI

Frau Koehler, was kann KI heute schon?

Jana Koehler: Künstliche IntelligenzKünstliche Intelligenz kann bereits sehr viel. Wir nutzen sie unbewusst jeden Tag. Zum Beispiel diktiere ich die Antworten auf Ihre Fragen in Microsoft Word. Grundlage dafür ist eine Spracherkennung und Transkription von gesprochener Sprache in geschriebenen Text auf Basis von künstlicher Intelligenz. Produktempfehlungen in Onlineshops werden mit KI-Algorithmen berechnet, die unser Kaufverhalten mit dem anderer Kunden vergleichen und daraus Empfehlungen ableiten. Alles zu Künstliche Intelligenz auf CIO.de

In sozialen Netzwerken bestimmt künstliche Intelligenz zum großen Teil, welche Inhalte wir sehen. Fotos, die wir mit unseren Handykameras aufnehmen, werden mit KI-Algorithmen optimiert. Viele von uns nutzen Übersetzungssysteme, die inzwischen ganz gute Ergebnisse liefern. Auch die Suche nach Informationen im Netz wird heute durch KI-Algorithmen verbessert. Lassen wir uns vom Navigationssystem die Route berechnen, ist KI im Spiel.

In welchen Anwendungen sind die Grenzen der Künstlichen Intelligenz sichtbar?

Koehler: Viele eingesetzte Verfahren der KI basieren auf großen Datenmengen, in denen sie statistisch relevante Muster aufspüren und verstärken. Diese sind für den häufig auftretenden Durchschnitt aussagekräftig. Grenzen treten auf, wenn wir versuchen, diese Muster auf Einzelfälle anzuwenden. Hier kann das Muster auf den Einzelfall zutreffen oder nicht. So sind bestimmte Symptome typisch für das Auftreten bestimmter Erkrankungen. Das heißt jedoch nicht, dass ich bei bestimmten Symptomen tatsächlich diese Krankheit habe. Hier ist es erforderlich, auf den individuellen Fall abgestimmte präzise Diagnoseverfahren einzusetzen, um eine Vermutung zu bestätigen oder zu widerlegen. KI kann hier auch unterstützend wirken, aber auch fehlerhafte Einschätzungen abgeben.

KI kann subjektive Meinungen verstärken

Inwiefern spielen subjektive Einschätzungen und Vorurteile bei der Entwicklung von KI-Systemen eine Rolle?

Koehler: Vorurteile spielen eine Rolle, wenn Daten verwendet werden, in denen die subjektive Einschätzung von Menschen vorkommt. Etwa bei Daten, die Bilder von Personen zeigen und bei denen Menschen schätzten, wie alt die gezeigten Personen sind. Jedes Urteil, das ein Mensch fällt, ist subjektiv - auch wenn wir uns um Objektivität bemühen. Objektivität kann nie perfekt gelingen, da unsere persönliche Erfahrung in unsere Einschätzung einfließt. Wird diese Einschätzung in Trainingsdaten für ein KI-System verwendet, extrahiert dieses statistisch relevante Muster, in denen subjektive Meinungen enthalten sind und diese verstärken.

Welche Rolle kommt den Trainingsdaten zu?

Koehler: Die Datenqualität, mit denen ein KI-System trainiert wird, ist entscheidend dafür, wie gut das System nachher beim Einsatz in der Praxis ist. Wir müssen uns bewusst sein: Ein Data Scientist bestimmt die Menge der Trainingsdaten. Das System zu trainieren ist ein permanenter Prozess, da ja auch die Welt sich stetig ändert. Man braucht möglichst repräsentative Daten, kann aber nicht immer beurteilen, ob die vorliegenden Daten repräsentativ sind.

Achtung vor KI im Recruiting und medizinischer Diagnostik

Von welchem Einsatzgebieten raten Sie aus wissenschaftlicher Sicht ab?

Koehler: Aus wissenschaftlicher Sicht ist es nicht haltbar, dass wir statistische Muster, die nur für eine große Menge an Fällen gelten, auf einen Einzelfall anwenden. Wir sollten sehr zurückhaltend sein, zum Beispiel Lebensläufe von Menschen auf ihre Eignung für einen bestimmten Beruf einzuschätzen. Denn die Einschätzung durch das KI-System beruht immer auf historischen und subjektiven Entscheidungen. Zudem sollten wir keine voll automatisierten medizinischen Diagnosen vornehmen, die rein auf statistischen Daten basieren.

Wie sollte KI sinnvoll eingesetzt werden?

Koehler: Da KI heute vor allem verborgene Muster in Daten aufspürt, hält sie uns damit den Spiegel vor. Sie zeigt uns, wie wir denken und handeln und verstärkt unser Verhalten sogar. Fälle von Vorurteilen und Diskriminierung in KI-Systemen sind nichts weiter als die Vorurteile und Diskriminierung, die wir selbst ausüben. Insofern können wir KI sehr gut verwenden, um unser Verhalten zu hinterfragen und zu schauen, wo wir uns verändern sollten. Leider wird zurzeit in vielen Anwendungen das bisherige Verhalten auf der Grundlage historischer Trainingsdaten verstärkt und auf die Zukunft über­tragen. Hier muss man sich fragen, wie sinnvoll diese Art von Anwendungen wirklich ist. Sie können nur erfolgreich sein, wenn die Zukunft genauso ist wie die Vergangenheit und unser früheres Verhalten tatsächlich auch erfolgreich für die Zukunft sein kann.

Was sind die größten Herausforderungen, bis aus einem KI-Algorithmus ein marktfähiges Produkt entstehen kann?

Koehler: Ein KI-Algorithmus ist nur ein kleiner Teil einer Lösung. Die KI muss immer in eine Softwarelösung eingebunden werden, die sicherstellt, dass die Daten für den Algorithmus in hoher Qualität zur Verfügung stehen und die Berechnungsergebnisse des Algorithmus in die Softwaresysteme eines Unternehmens einfließen. Die Gestaltung der Schnittstellen zu den vorhandenen Softwaresystemen ist sehr komplex und meist viel aufwendiger als gedacht. Viele KI-Lösungen setzen heute maschinelles Lernen ein und benötigen dafür sehr umfangreiche Trainingsdaten.

Das Aufbereiten dieser Daten ist sehr aufwändig und trägt oft zu mehr als 80 Prozent der Kosten eines KI-Projekts bei. Nicht zu vergessen sind auch die Nutzer einer KI-Lösung. Die Gestaltung der Interaktion mit dem Menschen ist entscheidend, damit ein KI-System sinnvoll in Zusammenarbeit mit einem Menschen agieren kann und auch akzeptiert wird. Denken wir nur an die Gestaltung der Sprachschnittstelle von Alexa. Hier wurde Pionierarbeit geleistet, um das System für viele Benutzer komfortabel und auch ausreichend sicher zu gestalten, damit es akzeptiert wird.

Warum kommen viele Ideen nicht aus der Prototyp-Phase raus?

Koehler: Viele Projekte unterschätzen den Aufwand für die Bereitstellung der Daten, die Integration in die Softwarelösungen eines Unternehmens und die Gestaltung der Benutzerschnittstellen. Meist ist in einem Unternehmen noch nicht genug Erfahrung vorhanden, um KI-Projekte erfolgreich voranzutreiben. Hier kommt es darauf an, mit Pilotprojekten Erfahrungen zu sammeln und Kompetenzen aufzubauen. Idealerweise erzielen diese Piloten bereits einen Mehrwert für das Unternehmen über die eigentliche Projekterfahrung hinaus. Zum Beispiel können sie die erforderlichen Datenschnittstellen entwickeln, Methoden zur Sicherung der Datenqualität bereitstellen oder auch die Akzeptanz bei den Nutzerinnen einer geplanten KI-Lösung fördern.

Jana Koehlers Spezialgebiet sind KI-Methoden für flexible und optimierte Fertigungs- und Geschäftsprozesse. Sie arbeitete nach Promotion und Habilitation unter andeem für die Schindler AG und das IBM Research Lab in Zürich.
Jana Koehlers Spezialgebiet sind KI-Methoden für flexible und optimierte Fertigungs- und Geschäftsprozesse. Sie arbeitete nach Promotion und Habilitation unter andeem für die Schindler AG und das IBM Research Lab in Zürich.
Foto: DFKI

Welche Kriterien muss ein Prototyp erfüllen, damit er zu einem marktfähigen Produkt weiterentwickelt werden kann?

Koehler: Bei einem Prototyp wird sehr oft auf die technische Machbarkeit fokussiert. Wir versuchen herauszufinden, ob ein Problem mit einer Technologie gelöst werden kann. Nehmen wir wieder das Beispiel von Alexa. Bei der Machbarkeit geht es hier darum, ob die Spracherkennung eines KI-Systems gut genug ist, dass es einen Menschen in einem bestimmten Kontext verstehen kann. Damit aus dem Prototypen ein erfolgreiches Produkt werden kann, ist es wichtig, dessen Lebensfähigkeit und Erwünschtheit genau im Blick zu haben. Bei der Lebensfähigkeit geht es darum, ein Geschäftsmodell zu entwickeln, das die Kosten einer KI-Lösung trägt. Genauso wichtig ist eine technisch robuste und skalierbare Technologie. Zudem muss das Produkt nicht nur von potenziellen Nutzern akzeptiert werden, sondern auch zur Strategie des Unternehmens passen. Bei Alexa sind alle drei Dimensionen der Machbarkeit, Erwünschtheit und Lebensfähigkeit erfüllt.

Was sind realistische Erwartungen hinsichtlich Zeit, Budget und Teamstärke, damit ein KI-Produkt entstehen kann?

Koehler: In vielen Unternehmen ist der Eindruck entstanden, dass man sich eine KI-Lösung fertig kaufen kann und diese ein Problem löst. Als Konsument kann ich mir eine Alexa kaufen, um während meiner Yoga-Übung bequem per Sprachsteuerung einen Timer zu setzen. Bei vielen Herausforderungen in Unternehmen ist jedoch viel menschliche Intelligenz zur Problemlösung gefragt. Die selbständige Problemlösefähigkeit von KI-Systemen ist eher dem Bereich des Mythos zuzurechnen.

KI stellt Technologien zur Verfügung, mit denen wir unsere Probleme erfolgreich lösen können. Das heißt aber, dass wir uns mit unseren Problemen auseinandersetzen, diese klug analysieren und die entsprechende Technologie kennen, richtig auswählen und einsetzen müssen. Es lohnt sich, hier agil zu arbeiten, mit kleinen nutzbringenden Projekten und kleinen Teams zu starten und diese schrittweise auszubauen und zu skalieren, ohne dass Agilität verloren geht. Dabei sollte von Anfang an die strategische Ausrichtung von KI im Rahmen der Unternehmensstrategie eine Rolle spielen, um KI-Projekte erfolgreich zu steuern.

Was kann die Wirtschaft bezüglich des Managements von KI-Projekten von der Forschung lernen?

Koehler: Beide Seiten können voneinander lernen. Die Forschung kann von der Wirtschaft sehr viel lernen in Bezug auf ein realistisches Problemverständnis und die Akzeptanz von Ideen im Markt. Von der Forschungsseite können wir Methoden beitragen, die der Wirtschaft helfen können, aktuelle Herausforderungen erfolgreich anzugehen. Dies können auch Management-Methoden sein, um KI-Projekte erfolgreich zu steuern. Aus der Forschung kommen auch agile Vorgehensmodelle für die Entwicklung komplexer Softwareprojekte, deren Umsetzung in der Praxis immer noch eine Aufgabe ist. Nicht zuletzt steuert die Forschung neue KI-Algorithmen bei. Forscher können hier helfen, das Verständnis zu Einsatzmöglichkeiten und Grenzen eines bestimmten Algorithmus schnell in die Wirtschaft zu transferieren.

Buchtipp: Bausteine des Managements Künstlicher Intelligenz

Welche Prozesse und Strukturen braucht es, um KI-Anwendungen zu entwickeln, zu betreiben und in einen betrieblichen Kontext zu integrieren? Antworten auf diese Frage finden sich in einem neuen Werk von Jana Koehler.

Die Professorin für Künstliche Intelligenz an der Universität des Saarlandes und Leiterin des Forschungsbereichs Analyse und Optimierung von Prozessen des DFKI hat dieses Buch zusammen mit Walter Brenner, Professor für Wirtschaftsinformatik an der Universität St.Gallen, Benjamin van Giffen, Assistenzprofessor für Wirtschaftsinformatik und Leiter des Research Labs Management of AI und den beiden Doktoranden Tobias Fahse und André Sagodi verfasst. Es beschreibt nicht nur die grundsätzlichen Prozesse eines Managements künstlicher Intelligenz, sondern zeigt auch Beispiele für konkreten unternehmerischen Nutzen auf.

Zur Person

Jana Koehler hat den Lehrstuhl für Künstliche Intelligenz an der Universität des Saarlandes inne und ist wissenschaftliche Direktorin des Forschungsbereichs Algorithmic Business and Production am Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI). Ihr Spezialgebiet sind KI-Methoden für flexible und optimierte Fertigungs- und Geschäftsprozesse. Koehler studierte Informatik und Wissenschaftstheorie an der Humboldt-Universität zu Berlin, arbeitete nach Promotion und Habilitation für die Schindler AG und das IBM Research Lab in Zürich. Von 2010 bis Anfang 2019 war sie Professorin für Informatik an der Hochschule Luzern.

Zur Startseite