Künstliche Intelligenz as a Service

AI-Services und Machine Learning aus der Cloud

20.03.2017 von Dr. Klaus Manhart
Die Einstiegshürde für die Bereitstellung intelligenter Anwendungen wird immer niedriger. Fast alle großen Cloud-Anbieter wie Microsoft, Amazon, IBM oder Google bieten kostengünstige Entwicklungswerkzeuge für Artificial Intelligence (AI) auf SaaS-Basis an. Machine Learning bildet den Schwerpunkt, doch es gibt auch immer mehr andere kognitive Services aus der Cloud.

Künstliche Intelligenz(Artificial Intelligence) ist kein Marketing-Trend mehr, sondern ein wichtiger IT-Pfeiler, der in den nächsten Jahren die Wettbewerbsfähigkeit von Unternehmen bestimmt. Laut der aktuellen Crisp-Research-StudieMachine Learning im Unternehmenseinsatz befassen sich bereits 64 Prozent von gut 250 befragten IT-Entscheidern aus der DACH-Region mit entsprechenden Techniken, darunter auch maschinelles Lernen. Ein Fünftel nutzt maschinelles Lernen bereits produktiv.

Cloud-Services senken die Einstiegshürde für Artificial Intelligence auf ein akzeptables Niveau.
Foto: PHOTOCREO Michal Bednarek - shutterstock.com

Vielen Unternehmen fehlen aber das technische Know-how und die Infrastruktur, die erforderlich sind, um AI-Lösungen zu entwickeln. Die Hürden sind hoch: Die Bereitstellung von AI-Anwendungen ist mit einem großen Aufwand an Software, Hardware und Manpower verbunden. Es braucht eine ganz neue Infrastruktur und erhebliche technische Ressourcen. Riesige Datenmengen müssen miteinander in Verbindung gebracht werden. Für den Aufbau der Modelle sind AI-Spezialisten und Datenwissenschaftler notwendig. Vor allem aber ist nicht klar, ob sich der Aufwand wirklich lohnt. Denn bei allen Innovationen, die mit Künstlicher Intelligenz verbunden sind, gibt es auch viele Unwägbarkeiten.

Die Cloud senkt die Einstiegshürde für Künstliche Intelligenz

Cloud-Services lösen dieses Dilemma und senken die Einstiegshürde für Artificial Intelligence auf ein akzeptables Niveau. Ohne hohe Kosten oder neue Hardware und Software können Entwickler und Data Scientists, aber auch ganz normale Nutzer, AI-Anwendungen direkt in der Cloud umsetzen und ausführen. Die Services bieten verbreiteteMachine-Learning- und andere AI-Verfahren an. Sie sind beliebig nach unten und oben skalierbar und können für erste spielerische Experimente ebenso wie für ernsthafte Business-Anwendungen eingesetzt werden.

Ein weiterer Vorteil: Die Cloud-Dienstleister kombinieren ihre Machine-Learning-Angebote mit komplementären Services und Werkzeugen. Zudem können auch die großzügig dimensionierten Speicherdienste der Serviceanbieter genutzt werden. Einziger Wermutstropfen: Wer sich einmal für einen Service-Provider entschieden hat, kann sich nur schwer wieder von ihm lösen.

Künstliche Intelligenz aus der Cloud
Microsoft Machine Learning
Azure Machine Learning ist ein vollständig verwalteter Cloud-Dienst, mit dem Anwender Predictive Analytics-Lösungen generieren und bereitstellen können.
Microsoft Cognitive Services
Die Cognitive Services von Microsoft enthalten unter anderem Dienste für Bildanalyse und Gesichtserkennung.
Amazon ML
Amazon Machine Learning unterstützt den Anwender bei der Fehleranalyse von Vorhersagemodellen.
Amazon Bot
Mit Amazon Lex können Chatbots beispielsweise für Verbraucheranfragen erstellt werden.
Google API
Über APIs lassen sich Google AI-Services in eigene Anwendungen integrieren.
Google Tensorflow
Das von Google stammende Open-Source Framework Tensorflow ist die Basis von Cloud ML.
IBM Bluemix
IBM bietet auf der Cloud-Plattform Bluemix zahlreiche Watson-basierte AI-Anwendungen.
IBM ML
IBM Machine Learning ermöglicht die Entwicklung und den Einsatz selbstlernender Analysemodelle in der Private Cloud.
HPE Haven
Mithilfe der Gesichtserkennungs-API von HPE können Entwickler in Fotos gefundene Daten importieren, extrahieren und analysieren.
Salesforce Einstein
Salesforce Einstein: Predictive Content liefert Kunden auf Basis von maschinellem Lernen eine individuelle Empfehlung für das beste Produkt.

Artificial Intelligence - was gibt es bei den Cloud-Providern?

Amazon Web Services, Google Cloud Plattform, IBM BlueMix und MicrosoftAzure sind momentan mit ihren AI-Cloud-Plattformen die Platzhirsche. Schwerpunkt der meisten Angebote ist Machine Learning as a Service. Das ist nicht weiter erstaunlich, weil maschinelles Lernen methodisch und technisch das am weitesten fortgeschrittene AI-Gebiet ist.

Mit dem Machine-Learning-Verfahren Deep Learning steht die derzeit erfolgreichste Implementierung eines künstlichen neuronalen Netzes zur Verfügung. Sie lässt sich sehr gut praktisch anwenden, wenn es gilt, Daten in Wissen zu verwandeln und Vorhersagemodelle etwa für Predictive Analytics, Ausfallrisiken oder Kundenverhalten zu entwickeln.

Andere AI-Anwendungen wie Natural Language Processing sind bei den Web-Services und in den Unternehmen noch unterrepräsentiert. Dabei wären Sprachanalyse und Sprachservices mindestens ebenso nützlich wie Machine Learning. Chat-Bots könnten zum Beispiel einfache Kundenanfragen in natürlicher Sprache beantworten, die der Kunde kaum von einem menschlichen Assistenten unterscheiden kann.

Fortgeschrittene Modelle verstehen schon heute die Absichten von Kunden und können Dialoge erzeugen, die nicht von natürlichen Gesprächen zu diffenzieren sind. Wird es schwierig, leitet der Bot die Anfrage an einen menschlichen Agenten weiter. Solche AI-gestützten Sprachsysteme könnten Unternehmen sehr flexibel einsetzen und damit den den Prozentsatz der Fragen erhöhen, die sie sehr schnell beantworten können.

Microsoft - Azure ML und Cognitive Services

Das Azure Machine Learning (ML) Studio ist eine Art Baukastensystem und Drag-and-Drop Tool zum Erstellen, Testen und Bereitstellen von Machine Learning-Modellen auf Pay as you go Basis. Das ML-Studio wendet sich damit an Entwickler und Interessenten, die keine oder wenig Erfahrung mit Machine Learning haben.

Azure Machine Learning ist ein vollständig verwalteter Cloud-Dienst, mit dem Anwender Predictive Analytics-Lösungen generieren und bereitstellen können.
Foto: Microsoft

Die Bausteine bilden Datensätze oder Module zur Datenaufbereitung oder zur Datenanalyse. In einem interaktiven und visuellen Arbeitsbereich werden die Modelle aufgebaut und gestartet. Der Nutzer definiert zunächst ML-Experimente, zieht dann in einem Editor Bausteine auf seine Arbeitsoberfläche, verknüpft diese miteinander und startet sie schließlich. Der fertige Workflow kann dann als Web-Service gestartet werden und mit frischen Daten versorgt werden, damit das trainierte Modell seine Vorhersage treffen kann.

Der Microsoft-Service ist auf Predictive Analytics ausgerichtet. Große Datenmengen lassen sich damit schnell auf bestimmte Muster und Trends untersuchen, und damit für Prognosen einsetzen. Typische Anwendugen sind Empfehlungssysteme wie sie von Amazon bekannt sind oder Vorhersagesysteme zum Beispiel für die Entwicklung der Preise von Storage-Systemen.

Um das Studio wirklich produktiv nutzen zu können, sind dennoch grundlegende ML-Kenntnisse Voraussetzung. Für anspruchsvollere Modelle sind Programmierkenntnisse notwendig. Bei der Datentransformation werden beispielsweise R- und Python-Skripte verwendet. Dennoch hilft der Microsoft-Service über viele Einstiegshürden hinweg. Eine ausführliche Dokumentation und interaktive Lernelemente unterstützen dabei.

Andere AI-Anwendungen hat Microsoft unter dem Namen Cognitive Services zusammengefasst. Die Dienste lassen sich über APIs in Unternehmensanwendungen einbinden, befinden sich teilweise aber noch im Preview-Status. Aktuell umfasst Cognitive Services 25 Dienste für Bildanalyse, Suche, Wissen und Sprache - für Letzteres gibt es zum Beispiel APIs zu Language Understanding, Textanalyse, Übersetzung und Spracherkennung.

Für die Entwicklung von Chatbots stellt Microsoft den Azure Bot Service bereit. Er soll dabei helfen, intelligente Bots zu erstellen, die in allen Unternehmensbereichen zum Einsatz kommen können, in denen Nutzer mit der Firma in Kontakt treten. Hierfür greifen Entwickler auf Tools wie Codes, Links und Plug-ins zu.

Die Cognitive Services von Microsoft enthalten unter anderem Dienste für Bildanalyse und Gesichtserkennung.
Foto: Microsoft

Amazon Web Services - AI und Machine Learning

Die Dienste von Amazon Web Services (AWS) für Artificial Intelligence umfassen maschinelles Lernen einschließlich Deep Learning, visuelle Such- und Bilderkennung, natürliches Sprachverständnis, automatische Spracherkennung und die Transformation von Text zu Sprache.

Amazon Machine Learning unterstützt den Anwender bei der Fehleranalyse von Vorhersagemodellen.
Foto: Amazon Web Services

Das Zentrum der AI-Entwickler-Services bildet Amazon Machine Learning. Mit dem Service können Prognoseanwendungen wie Betrugserkennung oder Nachfrage- und Klickvorhersagen ohne großen Aufwand erstellt werden. Dazu werden Muster in vorhandenen Daten gesucht und die Erkenntnisse auf neue Daten angewendet.

Der Amazon Dienst versucht, komplexe Machine Learning-Prozesse vor dem Entwickler zu verbergen und bietet damit eine Art Blackbox für Machine Learning-Anwendungsszenarien. Das Verfahren zum Aufbauen von ML-Modellen mit Amazon Machine Learning besteht aus drei Vorgängen: Datenanalyse, Modelltraining und Bewertung. Visualisierungstools und Assistenten begleiten den Anwender durch den Aufbauprozess der Modelle, ohne dass komplexe Algorithmen und ?Technologien erlernt werden müssen.

Wenn ein Modell aufgebaut ist, hilft die intuitive Konsole bei der Modellbewertung und Feinabstimmung, so dass Anwender die Stärken und Schwächen des Modells kennenlernen und die Leistung den Geschäftszielen angepasst werden kann. Sind die Modelle für die Prognosen fertig, lassen sie sich bei Amazon Machine Learning mithilfe einfacher APIs abrufen. Die Implementierung von benutzerdefiniertem Code oder Verwaltung von Infrastrukturen braucht es dazu nicht.

Neben maschinellem Lernen stellt Amazon eine Reihe weiterer AI-Services in seiner Cloud bereit. Unter Amazon Lex können Entwickler mit Hilfe von Alexa-Technologie Konversations-Schnittstellen für Sprache und Text und Chatbots bauen. Amazon Polly ist ein Service, der Text in natürliche Sprache konvertiert. Er unterstützt 24 Sprachen und 47 natürliche Stimmen. Amazon Rekognition bietet eine einfach Bildanalyse auf Basis von Deep Learning, die auch Gesichter in Bildern erkennen kann.

Mit Amazon Lex können Chatbots beispielsweise für Verbraucheranfragen erstellt werden.
Foto: Amazon Web Services

Google Cloud Machine Learning

Das Hauptprodukt von Google's AI-Services ist die Cloud Machine Learning Platform. Sie besteht aus einer ganzen Reihe unterschiedlich ausgerichteter Dienste, die sich mit anderen Cloud-Plattformen von Google verbinden lassen. Über APIs können diese Services in eigene Unternehmens-Anwendungen integriert werden.

Über APIs lassen sich Google AI-Services in eigene Anwendungen integrieren.
Foto: Google

Die APIs, die Google AI-Entwicklern anbietet, sind breit gefächert und eignen sich dafür, Anwendungen das Sehen, Hören oder Übersetzen beizubringen. Beispielsweise ermöglicht die Google Cloud Vision API Bildanalyse und die Google Cloud Speech API Spracherkennung. Mit der Natural Language API sind Textanalysen möglich und mit der Translate API Übersetzungen. In jedem Fall profitieren Entwickler von den Vorteilen von Googles eigenen Diensten. Allerdings sind sie damit auch auf die angebotenen Google-Services beschränkt.

Eigene Modelle für maschinelles Lernen lassen sich mit der Cloud ML Plattform erstellen und trainieren. Deren Verwendung erfordert allerdings gute Machine-Learning-Fähigkeiten. Basis dafür ist das ebenfalls von Google stammende Open-Source Framework TensorFlow. Die Bibliothek für maschinelles Lernen basiert auf einer Deep-Learning-Infrastruktur und macht das neuronale Netz damit allgemein verfügbar.

Zur Verbesserung der Prognosegenauigkeit gibt es eine Funktion namens HyperTune. Diese durchforstet die erstellten Modelle und verbessert automatisch die Vorhersagegenauigkeit. Weil Hypertune automatisch Parameter aufeinander abstimmt können Entwicklern ihre Modelle nicht nur besser machen, sondern diese auch schneller bauen.

Zur Datenverwaltung lassen sich Cloud Storage, Cloud Dataflow und Cloud Datalab verwenden. Da Cloud ML deutlich mehr Kenntnisse im Bereich des maschinellen Lernens erfordert als andere Angebote hat Google den Professional Service "Machine Learning Advanced Solutions Lab" eingeführt, über den sich Interessenten beraten lassen können.

Das von Google stammende Open-Source Framework Tensorflow ist die Basis von Cloud ML.
Foto: Google

IBM Bluemix und Machine Learning

Auf der IBM Cloud-Plattform Bluemix finden Entwickler zahlreiche kognitive AI-Services, die über APIs bereitgestellt werden. Die meisten dieser AI-Anwendungen beruhen auf Watson-Technologie, IBMs kognitivem AI-System, und können über die Watson Services abgerufen werden. Aktuell sind dort mehr als 30 Watson Dienste verfügbar, unter anderem für semantische Analysen, Bild-, Gesichts- und Spracherkennung sowie Übersetzungsdienste und Speech-To-Text-Transformation.

IBM bietet auf der Cloud-Plattform Bluemix zahlreiche Watson-basierte AI-Anwendungen.
Foto: IBM

Mit Conversation lassen sich beispielsweise Chatbots entwicklen, die bei eingeschränkem Kontext natürliche Sprache verstehen und damit helfen, Kunden gezielt und individuell zu beraten. Bei den APIs findet man in Bluemix neben der Dokumentation auch Beispiele und Tutorials, wie man damit eigene Software erstellt und wie man sie in eigene Software einbindet.

Mit IBM Machine Learning hat der Konzern eine neue Plattform an den Start gebracht, welche die Entwicklung und den Einsatz selbstlernender Analysemodelle in der Private Cloud ermöglicht. Sie erlaubt Datenwissenschaftlern den Einsatz und die Erstellung operationaler Analysemodelle. Unterstützt werden verschiedene Programmiersprachen wie Java und Python sowie diverse Machine Learning Frameworks wie Apache SparkML und TensorFlow.

Mit Cognitive Automation for Data Scientists automatisiert IBM Machine Learning erstmals Machine-Learning-Prozesse. Datenspezialisten können damit den passenden Algorithmus für ihre Modelle finden. Dazu werden die Daten mit den verfügbaren Algorithmen verglichen und der richtige Algorithmus für den jeweiligen Bedarf bereitgestellt. IBM hat hierfür die Machine-Learning-Technik von Watson extrahiert und stellt diese Technik erstmals auf z System Mainframes zur Verfügung.

IBM Machine Learning ermöglicht die Entwicklung und den Einsatz selbstlernender Analysemodelle in der Private Cloud.
Foto: IBM

HPE Haven OnDemand

Hewlett Packard Enterprise (HPE) offeriert mit Haven OnDemand eine Cloud-basierte Machine-Learning-Platform für die Datenanalyse und einige andere AI-Anwendungen. Der SaaS-Service richtet sich nach HPE-Angaben an professionelle Entwickler, Startups sowie Unternehmen und beinhaltet mehr als 60 APIs und Services für AI-Anwendungen mit Schwerpunkt maschinelles Lernen - darunter auch Deep Learning.

Mithilfe der Gesichtserkennungs-API von HPE können Entwickler in Fotos gefundene Daten importieren, extrahieren und analysieren.
Foto: HPE

Mit Haven können AI-Anwendungen generiert werden wie Predicitve Analytics, Gesichtserkennung, Speech-to-Text-Funktionen, Empfehlungsdienste und wissensbasierte Graphanalyse- letzteres ist letztendlich Bilderkennung in Videos. An Daten lassen sich strukturierte und unstrukturierte Text-, Audio-, Bild-, soziale, Web- und Videoquellen entweder aus dem eigenen Fundus oder sozialen Netzwerken und dem Internet nutzen.

Der HPE-Service ist in zwei Anwendungsbereiche aufgeteilt: Der Big-Data-Analytics-Service Vertica zielt auf das Big-Data-Umfeld im Unternehmensbereich. IDOL hingegen dient mehr als Analysewerkzeug im Web, mit dem große Datenmengen etwa aus sozialen Netzwerken schnell untersucht werden können.

Haven OnDemand wird als Freemium-Produkt über die Microsoft Azure Cloud angeboten, Azure ist also Voraussetzung um den HPE-Service nutzen zu können.

Salesforce Einstein

Einen ganz anderen Ansatz als die bislang vorgestellten Dienste verfolgt Cloud-Pionier Salesforce mit seinem AI-Service Einstein. Er unterstützt Salesforce-Kunden mit AI-Algorithmen, die im Hintergrund arbeiten, ohne dass sich der Anwender explizit darum kümmern muss. Allerdings werden die Services nur für Salesforce-Kunden bereitgestellt.

Salesforce Einstein: Predictive Content liefert Kunden auf Basis von maschinellem Lernen eine individuelle Empfehlung für das beste Produkt.
Foto: Salesforce

Jeder Salesforce-Anwender kann mit Einstein AI-Funktionen für Marketing und Analytics bis hin zum Verkauf nutzen. Die AI-Services werden dabei entweder in die bestehenden Angebote integriert oder als als Zusatz-Service bereitgestellt. Mittels maschinellem Lernen, Predictive Analytics, natürlicher Sprachverarbeitung und intelligenter Datenerkennung können Modelle automatisch für jeden einzelnen Kunden angepasst werden.

Predictive Lead Scoring erlaubt es beispielseweise Vertriebsmitarbeitern, sich auf die vielversprechendsten Leads zu konzentrieren. Opportunity Insights gibt Warnmeldungen aus, wenn ein Geschäft nach oben oder unten tendiert. Und Product Recommendations passt Produktempfehlungen individuell an den Käufer an.

Für das Generieren und Trainieren der Modelle greift Salesforce auf alle Daten zurück, die dem Unternehmen zur Verfügung stehen - also Kundendaten, Aktivitätsdaten von Chatter, E-Mail, E-Commerce, Social Media-Daten wie Tweets und Bilder und sogar IoT-Signale. Das mag heikel erscheinen, weil hier Kundendaten von zahlreichen Unternehmen einfließen. Salesforce versichert aber, dass alle Datenschutzregularien beachtet werden und die Daten anonymisiert in die Entwicklung der AI-Modelle einfließen.

Fazit

Unternehmen mit wenig Erfahrung in Sachen Entwicklung, Artificial Intelligence und maschinelles Lernen werden mit den Angeboten von Microsoft und insbesondere Amazon gut zurecht kommen. Amazon schottet den Anwender fast vollständig von AI-spezifischen Problemen ab, was den Dienst besonders für viele kleinere Unternehmen attraktiv machen könnte.

IBM, Google und auch HPE ermöglichen die Erstellung sehr anspruchsvoller AI-Modelle. Das setzt mehr Verständnis der Materie voraus. Salesforce Einstein mit seinen fertig integrierten AI-Systemen bietet Künstliche Intelligenz aus der Box, die Cloud-Services sind aber auf die geschlossene Welt des Anbieters beschränkt.