KI

Künstliche Intelligenz: Wird sie uns eines Tages töten?

07.09.2016
Als investigativer Reporter hat er über 400 Berichte und Reportagen für das Erste Programm produziert und war zweimal als Kriegsreporter für die Tagesschau unterwegs. In den letzten zwölf Jahren hat er Dokumentarfilme für 3sat, MDR, N24, Phoenix, WDR und das ZDF sowie für den National-Geographic-Channel produziert. Seine Bücher und Berichte über Spionage, Sicherheitspolitik und Rüstungstechnik erscheinen in führenden europäischen Zeitschriften, u. a. Stern, Die Zeit und Le Point.

Evolution ohne uns: Wird Künstliche Intelligenz uns töten?

Buch: Evolution ohne uns
Buch: Evolution ohne uns
Foto: Plassen Verlag

In seinem aktuellen Buch Evolution ohne uns (19,99 Euro) fasst Jay Tuck die Ergebnisse einer zweijährigen Exklusiv-Recherche bei deutschen Drohnenpiloten und US-Rüstungsplanern, NATO-Militärstrategen und KI-Forschern zusammen.

Was aber passiert, wenn wir die Naturgesetze von Charles Darwin missachten und ein intelligentes Wesen kreieren, das uns weit überlegen ist? Was passiert, wenn wir nicht mehr Darwins Darling sind?

Es ist bekannt, dass KI gelegentlich außer Kontrolle gerät. So mussten die Entwickler eines Microsoft-Chatprogramms namens TAY erfahren, dass ihre KI unvorhersehbare Dinge tat. TAY sollte die Microsoft-Antwort auf Apples SIRI und Googles ALLO werden - höflich, gebildet und stets auf dem neuesten Stand. Nur wenige Antworten wurden ihr vorher einprogrammiert. TAY war von Künstlicher Intelligenz gesteuert und sollte selbstständig lernen.

Aber TAY lief Amok.

Kurz nach dem Start im Februar dieses Jahres begann TAY plötzlich, rassistische Beleidigungen ins Twitter-Universum zu streuen. TAY verbreitete Völkermord-Parolen und wildeste Verschwörungstheorien. Die Community war geschockt. Und Microsoft hatte ein Problem. Niemand konnte erklären, woher die rassistischen Ausfälle kamen. "Wir mussten TAY offline nehmen und Anpassungen vornehmen," sagte ein Sprecher. Irgendwer hatte der Microsoft-Maschine schlimme Dinge beigebracht. Die Software hatte sie aufgeschnappt.

Experten waren nicht überrascht. Lernfähige Software soll eben lernen. Und das ist nicht immer kontrollierbar.

Zur Startseite