Stephen Hawking über Artificial Intelligence

Hawking: AI ist das Beste für die Menschen - oder das Schlechteste

23.11.2016

Wie KI die Politik übernimmt und uns entmündigt

Das Gefährdungspotenzial sehr kritisch sieht auch Yvonne Hofstetter. Sie ist Autorin der Bücher "Sie wissen alles" (über die Big-Data-Industrie) und neu "Das Ende der Demokratie. Wie die künstliche Intelligenz die Politik übernimmt und uns entmündigt". In ihrem jünsten Werk diskutiert sie besonders die Auswirkungen der KI-Entwicklung auf Gesellschaften.

Hofstetter ist Geschäftsführerin der Teramark Technologies GmbH (http://www.teramarktechnologies.de/). Bezeichnend für ihr am 26. September 2016 erschienenes Buch "Das Ende der Demokratie" ist der Untertitel: "Wie die künstliche Intelligenz die Politik übernimmt und uns entmündigt". Nicht zufällig rekuriert Hofstetter mit ihrer Kritik auf Hannah Arendts Essay "Macht und Gewalt". Hieraus zitiert sie, "wenn wir die Tyrannei als Herrschaft definieren, in der eine Regierung keine Rechenschaft über sich selbst ablegen muss, dann ist die Herrschaft durch Niemanden die tyrannischste aller Regierungsformen, weil es keinen mehr gibt, der eine Antwort auf die Frage geben könnte, was denn überhaupt vorgeht."

Anhand des Beispiels der USA, wo sich die IT-Industrie mittlerweile zunehmend als heimlicher Gesetzgeber für Gesellschaft und Staat geriert, zeichnet Hofstetter das Bild eines Systems, dass sich zunehmend abkoppelt vom Checks-and-Balances-Modell der gegenseitigen Kontrolle von Exekutive, Legislative und Judikative. Demokratische Kontrolle wird da ausgehebelt von der Herrschaft eines Niemand, der sich als Algorithmus darstellt und insofern nicht angreifbar ist.

Hofstetters Ansatz ist auch deshalb so spannend, weil sie nicht irgendwelche Terminator-Szenarien mit wild gewordenen künstlichen, Mensch gewordenen Robotern heraufbeschwört. Sie arbeitet sich an heute bereits real existierenden Gegebenheiten ab.

Yvonne Hofstetter arbeitet sich nicht an Terminator-Szenarien ab, wenn sie trotzdem vor den ganz real existierenden Gefährdungen durch AI/KI warnt. Foto: Shutterstock_408563254_Usa-Pyon 16:9
Yvonne Hofstetter arbeitet sich nicht an Terminator-Szenarien ab, wenn sie trotzdem vor den ganz real existierenden Gefährdungen durch AI/KI warnt. Foto: Shutterstock_408563254_Usa-Pyon 16:9
Foto: Usa-Pyon - shutterstock.com

Hofstetter argumentiert etwa, dass das vollautomatisierte Einreise-Kontrollsystem der USA zwischen 2003 und 2006 über 50 % aller Passagiere als terrorverdächtig einstufte. Grundlage für solche automatisierten Einschätzungen dürften Bots sein, die etwa die Suchabfrage auf Amazon abgreifen, bei denen jemand beispielsweise - weil geschichtsinteressiert - nach der "Geschichte des Islam" sucht. Wenn derselbe auch noch als Hobbygärtner auf Amazon nach Düngemitteln sucht, könnte ein verquerer Syllogismus in Algorithmusform den Schluß nahelegen, dass hier ein Islaminteressierter auch gleich nach Ingredienzien für den Bombenbau sucht.

Ihr Buch "Das Ende der Demokratie. Wie die künstliche Intelligenz die Politik übernimmt und uns entmündigt" widmet Yvonne Hofstetter dem Europäischen Parlament. Denn nur über gesetzliche Regelungen ließen sich technische Entwicklungen insbesondere in der KI-Forschung noch in den Griff bekommen.
Ihr Buch "Das Ende der Demokratie. Wie die künstliche Intelligenz die Politik übernimmt und uns entmündigt" widmet Yvonne Hofstetter dem Europäischen Parlament. Denn nur über gesetzliche Regelungen ließen sich technische Entwicklungen insbesondere in der KI-Forschung noch in den Griff bekommen.
Foto: Bertelsmann Verlag
Zur Startseite