Die Cash Maschine

Der Hype um Künstliche Intelligenz ist in vollem Gang. Und die Debatte verläuft alles andere als sachlich. Die einen feiern die Technologie als Lösung für fast alle Probleme der Menschheit, von Kriminalität über Hunger bis zum Klimawandel; die anderen sagen die Auslöschung der Menschheit durch eine schon bald entstehende künstliche Superintelligenz voraus. Dieser Diskurs um die angeblich alles verändernde Technologie und die extrem polarisierte Einschätzung zwischen KI Boostern und KI Doomern bilden den Ausgangspunkt für zwei Bücher zum Thema. Zum einen »Künstliche Intelligenz und der neue Faschismus« vom Mathematiker und Philosophen Rainer Mühlhof sowie das im Englischen erschienene »The AI Con« (Der KI-Betrug) der Linguistin Emily M. Bender und Soziologin Alex Hanna. Hanna ist ehemalige Google-Mitarbeiterin, zusammen betreiben die beiden Autorinnen seit 2023 den Podcast »Mystery AI Hype Theater 3000«.

Allen drei Autor*innen geht es darum, mit folgenreichen Mythen um KI aufzuräumen und den derzeitigen »Hype« um Technologien, die unter dem Label KI verkauft werden, zu entzaubern. Denn Künstliche Intelligenz, das stellen beide Bücher klar, gibt es nicht. Der Begriff diene vor allem dazu, Produkte zu verkaufen und Fördergelder einzuwerben.

Weder der Begriff noch die verschiedenen Technologien, die darunter verkauft werden, seien neu. Seit 1956, als der Begriff erstmals auftauchte, durchlief die KI-Forschung mehrere sogenannte Sommer, mit großzügiger Förderung durch Militär, Regierungen und Investor*innen sowie der Erwartung, in jeweils zehn bis 15 Jahren eine revolutionäre Super-Intelligenz (Artificial General Intelligence, AGI) zu erschaffen. Daraufhin folgten »KI Winter«, in denen die Gelder aufgrund ausbleibender Erfolge wegbrachen.

Auch die Idee neuronaler Netze, die heute die Basis für große Sprachmodelle (Large Language Models) bilden, stammt aus den 1940er Jahren. Sie konnte allerdings erst in den 2010er Jahren umgesetzt werden, als ausreichend Rechenkapazität und Sammlungen digitaler Daten verfügbar waren, um sie zu trainieren. Large Language Models wie ChatGPT oder Claude berechnen aus den riesigen Datenmengen, mit denen sie gefüttert werden, jeweils die Wahrscheinlichkeit für das nächste Wort. Sie sind, wie Bender und Hanna bereits 2022 in einem Tweet geschrieben hatten, »stochastische Papageien«, die nachplappern, ohne zu verstehen.

Weitreichende Folgen haben die neuen Tools dennoch. Bender und Hanna stellen fest: »Das Gefährliche am Hype ist, dass er nicht wahr sein muss, um enorme Auswirkungen zu haben.« Die Warnungen vor dem »existenziellen Risiko« einer künftigen Super-Intelligenz lenkten dabei ab von den sehr realen Folgen, die der Einsatz von KI-Systemen bereits heute auf Menschen hat. Dazu gehören fälschliche Verhaftungen von (Schwarzen) Menschen aufgrund automatisierter Bildabgleiche der Polizei in den USA, die automatisierte Zielsuche von Drohnen im Gaza-Krieg, das Fluten des Internets mit KI-generiertem Schrott oder die traumatisierende Arbeit von prekär beschäftigten Arbeiter*innen in Kenia oder Indien, die die angeblich autonomen KI-Systeme durch permanente Überprüfung und Säuberung am Laufen halten.

Bender und Hanna sehen den KI-Hype vor allem als eine wiederkehrende Tech- und Finanzblase, die am Ende dazu führt, dass die Superreichen noch reicher und alle anderen ärmer werden. Das ist nachvollziehbar angesichts der Milliardensummen, die derzeit in alles fließen, was das Label »KI« trägt (selbst wenn es nur eine Excel-Tabelle ist, wie Bender und Hanna sarkastisch bemerken).

Türöffner für den Faschismus

Mühlhoff hingegen konzentriert sich auf die politischen Folgen: Er argumentiert, dass die technologischen Logiken der KI-Systeme »mit autoritären, menschenverachtenden und anti-demokratischen Ideologien besonders kompatibel sind«. Dazu zeichnet er nach, wie die »imaginäre Überhöhung von KI auf länger bestehende intellektuelle Strömungen zurückgeht«, die in der Tech-Branche weitverbreitet sind.

Die auch bei Bender und Hanna erwähnten historischen Wurzeln des KI-Diskurses und der westlichen Konzeption von Intelligenz in Eugenik und Rassentheorie führt er weiter aus. Er widmet sich rechten Ideologien wie Transhumanismus, Longtermismus und Dark Enlightenment (dunkle Aufklärung), die eint, »dass sie gegen Demokratie, Rechtsstaatlichkeit und Egalitarismus … agitieren und wichtige Beiträge der politischen Philosophie seit der Aufklärung revisionistisch umkehren«.

Die KI-Technologie mit ihrer instrumentellen Logik und der Umdeutung von Wahrheit zu Wahrscheinlichkeit sei »prädestiniert dafür, bei einem solchen Rückschritt eine zentrale Rolle zu spielen.« KI-Systeme seien dazu entwickelt worden, Menschen automatisiert in Kategorien einzusortieren: »Die Büchse der Pandora wird in dem Moment geöffnet, wenn sich Tech-Eliten und Alt-Right-Politik wechselseitig annähern und die faschistoiden Potenziale solch einer Technologie zur Anwendung bringen«.

Vor allem bei Mühlhoff lässt sich ein idealisiertes Bild des existierenden Rechtsstaats erkennen – schließlich gab es diskriminierende staatliche oder wirtschaftliche Praktiken auch schon vor dem Aufkommen von KI-Systemen. Außerdem hätte eine Einbettung der Analyse in größere wirtschaftliche Zusammenhänge weitere Handlungsmöglichkeiten jenseits von Rufen nach mehr staatlicher Regulation aufzeigen können. Allerdings sind beide Bücher hilfreich, um »hinter den Vorhang« des KI-Hypes zu schauen und die tatsächlichen Entwicklungen und Gefahren inmitten der überhitzten Debatte nicht aus den Augen zu verlieren.