Publicité

Agentinnen des Wandels (wie Gewerkschaften, Verbraucher, Journalisten, Richter oder Techniker) müssen in der Lage sein, Veränderungen herbeizuführen – sie benötigen strategische Hebel, um Einfluss auf die Ziele zu nehmen, die durch Künstliche Intelligenz maximiert werden. Aber Agenten des Wandels brauchen auch Werte und Überzeugungen, die sie dazu bewegen, Veränderungen in eine für die Gesellschaft insgesamt vorteilhafte Richtung zu lenken. Sobald wir uns mit Werten und Überzeugungen beschäftigen, kommt Ideologie ins Spiel. Durch die ideologische Verschleierung der anstehenden Fragen aber wird eine wirksame kollektive Governance von KI unterlaufen.

Im Alltag verwenden wir den Begriff «Ideologie» oft recht locker, um die Überzeugungen von Menschen zu beschreiben, mit denen wir nicht übereinstimmen. In der politischen Theorie ist «Ideologie» ein umstrittener Begriff, der jedoch in der Regel etwas Spezifischeres bedeutet als im alltäglichen Sprachgebrauch. Dementsprechend verwende ich ihn für ein kohärentes Gefüge von Überzeugungen oder Argumenten, das letztlich bestimmten Interessen dient und die Aufrechterhaltung eines ungleichen Status quo rechtfertigt (ohne dies explizit zu sagen). Ideologie kann existieren, ohne dass jemand aktiv versucht, uns zu täuschen. Damit eine Ideologie Bestand hat, reicht es aus, dass bestimmte Geschichten, die für bestimmte Gesellschaftsgruppen günstiger sind, häufiger wiederholt werden als weniger vorteilhafte Geschichten.

Die besten Texte in Ihrem Postfach
Unser wöchentlicher Newsletter

Anmelden

In diesem Sinne erfüllt Ideologie oft eine oder mehrere der folgenden drei Funktionen.

Erstens stellt sie die Interessen bestimmter Gruppen als die der gesamten Gesellschaft dar. Das geht oft einher mit Warnungen vor einer äußeren Feindin oder einer Gruppe von Außenstehenden. Unterschiede und Interessenkonflikte innerhalb der Gruppe werden ignoriert, wohingegen Konflikte mit Außenstehenden hochgespielt werden: «Wir müssen zusammenhalten, um uns gegen unsere gemeinsamen Feinde zu verteidigen.»

Zweitens stellt Ideologie kontingente Entscheidungen als objektive Notwendigkeiten dar. Damit wird allein die Möglichkeit von Dissens von vornherein ausgeschlossen, da es töricht und gefährlich ist, sich gegen etwas zu wehren, das nicht anders sein kann. Das Motto lautet: «Das ist alternativlos», statt: «Eine andere Welt ist möglich».

Und drittens stellt Ideologie soziale Beziehungen als materiell oder technologisch bedingt dar. Dies geschieht insbesondere im Zusammenhang mit Diskussionen über die Wirtschaft. Zum Beispiel: «Lohnungleichheit ist auf den technischen Fortschritt zurückzuführen, der nicht aufzuhalten ist.»

Indem sie Behauptungen über das allgemeine Interesse, das Fehlen von Alternativen und den technischen Charakter der in Rede stehenden Probleme aufstellt, hat die Ideologie die Funktion, Veränderungen zu verhindern und den Status quo zu bewahren. Davon profitieren diejenigen, die aktuell an der Macht sind. Wie lässt sich dies auf die alten Geschichten über KI anwenden? Können wir diese Geschichten als Teil einer Ideologie betrachten?

Kampf zwischen Mensch und Maschine

Nehmen wir die Geschichte vom Kampf zwischen Mensch und Maschine. In dieser Geschichte gibt es keine Gesellschaft. Die Gesellschaft wird praktisch mit diesem einen Menschen gleichgesetzt, und alle Interessenkonflikte werden ausgelöscht. KI wird zur idealen äußeren Feindin, außerhalb der Menschheit als Ganzes, wodurch die Menschheit zu einer homogenen Gruppe werden kann. Da es in dieser Geschichte keine Interessenkonflikte gibt, müssen die Interessen der Menschheit als Ganzes mit den Interessen beispielsweise von Tech- CEOs übereinstimmen.

In der «Existenzielles Risiko»-Version dieser Geschichte, in der KI sich exponentiell selbst verbessert, ist dieser äußere Feind eine technische Notwendigkeit. Er ist nicht mehr das Produkt menschlicher Entscheidungen oder sozialer Konflikte. Er ist eine sich selbst verbessernde Kraft der Natur.

Kämpfe zwischen Mensch und Maschine und Intelligenzexplosionen sind beliebte Geschichten von Science-Fiction-Autoren und Futurologen. Ähnliche ideologische Funktionen können einige der nüchterneren Geschichten aus der Informatik und der KI-Ethik erfüllen – wenn alle Probleme der KI als Optimierungsfehler interpretiert werden. Auch in diesen Geschichten werden soziale Probleme als technologische Probleme verstanden. Diskriminierung wird als Unfähigkeit angesehen, exakte Vorhersagen zu treffen oder Gewinne zu maximieren. Die Werteausrichtung wird als falsch festgelegte Belohnung verstanden. Datenschutz gilt als Hindernis bei dem Bestreben, Individuen dazu zu bringen, ihre Daten freiwillig zu teilen. In jedem Fall werden technische Lösungen für Probleme vorgeschlagen, die letztlich einer gesellschaftlichen Aushandlung bedürfen.

Die Kehrseite des ideologischen Arguments, wonach die Probleme der KI technische Lösungen erfordern, ist das anderslautende ideologische Argument, wonach nur Tech-Expertinnen diese Lösungen liefern können. Allgemeiner gesagt, lautet das gängige Narrativ, dass KI sehr kompliziert und schwer zu verstehen ist und dass allein die Experten der Tech-Branche die KI-Probleme lösen können. Diese Sichtweise verhindert eine öffentliche Debatte und demokratische Entscheidungsfindung. Sie konzentriert die Entscheidungsgewalt in den Händen einer interessierten Partei und verhindert durch die Unterbindung von Debatten die Entwicklung alternativer Narrative. Wie ich in diesem Buch zeigen will, sind die Grundideen der KI aber gar nicht so kompliziert und können einem breiteren Publikum durchaus verständlich gemacht werden.

Eine Variante des ideologischen Arguments von der technischen Unvermeidbarkeit bestimmter Entscheidungen hinsichtlich der Richtung, in die KI sich entwickelt, ist das ideologische Argument über die politische Unvermeidbarkeit dieser Entscheidungen. Dieses Argument beruft sich oft auf Rivalitäten zwischen den Großmächten. In den Vereinigten Staaten könnte es lauten: «Wenn wir es nicht tun, wird China es tun.» In Europa könnte es lauten: «Wenn wir nicht aufholen, werden die amerikanischen Technologieunternehmen weiterhin dominieren.» Funktional impliziert dieses politische Argument genau wie das technische Argument, dass es keine Alternative gibt.

Ein strukturierendes Ideengefüge – eine Ideologie oder, wenn man so will, eine Geschichte – ist zweifellos notwendig, um die Welt zu verstehen und zu interpretieren. Aber wir müssen uns nicht an die alten strukturierenden Ideen und Geschichten halten, die ich gerade erörtert habe. Wir können stattdessen alternative Geschichten entwickeln. Eine gute alternative Geschichte weist ausdrücklich darauf hin, dass es in der Gesellschaft Interessen- und Wertekonflikte gibt. Sie macht deutlich, dass eine andere Welt möglich ist – dass es gesellschaftliche Entscheidungen zu treffen gilt und dass Technologie kein Schicksal ist. Und sie befähigt uns alle, diese Entscheidungen, die uns betreffen, gemeinsam zu treffen. Eine alternative Geschichte allein wird die Welt nicht verändern, aber sie könnte dafür notwendig sein.

—

Nachdruck mit freundlicher Genehmigung aus «Die Mittel der Prädiktion: Wie KI wirklich funktioniert (und wer davon profitiert)» von Maximillian Kasy, erschienen bei Suhrkamp. © 2026 Maximillian Kasy. Alle Rechte vorbehalten.

Unterstützen Sie Berlin Review
Abos ab 5 € / Monat

Abos ansehen
Bio.:
Maximilian Kasy ist Professor für Ökonomie an der Universität Oxford und forscht zu künstlicher Intelligenz, maschinellem Lernen und wirtschaftlicher Ungleichheit.
More by this Author
Hier abonnieren, um diesen Text anzuhören.