Die Turing-Falle: Warum Sparen mit KI teuer werden kann

Im Februar 2024 verkündete der schwedische Zahlungsdienstleister Klarna, sein neuer KI-Assistent habe im ersten Monat 2,3 Millionen Kundengespräche geführt und erledige damit die Arbeit von 700 Vollzeitkräften (1). Der Vorstandschef Sebastian Siemiatkowski wurde in den Monaten darauf zum lautesten Werbeträger der Substitution: KI könne im Grunde alle Aufgaben übernehmen, die bei Klarna Menschen erledigen. Die Belegschaft schrumpfte über einen Einstellungsstopp um mehr als ein Fünftel.

Im Mai 2025 saß derselbe Siemiatkowski vor Bloomberg und räumte ein, man sei zu weit gegangen: Der Fokus auf Kosten habe die Qualität gedrückt, künftig werde wieder eingestellt, damit Kundinnen und Kunden jederzeit einen Menschen erreichen können (2). Geblieben ist ein hybrides Modell, in dem die KI die einfachen Fälle übernimmt und Menschen die schwierigen.

Das war kein Technikversagen. Der Assistent funktionierte, die Gespräche wurden geführt, die Kosten sanken. Gescheitert ist eine Strategie: die Entscheidung, dieselbe Technologie ausschließlich als Ersatz für Menschen zu denken.

Der vorige Text in diesem Cluster endete mit der Frage, wessen Einkommen von einer KI-Investition am Ende profitiert. Auf Ebene der Volkswirtschaft ist das eine Frage von Sparquoten und Kapitalflüssen. In der einzelnen Organisation ist es eine Entscheidung, die jemand trifft, mit Namen und Budgetverantwortung.

Der Ökonom Erik Brynjolfsson hat für diese Entscheidung 2022 einen Begriff geprägt, der seither Karriere macht: die Turing-Falle (3). Seit Alan Turings Imitationsspiel gilt es als Königsdisziplin der KI, den Menschen so gut nachzuahmen, dass der Unterschied verschwindet. Genau diese Zielvorgabe, argumentiert Brynjolfsson, führt in die Irre. Eine KI, die Menschen imitiert, kann Menschen ersetzen; wer ersetzt wird, verliert Verhandlungsmacht, und die Wertschöpfung konzentriert sich bei denen, die die Technologie kontrollieren. Eine KI dagegen, die Menschen erweitert, schafft Fähigkeiten, die es vorher nicht gab, neue Produkte, neue Dienstleistungen, und die Menschen, die mit ihr arbeiten, behalten einen Anspruch auf den geschaffenen Wert.

Imitation kann den Menschen bestenfalls einholen. Erweiterung kann ihn übertreffen.

Das Bemerkenswerte an Brynjolfssons Analyse ist ihr Adressat: die Anreize. Bei Entwicklern, Führungskräften und Gesetzgebern seien sie systematisch zugunsten der Automatisierung verzerrt, obschon die Erweiterung langfristig mehr Wert schafft.

Warum entscheiden sich trotzdem so viele Organisationen für den Ersatz? Weil er die einfachere Geschichte erzählt. Personalkosten stehen in jeder Gewinn-und-Verlust-Rechnung als klar bezifferte Zeile; eine gestrichene Stelle spart ab dem nächsten Quartal sichtbar Geld. Was eine befähigte Belegschaft zusätzlich erwirtschaftet, taucht dagegen nirgends als eigene Position auf. Es versteckt sich in kürzeren Durchlaufzeiten, besseren Entscheidungen, gehaltenen Kunden, und es braucht Monate, manchmal Jahre, bis es messbar wird. Der Business Case der Substitution schreibt sich von selbst. Der Business Case der Befähigung verlangt Geduld und Vorstellungskraft.

Daron Acemoglu und Pascual Restrepo haben für die Kehrseite dieser Bequemlichkeit einen eigenen Begriff: so-so automation, mittelmäßige Automatisierung (4). Gemeint ist Technik, die gerade gut genug ist, um Menschen zu verdrängen, aber nicht gut genug, um die Produktivität spürbar zu heben. Ihr Lieblingsbeispiel ist die Selbstbedienungskasse im Supermarkt: Sie ersetzt die Kassiererin und macht den Einkauf um keinen Deut besser. Für die Bilanz ist das ein Nullsummenspiel mit Umverteilung nach oben. Der Lohn verschwindet, ein Teil davon wird zur Marge, die Gesamtleistung bleibt, wo sie war.

Mittelmäßige Automatisierung spart einen Lohn und gewinnt nichts.

Wie oft die einfache Geschichte gut ausgeht, lässt sich inzwischen beziffern. Das MIT hat 2025 in der Studie The GenAI Divide rund 300 öffentlich dokumentierte KI-Einführungen untersucht und kam zu einem Befund, der seither durch die Vorstandsetagen geistert: 95 Prozent der Pilotprojekte erreichen keinen messbaren Effekt in der Gewinn-und-Verlust-Rechnung, trotz geschätzter 30 bis 40 Milliarden Dollar an Investitionen (5). Die Autoren führen das Scheitern kaum auf die Modelle zurück. Es scheitert an der Organisation: an Werkzeugen, die sich nicht in Arbeitsabläufe fügen, an fehlendem Kontext, an Projekten, die am Tagesgeschäft vorbei geplant wurden.

Noch aufschlussreicher ist eine Stanford-Untersuchung aus demselben Jahr. Erik Brynjolfsson, Bharat Chandar und Ruyu Chen werteten die Lohnabrechnungsdaten von Millionen amerikanischer Beschäftigter aus und fanden bei den 22- bis 25-Jährigen in den am stärksten KI-exponierten Berufen einen relativen Beschäftigungsrückgang von 13 Prozent (6). Der entscheidende Nebenbefund steckt in der Aufschlüsselung: Die Rückgänge konzentrieren sich in Berufen, in denen KI menschliche Arbeit automatisiert. Wo sie Menschen erweitert, wächst die Beschäftigung auch bei den Jüngsten weiter.

Die Turing-Falle ist keine Denkfigur mehr. Sie steht in Lohnabrechnungen.

Befähigung ist kein weicheres Wort für dieselbe Sache. Sie verlangt anderes, und sie verlangt mehr. Prozesse müssen neu geschnitten werden, damit die Maschine die Routine übernimmt und der Mensch das Urteil. Beschäftigte brauchen Zeit und Ausbildung, um die Werkzeuge zu beherrschen, statt von ihnen beaufsichtigt zu werden. Und die Aufsicht selbst muss eine echte Rolle sein, mit Befugnis und Konsequenz, kein Feigenblatt am Ende einer automatischen Kette; warum genau das so selten gelingt, war hier im Blog unter dem Stichwort Kontrollillusion schon Thema.

Vor allem aber verlangt Befähigung dasselbe, was schon die Elektrifizierung verlangte: Umbau. Wer damals nur die Dampfmaschine gegen den Elektromotor tauschte und die Fabrik ließ, wie sie war, wartete Jahrzehnte auf die Rendite. Wer heute nur die Sachbearbeiterin gegen ein Sprachmodell tauscht und die Prozesse lässt, wie sie sind, wird sie ebenso lange suchen.

Damit schließt sich der Bogen zum Say'schen Gesetz. Ob eine Volkswirtschaft die Produktivitätsgewinne der KI in breite Einkommen übersetzt oder in konzentrierte Ersparnisse, entscheidet sich nicht in den Aggregaten, in denen Ökonomen rechnen. Es entscheidet sich in tausenden einzelnen Organisationen, die vor derselben Wahl stehen wie Klarna: dieselbe Technologie, zwei Strategien. Die Verteilungsfrage wird nicht in Statistiken beantwortet, sondern in Konferenzräumen.

Wer Menschen bloß ersetzt, hat von der Maschine zu wenig verlangt.