Die technischen Fehler von AI sind nicht dasselbe wie ihre Kapitalismusprobleme

Bruce Schneier hat in der AI-Debatte eine klare Trennlinie gezogen, nachdem über Jahre hinweg jeder Schaden als technischer Mangel behandelt wurde. Das Schneier-Sicherheitsargument besagt, dass unzuverlässige Modelle technische Probleme sind, während Überwachung, Arbeitsplatzverlust und konzentrierte Macht oft aus den Anreizen des Kapitalismus entstehen.

Schneier entwickelte das Argument gemeinsam mit dem Datenwissenschaftler Nathan E. Sanders in einem von Tech Policy Press veröffentlichten Essay. Sie vergleichen künstliche Intelligenz mit der frühen Industriellen Revolution, als Maschinen körperliche Arbeit in beispiellosem Umfang außerhalb menschlicher Körper verlagerten. AI verspricht nun, kognitive Arbeit in großem Maßstab außerhalb unserer Körper zu verlagern.

Dieser Vergleich enthält neben einem Versprechen auch eine Warnung. Dampfmaschinen entschieden nicht darüber, wem Fabriken gehörten, wie Arbeiter bezahlt wurden oder wo sich Umweltverschmutzung ansammelte. Diese Entscheidungen trafen Institutionen und Eigentümer.

Dieselbe Unterscheidung ist für AI wichtig. Ein Chatbot kann eine juristische Quelle erfinden, weil sein Vorhersageprozess weiterhin unzuverlässig ist. Ein Unternehmen kann denselben Chatbot einsetzen, um erfahrenes Personal abzubauen, weil Führungskräfte die Arbeitskosten senken wollen.

Diese Fehler erfordern unterschiedliche Gegenmaßnahmen. Besseres Training, Tests und Systemdesign können erfundene Antworten verringern. Sie können nicht entscheiden, ob Produktivitätsgewinne Arbeitnehmern, Kunden, Führungskräften oder Investoren zugutekommen sollten.

Darin liegt der zentrale Konflikt des Essays. Die öffentliche Debatte behandelt weiterhin ein Problem der wirtschaftlichen Verteilung als technische Aufgabe. Schneier und Sanders argumentieren, dass dies die Institutionen schützt, die die folgenreichen Entscheidungen treffen.

Der Schneier-Sicherheitsessay verändert die Analyseeinheit

Der Essay verlagert den Fokus von dem, was ein AI-Modell kann, auf die Frage, wer seine Fähigkeiten kontrolliert und ihren Wert abschöpft.

Schneier und Sanders beginnen mit der ungewöhnlichen Fähigkeit von AI, kognitive Aufgaben außerhalb eines menschlichen Geistes auszuführen. Software automatisiert seit Jahrzehnten Berechnungen, doch generative Systeme können inzwischen über zahlreiche Bereiche hinweg Entwürfe erstellen, klassifizieren, zusammenfassen, übersetzen und Empfehlungen geben.

Die Autoren behaupten nicht, dass heutige Systeme menschlichem Urteilsvermögen gleichkommen. Ihr Punkt betrifft Größenordnung und Integration. Selbst unvollkommene kognitive Automatisierung kann Institutionen verändern, wenn sie günstig, schnell und über Standardsoftware verfügbar wird.

Unternehmen integrieren generative Modelle bereits in Suche, Kundensupport, Programmierung, Marketing und administrative Arbeitsabläufe. Regierungen nutzen algorithmische Systeme, um Akten zu bearbeiten, Inspektionen zu priorisieren und Entscheidungen zu unterstützen, die Sozialleistungen oder öffentliche Dienste betreffen.

Diese Einsätze verbinden mindestens drei unterschiedliche Risikokategorien. Technische Risiken entstehen aus der Funktionsweise der Systeme. Institutionelle Risiken entstehen daraus, wo Organisationen sie einsetzen und wie viel Befugnis sie erhalten.

Politökonomische Risiken betreffen Eigentum, Verhandlungsmacht und die Verteilung von Kosten. Ein einzelner Einsatz kann alle drei enthalten, doch jeder erfordert einen anderen Eingriff.

Betrachten wir ein Modell, das Bewerbungen vorsortiert. Es könnte Kandidaten ungenau klassifizieren, weil seine Trainingsdaten bestimmte Gruppen schlecht abbilden. Das ist teilweise ein Daten- und Evaluierungsproblem.

Der Arbeitgeber könnte automatisierte Vorauswahl auch nutzen, um mehr Bewerbungen zu bearbeiten, ohne zusätzliche Recruiter einzustellen. Diese organisatorische Entscheidung verändert Umfang und Geschwindigkeit der Einstellung. Sie kann Möglichkeiten zur menschlichen Prüfung verringern.

Eine dritte Frage betrifft die Rechenschaftspflicht. Wenn abgelehnte Bewerber das System nicht anfechten können, hat die Institution Macht ohne wirksame Rechtsmittel übertragen. Kein Genauigkeitsmaßstab kann das fehlende Recht auf Einspruch schaffen.

Diese Trennung entschuldigt technische Fehler nicht. Sie verdeutlicht, welche Instrumente sie angehen können. Sicherheitstests, unabhängige Bewertungen, Meldungen von Vorfällen und Haftungsregeln bleiben notwendig, wenn Modelle vorhersehbaren Schaden verursachen.

Diese Kontrollen können jedoch weder Eigentum umverteilen noch Verhandlungsmacht wiederherstellen. Ein vollkommen präzises System kann weiterhin aufdringliche Überwachung, diskriminierende Politik oder eine ungerechte Verteilung von Produktivitätsgewinnen unterstützen.

Die Unterscheidung ähnelt der klassischen Sicherheitsanalyse. Eine Schwachstelle beschreibt einen Mangel, den jemand ausnutzen kann. Die umgebenden Anreize bestimmen, wer nach dieser Schwachstelle sucht, wer davon profitiert und wer den Schaden trägt.

Schneier analysiert Systeme seit Langem anhand von Anreizen statt allein anhand von Code. Seine Arbeit fragt, wie Regeln ausgenutzt werden und warum mächtige Akteure diese Regeln prägen können. AI erweitert diese Sorge, weil Automatisierung Tempo und Reichweite der Ausnutzung erhöht.

Diese Einordnung macht den Essay zu mehr als einer weiteren Liste von AI-Risiken. Er stellt infrage, ob die Kategorie „AI safety“ zu weit geworden ist. Wenn jeder soziale Konflikt dieses Etikett erhält, gewinnen technische Institutionen Autorität über Entscheidungen, die grundlegend politisch sind.

Diese Übertragung ist wichtig, weil Ingenieure, Modellentwickler und unternehmensinterne Sicherheitsteams innerhalb bestehender Eigentumsstrukturen arbeiten. Sie können Systeme verbessern, während die Ziele ihres Einsatzes unangetastet bleiben.

Der Essay verändert daher die Analyseeinheit. Das relevante Objekt ist nicht bloß das Modell. Es sind das Modell, sein Eigentümer, sein Geschäftsmodell, seine Nutzer und die Institution, die ihm Befugnisse verleiht.

Technische Probleme verlangen weiterhin technische Antworten

Die Trennung von Kapitalismusproblemen und technischen Problemen funktioniert nur, wenn echte technische Fehler sichtbar und durchsetzbar bleiben.

Aktuelle AI-Systeme können falsche Informationen erzeugen, sensible Daten offenlegen, schädliche Muster reproduzieren und sich außerhalb getesteter Bedingungen unvorhersehbar verhalten. Das sind keine eingebildeten Mängel, die durch schlechte ökonomische Analyse entstehen. Es sind beobachtbare Eigenschaften eingesetzter Systeme.

Eine erfundene Antwort wird oft als Halluzination bezeichnet, also als plausibler Output ohne verlässliche Belege. Retrieval-Systeme, Quellenangaben, eingeschränkte Werkzeuge und menschliche Prüfung können die Gefahr verringern. Keines davon garantiert unter allen Bedingungen Wahrheit.

Auch Bias hat eine technische Komponente. Trainingsdaten können Bevölkerungsgruppen unterrepräsentieren, historische Diskriminierung bewahren oder irreführende Ersatzmerkmale kodieren. Evaluierungssätze können diese Fehler übersehen, wenn sie die durchschnittliche Leistung statt der Folgen für betroffene Gruppen messen.

Sicherheit fügt eine weitere Ebene hinzu. Angreifer können Modelleingaben manipulieren, geschützte Informationen extrahieren, Trainingsdaten vergiften oder leistungsfähige Systeme in großem Maßstab missbrauchen. Entwickler benötigen Bedrohungsmodellierung, Zugriffskontrollen, Überwachung und Reaktionsverfahren.

Der internationale Sicherheitsbericht unterscheidet mehrere Formen von Schäden durch fortgeschrittene AI. Seine Analyse umfasst böswillige Nutzung, Systemfehler und breitere systemische Risiken.

Diese Breite ist nützlich, kann aber auch Verantwortlichkeiten verwischen. Ein Modell, das Zugangsdaten preisgibt, erfordert eine andere Abhilfe als ein Unternehmen, das Beschäftigte über rechtmäßige Software überwacht. Beides betrifft Sicherheit, doch nur eines hängt hauptsächlich von der Reparatur des Modells ab.

Dieselbe Regel gilt für autonome Systeme. Ein AI-Agent kann über externe Werkzeuge Handlungen ausführen, statt lediglich Text zu erzeugen. Entwickler müssen Berechtigungen beschränken, wichtige Handlungen überprüfen und Unterlagen für Untersuchungen vorhalten.

Doch Berechtigungsdesign kann nicht beantworten, ob ein Arbeitgeber jede Interaktion von Beschäftigten verfolgen sollte. Es kann das Überwachungssystem schwerer kompromittierbar machen. Es kann das Überwachungsverhältnis nicht fair machen.

Zuverlässige AI hängt auch vom Einsatzkontext ab. Ein Zusammenfassungsfehler in einer persönlichen Leseliste hat begrenzte Folgen. Derselbe Fehler in einer Krankenakte oder einer Leistungsentscheidung verlangt strengere Tests und Aufsicht.

Regulierung sollte diese Unterschiede widerspiegeln. Hochrisikoanwendungen benötigen Nachweise, die ihrem möglichen Schaden entsprechen. Organisationen sollten einen allgemeinen Haftungsausschluss nicht als Erlaubnis behandeln, ein unsicheres System überall einzusetzen.

Schneier und Sanders haben zuvor argumentiert, dass die Gesellschaft Technologien reguliert, wenn Fehler Menschen töten oder ihnen grundlegende Dienstleistungen verweigern können. Diese Logik verlangt keinen Entwicklungsstopp. Sie verlangt, Pflichten festzulegen, bevor vorhersehbare Fehler zur Routine werden.

Technische Standards können diese Pflichten unterstützen. Entwickler können Trainingsmethoden dokumentieren, die Leistung unter realistischen Bedingungen bewerten und schwere Vorfälle melden. Unabhängige Prüfer können Behauptungen testen, die interne Teams möglicherweise übersehen.

Auch Beschaffungsregeln können Verhalten verändern. Eine Regierungsbehörde oder ein großes Unternehmen kann Nachvollziehbarkeit, Einspruchsmöglichkeiten und Mindeststandards für Sicherheit verlangen. Anbieter konkurrieren dann innerhalb klarerer öffentlicher Erwartungen.

Diese Maßnahmen betreffen das Verhalten der Technologie. Sie bleiben unzureichend, wenn eine Organisation ein schädliches Ziel wählt. Ein System, das auf die Maximierung der Arbeitsleistung optimiert ist, könnte genau wie vorgesehen funktionieren und dennoch Autonomie untergraben.

Dieser Unterschied ist leicht zu übersehen, weil Software Politik in technische Parameter übersetzt. Ein Dashboard kann eine Managementforderung neutral erscheinen lassen. Ein Score kann ein umstrittenes Urteil wie eine Messung wirken lassen.

Bessere Modelle könnten dieses Problem sogar verschärfen. Höhere Genauigkeit macht Organisationen selbstsicherer bei der Automatisierung. Sie kann den Einsatz ausweiten, bevor Institutionen sinnvolle Grenzen dafür festlegen, wo automatisierte Befugnisse hingehören.

Die technologische Agenda muss daher Unsicherheit, Missbrauch und Systemsicherheit umfassen. Sie sollte keine Fragen vereinnahmen, für deren Entscheidung Ingenieuren die Legitimität fehlt. Klare Grenzen stärken beide Formen der Aufsicht.

Kapitalismusprobleme der AI beginnen mit Anreizen

Viele gefürchtete AI-Folgen ergeben sich aus gewöhnlichen Anreizen, Kosten zu senken, Märkte zu kontrollieren und Risiken auf Menschen mit geringerer Verhandlungsmacht abzuwälzen.

Ein Unternehmen benötigt kein böswilliges Modell, um Stellen abzubauen. Es braucht Führungskräfte, die erwarten, dass Automatisierung die Arbeitskosten senkt. Das System kann zuverlässig funktionieren, während die betroffenen Beschäftigten keinen Anteil an seinen Produktivitätsgewinnen erhalten.

Der Ökonom Daron Acemoglu trifft in seiner Forschung zu den Schäden von AI eine verwandte Unterscheidung. Er argumentiert, dass schädliche Folgen nicht zwangsläufig der AI-Technologie innewohnen. Sie können aus Entwicklungsentscheidungen resultieren, die Unternehmen und Regierungen gegenüber Arbeitnehmern und Bürgern bevorzugen.

Dies ist ein Kapitalismusproblem, weil der Markt private Erträge belohnt, nicht jeden gesellschaftlichen Nutzen. Ein Unternehmen verbucht niedrigere Lohnkosten als Einsparung. Den Einkommensverlust eines verdrängten Arbeitnehmers verbucht es nicht automatisch als eigene Kosten.

Ökonomen nennen dies eine Externalität, also Kosten oder Nutzen, die Menschen außerhalb einer Transaktion auferlegt werden. Umweltverschmutzung ist das bekannte Beispiel. Ein Betreiber kann Gewinne erzielen, während Anwohner die gesundheitlichen und ökologischen Schäden tragen.

AI kann durch Verdrängung, Überwachung, Desinformation, Diskriminierung und Ressourcenverbrauch Externalitäten erzeugen. Technische Verbesserungen können einige Kosten verringern. Sie können das verursachende Unternehmen nicht dazu zwingen, die verbleibende Rechnung zu bezahlen.

Wettbewerb kann den Druck verstärken. Ein Unternehmen könnte einen langsameren, arbeiterorientierten Einsatz bevorzugen. Dennoch fürchtet es, dass ein Wettbewerber schneller automatisiert und mit geringeren Kosten arbeitet.

Diese Dynamik macht aus der Entscheidung von Führungskräften ein Koordinationsproblem. Jedes Unternehmen reagiert innerhalb des Marktes rational, doch das Gesamtergebnis kann die Sicherheit für Beschäftigte verringern. Freiwillige Ethikprogramme haben gegen diesen Anreiz einen schweren Stand.

Investitionsmärkte erzeugen einen ähnlichen Druck. Der Wettlauf um KI-Investitionen ist zu einem der größten technologiegetriebenen Investitionsbooms in der amerikanischen Geschichte geworden. Forschende der Bank für Internationalen Zahlungsausgleich vergleichen seine Wettbewerbsdynamik mit früheren Infrastrukturmanien.

Die Analyse beschreibt einen Wettbewerb, in dem die Gewinner den Großteil des Marktes an sich ziehen. Unternehmen können zu viel investieren, weil jedes fürchtet, einen strategisch wichtigen Markt zu verlieren. Der private Wert eines Sieges kann den breiteren gesellschaftlichen Ertrag des Projekts übersteigen.

Das erklärt, warum Unternehmensausgaben keinen proportionalen öffentlichen Nutzen belegen. Riesige Rechenzentren, Trainingsläufe für Modelle und Vergütungspakete für Talente spiegeln strategischen Wettbewerb wider. Sie belegen nicht unabhängig davon eine höhere Produktivität in der gesamten Wirtschaft.

Die Internationale Arbeitsorganisation beschreibt ein „Aggregationsparadox“ bei der KI-Produktivität. Studien auf Aufgabenebene können erhebliche Zugewinne feststellen, während die Ergebnisse auf Unternehmens- und gesamtwirtschaftlicher Ebene gemischt bleiben. Die Einführung begünstigt zudem größere, digital fortgeschrittene Organisationen.

Diese Diskrepanz ist für Schneiers Sicherheitsthese relevant. Ein Werkzeug kann eine einzelne Arbeitskraft schneller machen, ohne eine gesamte Institution zu verbessern. Führungskräfte könnten dennoch Stellen abbauen, bevor sie wissen, ob sich die organisatorische Leistung verbessert.

Automatisierung kann zudem versteckte Arbeit schaffen. Beschäftigte müssen Modellausgaben prüfen, Fehler korrigieren, fehlenden Kontext wiederherstellen und Ausnahmen bearbeiten. Diese Aufgaben erscheinen selten in Produktdemonstrationen.

Beschäftigte stehen vor einem weiteren Anreizproblem, wenn KI zu einer Überwachungsschicht wird. Systeme können Tastenanschläge, Nachrichten, Anrufe, Standortdaten oder abgeleitete Stimmungslagen messen. Arbeitgeber gewinnen Informationen, während Beschäftigte die Kontrolle darüber verlieren, wie ihr Verhalten interpretiert wird.

Eine ILO-Analyse zum Arbeitsplatz verknüpft KI-gestützte Überwachung mit Arbeitsverdichtung, geringerer Autonomie, Datenschutzbedenken und psychosozialen Risiken. Für diese Schäden ist keine übermenschliche Intelligenz erforderlich.

Ein einfaches Klassifikationssystem kann Beschäftigte einstufen oder Verhalten markieren. Sein wirtschaftlicher Wert entsteht dadurch, dass es Managementkontrolle über eine große Belegschaft ausweitet. Eine höhere Klassifikationsgenauigkeit löst das zugrunde liegende Machtungleichgewicht nicht.

Verbraucher-KI stellt ein verwandtes Problem dar. Ein persönlicher Assistent wird nützlicher, je mehr er auf Nachrichten, Dokumente, Kalender und Browsing-Aktivitäten zugreifen kann. Dieser Zugriff erzeugt zugleich wertvolle Verhaltensdaten und höhere Wechselkosten.

Nutzer sollten berücksichtigen, wo Informationen liegen, wer sie weiterverwenden kann und ob die Anreize eines Dienstes mit ihren Bedürfnissen übereinstimmen. Eine persönliche Wissensdatenbank kann Fragmentierung verringern, doch Architektur und Governance bestimmen weiterhin, wer die Kontrolle behält.

Dieselbe Spannung zeigt sich in kreativer Arbeit. Generative Systeme können Autorinnen und Autoren helfen, Ideen zu erkunden oder Entwürfe zu überarbeiten. Sie können aber auch Plattformen unterstützen, die bezahlte Arbeit durch günstigere synthetische Inhalte ersetzen.

Das sind keine widersprüchlichen Beschreibungen der Technologie. Es sind unterschiedliche Anordnungen derselben Fähigkeit. Eigentumsverhältnisse, Verträge, Arbeitsschutz und Marktstruktur bestimmen, welche Anordnung dominant wird.

Bessere KI garantiert keine besseren Institutionen

Die unbequemste Folgerung ist, dass sicherere und leistungsfähigere KI Institutionen stärken kann, deren Ziele weiterhin keiner Rechenschaftspflicht unterliegen.

Die öffentliche Debatte geht häufig davon aus, dass Genauigkeit, Alignment und Transparenz KI gesellschaftlich nützlich machen werden. Diese Eigenschaften sind wichtig, doch sie betreffen das Verhalten von Systemen. Sie begründen weder legitime Zwecke noch faire Ergebnisse.

Stellen wir uns eine Sozialleistungsbehörde vor, die ein präzises Modell nutzt, um Fälle für Untersuchungen zu identifizieren. Das Werkzeug könnte Verwaltungsfehler reduzieren und komplexe Muster erkennen. Es könnte schutzbedürftige Antragstellende aber auch stärker überprüfen, als wohlhabendere Bürgerinnen und Bürger andernorts kontrolliert werden.

Die Präzision des Modells entscheidet nicht darüber, ob die Priorität der Durchsetzung fair ist. Sie legt auch nicht fest, wie viele Belege eine Untersuchung auslösen sollten. Das sind politische Entscheidungen, die durch Institutionen getroffen werden.

Ein zuverlässiges Überwachungswerkzeug erzeugt dieselbe Spannung. Bessere Gesichtserkennung kann falsche Treffer reduzieren. Sie macht dauerhafte Nachverfolgung jedoch auch günstiger und für Behörden oder private Betreiber attraktiver.

Je leistungsfähiger die Technologie wird, desto wichtiger werden diese Fragen der Befugnis. Schwache Systeme begrenzen schädliche Ambitionen manchmal durch bloße Unzulänglichkeit. Ihre Verbesserung kann diese unbeabsichtigte Beschränkung beseitigen.

Deshalb steht im Zentrum des Essays nicht Kapitalismus gegen Technologie. Es geht um technische Korrektur gegenüber institutioneller Reform. Der erste Ansatz wird irreführend, wenn er als vollständige Antwort präsentiert wird.

Unternehmensinterne KI-Sicherheitsteams können Modellfehler untersuchen und Missbrauch verringern. Sie können in der Regel nicht entscheiden, dass eine gesamte Umsatzstrategie verschwinden sollte. Ihre Budgets und Befugnisse bleiben unter der Kontrolle der Organisation, die von der Einführung profitiert.

Externe Audits stoßen auf ähnliche Grenzen. Ein Auditor kann prüfen, ob ein System einen definierten Standard erfüllt. Jemand muss jedoch weiterhin entscheiden, was dieser Standard schützt und welche Anwendungen verboten bleiben sollen.

Transparenz hilft Beobachtenden, das Verhalten eines Systems zu erkennen. Sie schafft nicht automatisch Handlungsmacht. Eine Arbeitskraft, die einen automatisierten Score versteht, kann ihn möglicherweise dennoch nicht ablehnen, ohne ihren Arbeitsplatz zu verlieren.

Auch die Einwilligung der Nutzer kann zu einer Formalität werden. Menschen akzeptieren regelmäßig lange Richtlinien, weil wesentliche Dienste keine praktikable Alternative lassen. Einwilligung bietet wenig Schutz, wenn eine Partei Zugang und Bedingungen kontrolliert.

Marktkonzentration verschärft diese Schwäche. Das Training großer Modelle erfordert umfangreiche Recheninfrastruktur, Datenzugang, spezialisierte Arbeitskräfte und Vertriebskanäle. Eine kleine Gruppe von Unternehmen kann sowohl die technische Entwicklung als auch die akzeptable Politik beeinflussen.

Konzentration kann Forschungsprioritäten verengen. Unternehmen investieren naturgemäß in Anwendungen, die wahrscheinlich Umsatz oder strategische Vorteile bringen. Gemeinwohlorientierte Anwendungen mit unsicheren Erträgen erhalten weniger Unterstützung, selbst wenn ihr gesellschaftlicher Wert hoch ist.

Schneier und Sanders befürworten öffentliche KI als eine Antwort. Eine öffentliche Option würde Modelle oder Infrastruktur bereitstellen, die durch öffentliche Institutionen gesteuert werden. Sie könnte einen Mindeststandard setzen, den private Anbieter erreichen müssen.

Dieser Vorschlag bringt eigene Risiken mit sich. Regierungen können Daten missbrauchen, Überwachung betreiben oder ohne ausreichende technische Fachkenntnisse handeln. Öffentliches Eigentum schafft nicht automatisch demokratische Rechenschaftspflicht.

Dennoch verändert eine öffentliche Option die Anreizstruktur. Ihr formales Ziel muss nicht darin bestehen, Werbeeinnahmen, Renditen für Investoren oder Anbieterbindung zu maximieren. Die Aufsicht kann sich auf Zugang, Transparenz, Kontinuität und öffentlichen Nutzen konzentrieren.

Wettbewerbspolitik bietet einen weiteren Ansatz. Behörden können Übernahmen, Cloud-Abhängigkeiten, exklusive Partnerschaften und Praktiken prüfen, die Nutzende am Wechsel von Diensten hindern. Diese Eingriffe richten sich auf die Marktstruktur statt auf Modellgewichte.

Arbeitsmarktpolitik ist ebenso wichtig. Tarifverhandlungen können Beschäftigten Einfluss auf Überwachung, Einführungspläne, Personalbesetzung und Produktivitätsgewinne geben. Informations- und Einspruchsrechte können automatisiertes Management begrenzen.

Steuerpolitik kann Externalitäten bepreisen, die Märkte ignorieren. Umweltvorschriften können eine genaue Berichterstattung und Gegenmaßnahmen verlangen. Haftung kann die Kosten fahrlässiger Einführung wieder stärker den Organisationen zuordnen, die sie kontrollieren.

Keine dieser Maßnahmen ersetzt technische Sicherheit. Sie wirken auf einer anderen Ebene. Sicherheitstests fragen, ob ein System sich wie erwartet verhält. Institutionelle Reform fragt, wer dieses Verhalten ausgewählt hat und wer es anfechten kann.

Kritiker können zu Recht bezweifeln, dass jeder KI-Schaden dem Kapitalismus zuzuschreiben ist. Autoritäre Regierungen können Überwachung ohne Marktanreize einsetzen. Öffentliche Behörden können ungerechte Politik automatisieren, und gemeinnützige Organisationen können personenbezogene Daten missbrauchen.

Technische Fehler prägen ebenfalls politisch-ökonomische Ergebnisse. Ein unzuverlässiges Modell kann Menschen unverhältnismäßig schaden, denen Zeit, Geld oder rechtliche Unterstützung fehlen. Technologie und Institutionen interagieren, statt voneinander abgeschottete Kategorien zu bilden.

Die Unterscheidung des Essays sollte daher als Diagnosewerkzeug dienen, nicht als absolute Trennung. Analysten sollten fragen, welcher Mechanismus bei jedem Schaden dominiert. Anschließend sollten sie die Lösung diesem Mechanismus zuordnen.

Was der Vergleich mit der Industriellen Revolution offenlegt

Die industrielle Analogie ist wichtig, weil die Geschichte zeigt, dass Produktivitätsgewinne sich nicht von selbst verteilen.

Dampfkraft erweiterte die Fähigkeit der Gesellschaft zu mechanischer Arbeit. Sie unterstützte Fabriken, Transportwesen, Rohstoffgewinnung und Massenproduktion. Zugleich entwickelte sie sich in Institutionen, die gefährliche Arbeitsplätze, Umweltverschmutzung und extreme Ungleichheit bei der Verhandlungsmacht tolerierten.

Diese Bedingungen waren keine unvermeidbaren Eigenschaften der Dampfmaschine. Sie spiegelten Rechtsregeln, Eigentumsverhältnisse, politische Macht und schwachen Schutz wider. Technologie erhöhte den Einsatz dieser Arrangements.

Beschäftigte errangen schließlich Sicherheitsstandards, Begrenzungen der Arbeitszeit, Tarifverhandlungsrechte und Sozialversicherungen. Regierungen entwickelten Umweltkontrollen und öffentliche Infrastruktur. Nichts davon entstand automatisch aus effizienteren Maschinen.

KI schafft ein vergleichbares Verteilungsproblem bei kognitiver Produktion. Wenn Systeme die Kosten für Analyse, Schreiben, Koordination und Softwareentwicklung senken, wird jemand diesen Überschuss abschöpfen. Bestehende Regeln beeinflussen stark, wer das ist.

Unternehmen können Gewinne über höhere Löhne, kürzere Arbeitswochen, bessere Dienstleistungen oder niedrigere Preise verteilen. Sie können sie aber auch in Vergütung für Führungskräfte, Marktexpansion oder Renditen für Kapitaleigentümer umwandeln.

Die Geschichte legt nahe, dass Unternehmen ohne Druck selten die breiteste Verteilung wählen. Wettbewerbliche Märkte können Preise senken, aber nur unter Bedingungen, die echten Wettbewerb stützen. Beschäftigte profitieren, wenn Arbeitsinstitutionen Verhandlungsmacht schaffen.

Die Analogie hat Grenzen. Industriemaschinen waren teuer, physisch und geografisch begrenzt. Generative Software kann sich über Cloud-Dienste und bestehende Geräte mit ungewöhnlicher Geschwindigkeit verbreiten.

KI ist zudem universell einsetzbar und anpassungsfähig. Ein Modell kann viele Aufgaben unterstützen, ohne dass eine Fabrik neu gebaut werden muss. Diese Flexibilität kann die Verbreitung beschleunigen und zugleich Rechenschaftspflicht schwerer lokalisierbar machen.

Kognitive Automatisierung betrifft Berufe, die frühere Maschinen unterstützten, statt sie zu ersetzen. Juristinnen und Juristen, Programmierende, Lehrkräfte, Analystinnen und Analysten, Designerinnen und Designer sowie Verwaltungsbeschäftigte sehen sich nun Systemen gegenüber, die direkt auf Teile ihrer Arbeit zielen.

Die relevante Einheit ist oft die Aufgabe statt der Beruf. Ein Job umfasst Urteilsvermögen, Kommunikation, routinemäßige Produktion, Rechenschaftspflicht und zwischenmenschliches Wissen. KI kann ausgewählte Komponenten automatisieren und zugleich die Nachfrage nach anderen erhöhen.

Dieser Prozess kann Beschäftigte unterstützen oder ihre Rollen verschlechtern. Eine Pflegekraft könnte weniger Zeit für die Dokumentation der Versorgung aufwenden. Dasselbe System könnte starre Produktivitätsziele vorgeben und die Zeit mit Patientinnen und Patienten verringern.

Eine Lehrkraft könnte KI nutzen, um differenzierte Übungen vorzubereiten. Eine Institution könnte stattdessen Klassengrößen erhöhen und erwarten, dass automatisierte Nachhilfe die Lücke schließt. Die Fähigkeit bleibt ähnlich, doch das organisatorische Ziel verändert sich.

Deshalb lassen sich die Probleme des KI-Kapitalismus nicht allein aus Benchmark-Ergebnissen vorhersagen. Leistung zeigt, was technisch möglich wird. Sie verrät nicht, welche Anwendungen Führungskräfte finanzieren oder welche Schutzmaßnahmen Gesetzgeber einführen werden.

Die industrielle Analogie warnt auch davor, auf Gewissheit zu warten. Arbeits- und Umweltregeln folgten oft erst auf sichtbare Schäden. Bis dahin waren Infrastruktur und Eigentumsmuster schwer zu verändern.

KI-Infrastruktur wird nun in Cloud-Plattformen, Unternehmenssoftware, Schulen und staatliche Systeme eingebettet. Frühe Entscheidungen bei Beschaffung und Interoperabilität können künftige Abhängigkeiten bestimmen.

Organisationen sollten Ausstiegsoptionen wahren. Sie benötigen portable Daten, klare Aufzeichnungen, menschliche Beschwerdewege und die Fähigkeit, Anbieter zu wechseln. Diese Schutzmechanismen senken die Kosten, eine schlechte institutionelle Entscheidung zu korrigieren.

Wissensarbeiter sollten zudem hilfreiche Unterstützung von delegierter Entscheidungsbefugnis trennen. Ein Modell kann bei der Dokumentensuche helfen oder Optionen entwerfen. Die endgültige Verantwortung sollte weiterhin eindeutig zuordenbar bleiben, wenn Entscheidungen Rechte, Beschäftigung, Gesundheit oder Sicherheit betreffen.

Die Lehre aus der Industrialisierung lautet nicht, dass KI ein weiteres Jahrhundert der Ausbeutung garantiert. Sie lautet, dass gesellschaftliche Ergebnisse bewussten institutionellen Aufbau erfordern. Technischer Fortschritt schafft Kapazitäten, nicht Gerechtigkeit.

Drei Signale werden Schneiers Sicherheitsargument auf die Probe stellen

Das Argument wird an Gewicht gewinnen, wenn Institutionen Einsatzanreize ebenso ernsthaft regulieren wie die Leistungsfähigkeit von Modellen.

Das erste Signal ist, ob Regierungen durchsetzbare Regeln für Anwendungen mit hohem Einfluss erlassen. Achten Sie auf Beschaffungsstandards, Beschwerderechte, Haftung und Einschränkungen bei der Überwachung am Arbeitsplatz oder im öffentlichen Sektor.

Alleinige Anforderungen an Modellsicherheitstests würden die institutionelle Antwort schwächen. Sie würden nahelegen, dass ein Einsatz akzeptabel wird, sobald ein System eine Leistungsschwelle überschreitet. Dieser Ansatz lässt Zweck, Autorität und Macht weitgehend unberührt.

Regeln zu Entscheidungsrechten würden Schneier und Sanders stützen. Eine von automatisierter Beurteilung betroffene Person sollte wissen, dass Automatisierung eingesetzt wurde. Diese Person sollte Zugang zu einer substanziellen Überprüfung durch eine rechenschaftspflichtige Institution haben.

Das zweite Signal ist, wie Unternehmen messbare Produktivitätsgewinne verteilen. Beobachten Sie Personalentscheidungen, Arbeitsintensität, Löhne, Arbeitszeiten und Preise neben Behauptungen über schnellere Ergebnisse.

Ein Unternehmen, das KI nutzt, um die Arbeitswoche ohne Lohneinbußen zu verkürzen, bietet ein institutionelles Modell. Ein Unternehmen, das Personal abbaut und gleichzeitig die Überwachung ausweitet, bietet ein anderes. Beide könnten technisch sehr ähnliche Software einsetzen.

Zuverlässige Evidenz bleibt hier unverzichtbar. Verbesserungen der Geschwindigkeit auf Aufgabenebene sollten nicht mit gesamtwirtschaftlicher Produktivität gleichgesetzt werden. Organisationen müssen Prüfaufwand, Integrationskosten, Fehler und verlorenes Fachwissen erfassen.

Das dritte Signal ist, ob Alternativen zu konzentrierter Unternehmensinfrastruktur glaubwürdig werden. Öffentliche Modelle, offene Standards, interoperable Dienste und wettbewerbliche Cloud-Märkte können die Abhängigkeit von wenigen Anbietern verringern.

Öffentliche KI muss vorsichtig bewertet werden. Governance, Datenschutz, Sicherheit, Finanzierung und unabhängige Aufsicht sind wichtiger als das öffentliche Etikett. Ein schlecht geführtes staatliches System kann dieselbe Konzentration unter anderen Eigentumsverhältnissen reproduzieren.

Glaubwürdige Alternativen würden jedoch die Verhandlungsdynamik verändern. Private Anbieter stünden unter Druck, bessere Transparenz, Portabilität und langfristigen Zugang zu bieten. Nutzer erhielten Optionen, die über die Akzeptanz der sich wandelnden Bedingungen eines einzelnen Unternehmens hinausgehen.

Die nächsten Monate werden die Wirkung von KI auf die Gesellschaft nicht abschließend klären. Die Integration in Arbeitsplätze und Behörden wird sich über Jahre erstrecken. Frühe Entscheidungen werden dennoch Standards setzen, deren Rücknahme teuer wird.

Leser sollten Schneiers Sicherheitsunterscheidung anwenden, sobald eine neue KI-Kontroverse aufkommt. Fragen Sie zunächst, ob der Schaden aus technischem Verhalten, Einsatzbefugnis oder wirtschaftlichen Anreizen entsteht. Fragen Sie dann, wer davon profitiert, ihn als technisches Problem zu bezeichnen.

Diese letzte Frage ist wichtig, weil Kategorien Verantwortung verteilen. Wenn ein Arbeitskonflikt zu einem „Alignment-Problem“ wird, scheinen Modellentwickler die Lösung zu verantworten. Arbeitgeber, Investoren und Gesetzgeber treten in den Hintergrund.

Eine wirksame Antwort muss alle verantwortlichen Akteure sichtbar halten. Entwickler sollten Systeme sicherer und zuverlässiger machen. Einsatzverantwortliche sollten ihre Anwendungen rechtfertigen, und Regierungen sollten Rechte etablieren, die Märkte nicht bereitstellen werden.

Es geht nicht darum, KI zu entschuldigen oder jeden Markt zu verurteilen. Es geht darum, nicht länger zu erwarten, dass bessere Software eine umstrittene Machtverteilung repariert. Technische Lösungen können Maschinen verbessern, doch Menschen müssen weiterhin die Institutionen reformieren, die sie steuern.

Welche Ebene behandelt Ihre Organisation heute als KI-Problem? Benennen Sie einen technischen Fehler, eine Einsatzentscheidung und einen Anreiz, der sie prägt. Weisen Sie jedem einen verantwortlichen Eigentümer zu und prüfen Sie dann, ob die vorgeschlagene Maßnahme die tatsächliche Ursache erreicht.