Brad Smiths Warnung zur KI-Regulierung stellt Amerikas Wette auf Selbstregulierung infrage

Microsoft-Präsident Brad Smith sprach diese Woche eine deutliche Warnung aus: Für künstliche Intelligenz gelten weniger Sicherheitskontrollen als für Milch oder Waschmaschinen. Seine Argumentation zur KI-Regulierung stellt Washingtons Vorliebe für die Selbstregulierung der Branche infrage, während KI-Agenten mehr operative Freiheit gewinnen.

Smith möchte, dass Regierungen Vorfallsmeldungen, Benachrichtigungen von Betroffenen, unabhängige Bewertungen und Notfallkontrollen für fortgeschrittene Systeme vorschreiben. Diese Vorschläge gehen über freiwillige Verpflichtungen hinaus, die verantwortungsvolle Unternehmen einhalten können, während weniger sorgfältige Entwickler sie ignorieren.

Der Konflikt ist nicht einfach Microsoft gegen Deregulierung. Es geht um einen Wettbewerb zwischen durchsetzbaren Produktsicherheitsregeln und freiwilligen Zusagen, die das Entwicklungstempo bewahren sollen. Die Europäische Union hat sich bereits für verbindliche Pflichten entschieden, während die Vereinigten Staaten weiterhin darüber debattieren, wie viel Befugnis Regulierungsbehörden erhalten sollen.

Brad Smiths Äußerungen zur KI-Regulierung setzen die Messlatte höher

Smiths zentrale Forderung lautet, dass fortgeschrittene KI durchsetzbaren Sicherheitsverpflichtungen unterliegen sollte, bevor schwerwiegende Ausfälle zur Routine werden.

In einem am 11. Oktober veröffentlichten BBC-Interview verglich Smith die KI-Aufsicht mit den Prüfungen für gewöhnliche Verbraucherprodukte. Milch und Waschmaschinen müssen festgelegte Sicherheitsanforderungen erfüllen, während viele KI-Systeme Nutzern ohne eine vergleichbare Prüfung vor der Veröffentlichung bereitgestellt werden.

Die Analogie war bewusst zugespitzt. Die Regulierung von Milch betrifft Verunreinigungen, Kennzeichnung, Handhabung und Rückverfolgbarkeit. Vorschriften für Haushaltsgeräte decken elektrische Gefahren, Energieverbrauch und vorhersehbare mechanische Ausfälle ab. KI birgt andere Risiken, doch Smiths Vergleich zielt auf das Fehlen einer ähnlich ausgereiften Struktur für Rechenschaftspflicht.

Seine Argumentation umfasste vier praktische Maßnahmen. Entwickler sollten Notfallkontrollen vorhalten, schwerwiegende Vorfälle dokumentieren, Opfer KI-gestützter Sicherheitsverletzungen informieren und unabhängige Bewertungen akzeptieren, bevor besonders folgenschwere Systeme veröffentlicht werden.

Eine Notfallkontrolle, manchmal auch Kill Switch genannt, ermöglicht es einem Betreiber, ein System anzuhalten oder einzuschränken, wenn sein Verhalten genehmigte Grenzen überschreitet. Das klingt einfach, doch autonome Agenten verkomplizieren die Idee.

Ein KI-Agent ist Software, die mit begrenzter menschlicher Anleitung mehrere Schritte planen und ausführen kann. Er könnte Systeme durchsuchen, Tools aufrufen, Code schreiben, Daten verschieben oder mit anderen Diensten kommunizieren.

Das Anhalten eines einzelnen Modells stoppt nicht zwangsläufig einen verteilten Arbeitsablauf. Die relevanten Kontrollen müssen möglicherweise Anmeldedaten, Netzwerkzugriff, Tool-Berechtigungen, kopierte Agenten und nachgelagerte Anwendungen abdecken.

Smith konzentrierte sich daher auf operative Rechenschaftspflicht, nicht nur auf Modellgenauigkeit. Wenn ein Agent erwartete Grenzen überschreitet und eine andere Organisation kompromittiert, sollte die betroffene Partei eine formelle Benachrichtigung erhalten.

Dieser Vorschlag ähnelt Meldepflichten für Sicherheitsverletzungen, wie sie im Cybersecurity- und Datenschutzrecht verwendet werden. Er schafft einen Nachweis, setzt Fristen und liefert Betroffenen Informationen, die sie zur Eindämmung von Schäden benötigen.

Laut den im Interview beschriebenen globalen Sicherheitsregeln möchte Smith zudem, dass Regierungen entscheiden, wann externe Prüfer KI-Produkte vor ihrer Veröffentlichung bewerten sollten. Er bezeichnete KI sowohl als Werkzeug als auch als Waffe.

Microsoft wirbt seit Jahren für ähnliche Kontrollen. Sein Governance-Blueprint aus dem Jahr 2023 forderte Sicherheitsbremsen, wenn KI kritische Infrastruktur steuert, darunter Stromnetze, Wassersysteme und Verkehrsflüsse.

Der Blueprint zur KI-Governance argumentierte ebenfalls, dass die KI-Aufsicht nicht allein bei Technologieunternehmen bleiben sollte. Smiths jüngste Kommentare verschärfen diese Position mit Blick auf autonome Agenten und Cyberrisiken.

Der Wandel ist bedeutsam, weil generative KI nicht mehr nur Text oder Bilder erzeugt. Neuere Systeme können über Browser, Terminals, Datenbanken und Unternehmensanwendungen Handlungen ausführen.

Ein Chatbot-Fehler kann einen einzelnen Nutzer in die Irre führen. Ein Agent mit Zugangsdaten kann Datensätze ändern, vertrauliche Daten offenlegen oder eine Kette automatisierter Handlungen auslösen, bevor ein Mensch eingreift.

Dieser Unterschied macht Vorfallsmeldungen wichtiger. Organisationen können wiederkehrende Fehler nicht untersuchen, wenn Entwickler Ereignisse selektiv offenlegen oder schwerwiegende Vorfälle unterschiedlich definieren.

Smiths Warnung beweist nicht, dass KI buchstäblich überall unreguliert ist. Datenschutz-, Verbraucherschutz-, Diskriminierungs-, Produkthaftungs-, Urheberrechts- und branchenspezifische Gesetze können bereits greifen.

Sein enger gefasster Punkt ist besser begründbar. Den Vereinigten Staaten fehlt ein umfassendes Produktsicherheitsrahmenwerk, das speziell für fortgeschrittene KI mit allgemeinem Verwendungszweck und autonome Agenten entwickelt wurde.

Diese Lücke schafft den zentralen Konflikt des Artikels. Freiwillige Zusammenarbeit kann nützliche Praktiken schnell etablieren, zwingt jedoch nicht jeden Entwickler zur Einhaltung desselben Mindeststandards.

Der Druck trifft Regierungen und KI-Käufer

KI-Entwickler wollen sich schnell bewegen können, doch Kunden benötigen zunehmend Belege dafür, dass Geschwindigkeit nicht Rechenschaftspflicht ersetzt.

Smiths Kommentare setzen politische Entscheidungsträger unmittelbar unter Druck. Regierungen müssen entscheiden, ob fortgeschrittene KI vor allem ein Softwaredienst bleiben oder zu einer regulierten Produktkategorie werden soll, wenn sie folgenschwere Handlungen ausführt.

Die Antwort wirkt sich auf Tests, Dokumentation, Audits und Haftung aus. Sie bestimmt auch, welche Regulierungsbehörde Befugnisse erhält, wenn ein Agent in mehreren Branchen oder über nationale Grenzen hinweg Schaden verursacht.

Ein medizinischer Assistent, ein Recruiting-Tool, ein Coding-Agent und ein Kundenservice-Bot können dasselbe zugrunde liegende Modell nutzen. Ihre Risiken unterscheiden sich, weil jedes System andere Daten, Berechtigungen und Verantwortlichkeiten erhält.

Ein einheitliches Zulassungsverfahren wäre zu grob. Ein Rahmen ohne verpflichtende Mindestanforderungen würde Organisationen hingegen dazu zwingen, Sicherheitsstandards einzeln mit Anbietern auszuhandeln.

Unternehmenskunden tragen bereits einen großen Teil dieser Last. Sicherheitsteams prüfen Zugriffskontrollen, Datenspeicherung, Modellverhalten, Protokollierung und Anbietervereinbarungen, bevor sie KI-Einsätze genehmigen.

Diese Prüfungen werden schwieriger, wenn ein Agent Befehle ausführen kann. Ein Modell kann sich in einem Benchmark sicher verhalten und dennoch scheitern, nachdem es unerwartete Anweisungen aus einem Dokument, einer Website oder einem kompromittierten Tool erhalten hat.

Prompt Injection veranschaulicht das Problem. Eine in externen Inhalten verborgene bösartige Anweisung kann einen Agenten umleiten, selbst wenn der Nutzer diese Handlung nie beabsichtigt hat.

Organisationen können die Gefährdung verringern, indem sie Berechtigungen begrenzen, Systeme isolieren und für sensible Schritte Genehmigungen verlangen. Diese Kontrollen hängen jedoch von einer klaren Dokumentation durch Modell- und Anwendungsanbieter ab.

Verpflichtende Vorfallsmeldungen würden Käufern helfen, Ausfälle über verschiedene Systeme hinweg zu vergleichen. Standardisierte Berichte könnten die betroffene Fähigkeit, die Berechtigungen des Systems, die versagenden Schutzmaßnahmen und den entstandenen Schaden erfassen.

Die Benachrichtigung von Betroffenen ist ebenso wichtig. Ein Unternehmen kann einen Eindringversuch nicht eindämmen, wenn der Entwickler, der die Beteiligung des Agenten erkannt hat, nicht verpflichtet ist, dies unverzüglich mitzuteilen.

Unabhängige Tests könnten ebenfalls Informationslücken verringern. Modellanbieter verfügen über tieferes technisches Wissen, stehen jedoch unter kommerziellem Druck, schnell zu veröffentlichen und Ergebnisse günstig darzustellen.

Externe Prüfer können Fähigkeiten unter kontrollierten Bedingungen testen und interne Annahmen hinterfragen. Ihre Unabhängigkeit hängt weiterhin von Zugang, Finanzierung, rechtlicher Befugnis und Schutz vor Interessenkonflikten ab.

Microsofts KI-Sicherheitsregeln würden sowohl für Microsoft als auch für seine Wettbewerber Kosten verursachen. Das macht Smiths Position bedeutsamer, beseitigt jedoch nicht die kommerziellen Interessen des Unternehmens.

Große Unternehmen können Compliance-Kosten leichter tragen als Start-ups. Komplexe Regulierung kann Nutzer daher schützen und zugleich Markteintrittsbarrieren für kleinere Entwickler erhöhen.

Diese Spannung gibt Kritikern einen berechtigten Einwand. Regeln, die gemeinsam mit großen Forschungslaboren entwickelt werden, könnten Unternehmen begünstigen, die bereits große Rechts-, Sicherheits- und Policy-Teams betreiben.

Regierungen müssen wesentliche Schutzmaßnahmen von Papierarbeit trennen, die lediglich Verwaltungskapazität misst. Die Meldung eines schwerwiegenden Kontrollverlusts erfüllt einen klaren Zweck. Wiederholte Dokumente ohne technische Tests zu erstellen, tut dies nicht.

Käufer benötigen zudem interne Aufzeichnungen, die Anbieterbehauptungen mit Bereitstellungsentscheidungen verknüpfen. Eine durchsuchbare KI-Wissensdatenbank kann Teams helfen, Bewertungen, Genehmigungen, Vorfälle und Richtlinienänderungen über Abteilungen hinweg zu dokumentieren.

Dokumentation allein kann Sicherheit nicht garantieren. Sie kann jedoch festhalten, wer ein System genehmigt hat, welche Kontrollen vorhanden waren und wie eine Organisation auf eine Warnung reagierte.

Der Druck wird daher geteilt. Regierungen müssen durchsetzbare Mindeststandards definieren, Entwickler müssen aussagekräftige Nachweise offenlegen, und Kunden müssen kontrollieren, wie Systeme in ihren Umgebungen arbeiten.

Freiwillige KI-Sicherheitsregeln haben ein Abdeckungsproblem

Selbstregulierung funktioniert am besten unter kooperativen Unternehmen, während Regulierung besonders dann wichtig wird, wenn sich ein Unternehmen der Zusammenarbeit verweigert.

Smith räumte ein, dass freiwillige Vereinbarungen Fortschritte darstellen. Zugleich benannte er ihre strukturelle Schwäche: Verantwortungsvolle Unternehmen machen mit, doch Organisationen mit dem größten Risikopotenzial können außen vor bleiben.

Diese Unterscheidung wird wichtiger, je zugänglicher die Entwicklung wird. Eine freiwillige Verpflichtung, die von prominenten Forschungslaboren unterzeichnet wurde, bindet weder einen kleineren Anbieter noch einen ausländischen Betreiber oder einen Entwickler, der modifizierte Modelle verbreitet.

Dasselbe Problem zeigt sich nach der Veröffentlichung. Ein Unternehmen kann Bewertungen zusagen, jedoch eigene Tests, Schwellenwerte und Formulierungen zur Offenlegung wählen, sofern kein gemeinsamer Standard diese festlegt.

Selbstregulierung hat weiterhin Vorteile. Branchenverbände können technische Praktiken schneller aktualisieren als Gesetzgeber, Spezialisten gewinnen und experimentieren, bevor Regierungen neue Fähigkeiten verstehen.

Freiwillige Tests können auch sofort beginnen. Ein neues Gesetz kann Monate für Ausarbeitung, Anhörungen, Umsetzungsregeln, rechtliche Anfechtungen und die Einstellung von Regulierungsmitarbeitern benötigen.

Das stärkste Rahmenwerk würde beide Ansätze kombinieren. Das Gesetz würde Mindestpflichten festlegen, während technische Standards anpassbare Methoden zu ihrer Erfüllung definieren würden.

Smiths Position steht im Konflikt mit der Betonung einer schnellen amerikanischen Entwicklung und des Wettbewerbs mit China durch Präsident Donald Trump. Die Regierung argumentiert, belastende Regeln könnten heimische Unternehmen bremsen, während ausländische Rivalen voranschreiten.

Eine Anordnung des Weißen Hauses aus dem Jahr 2026 erklärte, die Vereinigten Staaten führten unter anderem deshalb, weil sie Innovation nicht durch übermäßige Regulierung erstickten. Sie betonte eine schnelle, sichere Einführung und eine engere Zusammenarbeit zwischen Regierung und Industrie.

Diese bundesweite KI-Politik spiegelt eine andere Risikotheorie wider. Der Verlust technologischer Führungsposition wird neben unsicherer Einführung zu einer Gefahr für die nationale Sicherheit.

Die Meinungsverschiedenheit ist keine einfache Wahl zwischen Sicherheit und Innovation. Beide Seiten behaupten, ihr Ansatz schütze nationale Wettbewerbsfähigkeit und öffentliche Sicherheit.

Smith argumentiert, dass vertrauenswürdige Systeme eine breitere Akzeptanz erreichen werden. Die Regierung argumentiert, dass verfrühte Regeln die heutige Technologie einfrieren, Kosten erhöhen und Dynamik preisgeben könnten.

China verkompliziert die Debatte zusätzlich. Regeln, die nur für amerikanische Unternehmen gelten, können ausländische Entwickler, Open-Weight-Veröffentlichungen oder über andere Rechtsordnungen eingesetzte Systeme nicht direkt regulieren.

Produktstandards können den Marktzugang jedoch weiterhin beeinflussen. Eine Regierung kann Tests, Berichterstattung und Rückverfolgbarkeit für Systeme verlangen, die in kritischen Sektoren eingesetzt werden – unabhängig davon, wo das Modell trainiert wurde.

In der Luftfahrt- und Medizintechnikbranche gilt eine ähnliche Logik. Hersteller sind weltweit tätig, doch Produkte müssen lokale Anforderungen erfüllen, bevor sie in regulierte Märkte gelangen.

Aus dieser Perspektive geht es bei KI-Regulierung weniger darum, jedes Modell zu genehmigen, sondern vielmehr darum, Einsätze mit gravierenden Folgen zu kontrollieren. Ein Schreibassistent sollte nicht derselben Prüfung unterliegen wie ein Agent, der Energieinfrastruktur betreibt.

Eine Risikoklassifizierung kann Flexibilität bewahren. Sie kann unabhängige Prüfungen für Systeme mit gefährlichen Fähigkeiten, weitreichender Autonomie, sensiblen Daten oder Zugriff auf kritische Abläufe vorbehalten.

Doch die Klassifizierung schafft eigene Schlupflöcher. Entwickler können ein System während der Prüfung eng beschreiben, während Kunden es später mit Tools verbinden, die deutlich folgenschwerere Anwendungen ermöglichen.

Die Verantwortung muss sich daher über die gesamte Lieferkette erstrecken. Modellanbieter kennen die Kernfähigkeiten, Anwendungsentwickler definieren Arbeitsabläufe, und Betreiber weisen Daten und Berechtigungen zu.

Kein einzelner Beteiligter überblickt das gesamte Risiko. Wirksame Regeln müssen festlegen, was jede Partei dokumentiert und wann die Verantwortung übergeht.

Smiths Kritik an der Selbstregulierung ist beim Thema Abdeckung am stärksten. Ein Versprechen seriöser Unternehmen kann weder universelle Pflichten begründen noch Konsequenzen gegen einen Betreiber durchsetzen, der es ignoriert.

Ihre Schwäche liegt bei der Präzision. „KI regulieren“ umfasst zu viele Systeme und Kontexte, um ohne detaillierte Schwellenwerte als umsetzbare Politik zu funktionieren.

Europa zeigt, dass Regulierung möglich ist – aber nicht einfach

Die Europäische Union ist von freiwilligen Grundsätzen zu durchsetzbaren Pflichten übergegangen, doch ihr gestaffeltes System zeigt, wie schwierig eine umfassende KI-Regulierung wird.

Der EU AI Act verfolgt einen risikobasierten Ansatz. Er verbietet bestimmte Praktiken, schafft Pflichten für General-Purpose-Modelle und legt zusätzliche Kontrollen für Systeme fest, die in sensiblen Bereichen eingesetzt werden.

Die Durchsetzungsbefugnisse für mehrere Bestimmungen gelten seit August 2026. Transparenzpflichten schreiben vor, dass Nutzer informiert werden, wenn sie mit bestimmten KI-Systemen interagieren oder auf festgelegte synthetische Inhalte stoßen.

Die Regeln betreffen auch General-Purpose-KI-Modelle mit systemischem Risiko. Relevante Anbieter unterliegen Pflichten in den Bereichen Evaluierung, Dokumentation, Cybersicherheit und Risikominderung.

Der AI-Act-Rahmen reguliert nicht jede Anwendung gleichermaßen. Die EU erklärt, dass die meisten Systeme mit minimalem Risiko außerhalb zusätzlicher verbindlicher Kontrollen bleiben.

Das stellt unmittelbar die Vorstellung infrage, Regierungen müssten zwischen umfassenden Beschränkungen und vollständiger Selbstkontrolle wählen. Regulierungsbehörden können Pflichten dort bündeln, wo der potenzielle Schaden größer ist.

Der Umsetzungsplan offenbart jedoch praktische Reibungen. Regeln für mehrere Hochrisiko-Anwendungen gelten erst ab Dezember 2027, während Anforderungen für KI, die in regulierte Produkte eingebettet ist, bis ins Jahr 2028 reichen.

Standards, Leitlinien, regulatorische Kapazitäten und Testmethoden brauchen Zeit. Unternehmen benötigen zudem Klarheit über Klassifizierungen und Dokumentation, bevor die Durchsetzung vorhersehbar wird.

Der EU-Ansatz stützt daher Smiths Argument, relativiert aber seine Dringlichkeit. Ein Gesetz zu verabschieden, setzt den Prozess in Gang, schafft aber nicht sofort kompetente Prüfer oder zuverlässige Bewertungsmethoden.

Die Prüfung von General-Purpose-Modellen bleibt besonders schwierig. Ein Modell kann nach Zugriff auf Tools, Fine-Tuning, System Prompts oder der Integration proprietärer Daten andere Fähigkeiten zeigen.

Eine Evaluierung vor der Veröffentlichung kann gefährliche Fähigkeiten erkennen, aber nicht jede nachgelagerte Konfiguration reproduzieren. Kontinuierliche Überwachung und Berichterstattung nach der Einführung bleiben notwendig.

Das Gesetz weckt zudem Wettbewerbsbedenken. Compliance kann juristische Expertise, technische Dokumentation und fortlaufendes Risikomanagement erfordern, das kleinere Anbieter nur schwer finanzieren können.

Befürworter entgegnen, dass Hochrisikoprodukte Sicherheitskosten tragen sollten. Ein Startup wird nicht von der Pflicht zum Schutz von Patienten befreit, nur weil medizinische Compliance teuer ist.

Kritiker halten dagegen, dass Software sich schneller verändert als physische Produkte. Starre Regeln können veralten, prozedurale Compliance belohnen oder offene Forschung hemmen, ohne das praktische Risiko zu verringern.

Beide Bedenken sind berechtigt. Regulierung kann durch zu geringe Reichweite scheitern und schwerwiegende Schäden unbehandelt lassen. Sie kann auch durch Überregulierung scheitern, indem sie Ressourcen auf Formulare statt auf Security Engineering lenkt.

Die Durchsetzungserfahrung der EU wird Belege für die Debatte über Brad Smiths KI-Regulierung liefern. Regulierungsbehörden müssen zeigen, dass Anforderungen Transparenz und Rechenschaftspflicht verbessern, ohne willkürliche Barrieren zu schaffen.

Das Vereinigte Königreich verfolgt einen anderen Weg. Es hat in technische Evaluierungskapazitäten investiert, ohne ein horizontales Gesetz nach EU-Vorbild zu verabschieden, das den gesamten KI-Markt abdeckt.

Smith beschrieb das Vereinigte Königreich aufgrund seines AI Security Institute als gut positioniert, globale Sicherheitsarbeit anzuführen. Das Institut begann als AI Safety Institute und erhielt 2025 einen auf Sicherheit ausgerichteten Auftrag.

Seine Arbeit umfasst die Untersuchung fortgeschrittener Fähigkeiten, Cybermissbrauch, Schutzmaßnahmen und staatlicher Vorsorge. Die Mission des Sicherheitsinstituts beschreibt eine staatlich unterstützte Organisation, die technische Forschung zur Unterstützung der Governance fortgeschrittener KI betreibt.

Diese Expertise könnte internationale Teststandards unterstützen. Ein Forschungsinstitut besitzt jedoch nicht automatisch die Befugnis, Offenlegungen zu erzwingen, Veröffentlichungen zu blockieren oder Verstöße zu sanktionieren.

Smith möchte, dass technische Kapazität und rechtliche Verpflichtung einander stärken. Das Vereinigte Königreich hat den ersten Teil entwickelt, während das Parlament beim zweiten weiterhin Entscheidungen treffen muss.

Globale Führungsrolle erfordert auch Zusammenarbeit. Ein von einem Land übernommener Standard hat begrenzte Reichweite, wenn Entwickler Modelle, Gewichte oder Dienste grenzüberschreitend veröffentlichen können.

Gemeinsame Berichtsformate und Evaluierungsmethoden könnten eher erreichbar sein als eine globale Regulierungsbehörde. Länder könnten kompatible Tests anerkennen und zugleich unterschiedliche Durchsetzungssysteme beibehalten.

Microsofts Position verdient einen eigenen Belastungstest

Microsofts Plädoyer für strengere Regeln ist glaubwürdig, doch politische Entscheidungsträger sollten prüfen, wer davon profitiert und ob die vorgeschlagenen Kontrollen in der Praxis funktionieren.

Microsoft verkauft Cloud-Infrastruktur, Sicherheitsdienste, Arbeitsplatzsoftware und KI-Systeme an stark regulierte Organisationen. Klare nationale Regeln können die Unsicherheit für diese Kunden verringern.

Das Unternehmen verfügt zudem über die Ressourcen, umfangreiche Compliance-Anforderungen zu erfüllen. Kleinere Wettbewerber können mit höheren proportionalen Kosten konfrontiert sein, insbesondere wenn Evaluierungen knappe Spezialisten oder teure Rechenleistung erfordern.

Das macht Smiths Vorschläge nicht falsch. Es bedeutet, dass politische Entscheidungsträger prüfen sollten, ob jede Maßnahme Risiken mindert, ohne die größten Anbieter von heute zu verfestigen.

Unabhängige Evaluierung ist ein Beispiel. Eine Vorgabe kann die Rechenschaftspflicht verbessern, aber nur, wenn Prüfer angemessenen Zugang haben und aussagekräftige Ergebnisse veröffentlichen können.

Eine Prüfung, die vollständig auf vom Anbieter ausgewählten Tests beruht, böte nur begrenzte Unabhängigkeit. Eine Prüfung ohne Zugang zu Systemdetails könnte Verhaltensweisen übersehen, die erst in Produktionsumgebungen auftreten.

Auch staatliche Prüfer benötigen qualifiziertes Personal. Behörden konkurrieren mit Technologieunternehmen um Forschende, die Modellsicherheit, Cyberoperationen und verteilte Systeme verstehen.

Kapazitätsgrenzen können Verzögerungen verursachen. Wenn jedes neue Modell eine vollständige Genehmigung benötigt, könnten Evaluierungswarteschlangen risikoarme Produkte ausbremsen, während Prüfer tatsächlich gefährliche Systeme übersehen.

Schwellenwerte sind daher entscheidend. Eine Prüfpflicht könnte sich auf Modelle konzentrieren, die festgelegte Fähigkeitsniveaus überschreiten, oder auf Systeme, die kritische Infrastruktur steuern.

Auch Fähigkeitsschwellen müssen regelmäßig überarbeitet werden. Eine Evaluierung, die heute eine außergewöhnliche Fähigkeit erkennt, kann mit der Verbesserung von Modellen zu einem Routinetest werden.

Notfallkontrollen stellen eine weitere Herausforderung dar. Ein zentralisierter Dienst kann den Zugriff aussetzen, Zugangsdaten widerrufen oder Tools deaktivieren. Ein Open-Weight-Modell, das auf viele Maschinen kopiert wurde, lässt sich nicht so einfach zurückrufen.

Selbst gehostete Systeme können über zwischengespeicherte Daten, verbundene Anwendungen oder delegierte Zugangsdaten einem einzelnen Kontrollpunkt entgehen. Ein Kill Switch muss die gesamte Bereitstellung berücksichtigen, nicht nur den Modellendpunkt.

Die Meldung von Vorfällen wirft Fragen zum Umfang auf. Entwickler benötigen Definitionen, die harmlose Fehler von Sicherheitsereignissen trennen, die regulatorische Aufmerksamkeit rechtfertigen.

Zu weit gefasste Anforderungen könnten Behörden mit geringfügigen Fehlern überfluten. Enge Definitionen könnten Unternehmen erlauben, schwerwiegende Beinahevorfälle oder nachgelagerte Schäden auszuklammern.

Regeln benötigen zudem Schutz für Meldungen. Organisationen könnten Vorfälle verschweigen, wenn die Offenlegung unmittelbare Haftung, Reputationsschäden oder die Preisgabe sensibler Sicherheitsinformationen verursacht.

Cybersicherheitspolitik balanciert häufig Vertraulichkeit und Rechenschaftspflicht. Regulierungsbehörden können detaillierte Berichte erhalten und zugleich aggregierte Erkenntnisse veröffentlichen, die anderen Organisationen bei Verbesserungen helfen.

Smiths Vorschlag zur Benachrichtigung von Opfern verdient besondere Aufmerksamkeit. Ein Ziel benötigt nach einem KI-gestützten Einbruch schnell Informationen, doch Ermittler müssen feststellen, was der Anbieter wusste und wann.

Ein KI-System kann einen Angreifer unterstützen, ohne selbstständig zu handeln. Regulierungsbehörden sollten Definitionen vermeiden, die jede Nutzung generativer Software als eigenständigen KI-Vorfall behandeln.

Die entscheidende Frage ist, ob das System erheblichen Schaden eingeführt, beschleunigt oder verschleiert hat. Berichte sollten diesen Beitrag beschreiben, statt sich auf dramatische Bezeichnungen wie rogue AI zu stützen.

Microsofts eigene Bereitstellungen sollten den von Smith empfohlenen Standards unterliegen. Dazu zählen Copilot-Produkte, auf Azure gehostete Modelle, Sicherheitsagenten und Systeme, die über kommerzielle Partnerschaften bereitgestellt werden.

Eine glaubwürdige Regel darf nicht von der bevorzugten Unternehmensstruktur des Anbieters abhängen. Die Verantwortlichkeiten müssen klar bleiben, wenn Modellentwickler, Cloud-Host, Anwendungsanbieter und Kunde die Kontrolle teilen.

Hier benötigen Microsofts KI-Sicherheitsregeln messbare Ergebnisse. Regulierungsbehörden sollten fragen, ob Kontrollen die Erkennungszeit verkürzen, unbefugte Handlungen begrenzen und die Wiederherstellung nach Ausfällen verbessern.

Sie sollten auch falsches Vertrauen prüfen. Eine bestandene Evaluierung kann zum Marketing-Siegel werden, selbst wenn sich die bereitgestellte Konfiguration vom geprüften System unterscheidet.

Kein Audit kann Sicherheit garantieren. Unabhängige Tests liefern Belege für definierte Bedingungen, keine dauerhafte Gewähr gegen jede künftige Nutzung.

Smiths Milchvergleich ist daher rhetorisch wirksam, technisch aber unvollständig. Milch ist ein standardisiertes physisches Produkt mit etablierten Kontaminationswegen und ausgereiften Inspektionsmethoden.

KI-Systeme sind anpassungsfähige Dienste, deren Verhalten sich mit dem Kontext verändert. Diese Komplexität stärkt das Argument für Aufsicht, erschwert jedoch die Gestaltung produktähnlicher Regulierung.

Die skeptische Schlussfolgerung lautet nicht, dass Regulierung warten sollte. Vielmehr müssen Regeln an tatsächliche Fähigkeiten, Berechtigungen und Schäden anknüpfen – statt an das breite Etikett „KI“.

Drei Signale werden zeigen, ob die Warnung die Politik verändert

Der nächste Test besteht darin, ob Regierungen breite Einigkeit über KI-Risiken in konkrete Pflichten überführen, die politischer und technischer Prüfung standhalten.

Das erste Signal ist ein verbindlicher Vorschlag zur Meldung von Vorfällen. Politische Entscheidungsträger sollten erfasste Systeme, schwerwiegende Vorfälle, Meldefristen, Opferbenachrichtigungen und Vertraulichkeitsschutz definieren.

Wenn ein großer Rechtsraum diese Elemente übernimmt, wird Smiths Argument vom Vergleich zur operativen Politik übergegangen sein. Ein freiwilliges Register oder ein undefiniertes Meldeversprechen wäre eine schwächere Reaktion.

Das zweite Signal ist ein erweiterter Zugang für unabhängige Prüfer. Regierungen benötigen Vereinbarungen, die qualifizierten Forschenden erlauben, fortgeschrittene Systeme vor Einsätzen mit gravierenden Folgen zu testen.

Das britische AI Security Institute bietet eine mögliche Grundlage. Sein Wert wird davon abhängen, ob Entwickler zeitnahen Zugang gewähren und ob Erkenntnisse Entscheidungen über die Bereitstellung beeinflussen.

Verpflichtender Zugang für klar definierte Hochrisikosysteme würde Smiths Argument stärken. Eine fortgesetzte Abhängigkeit von freiwilliger Zusammenarbeit würde zeigen, dass Selbstregulierung weiterhin die praktische Grenze setzt.

Das dritte Signal sind Belege aus der EU-Durchsetzung. Behörden müssen zeigen, wie Transparenz, Verpflichtungen für KI-Modelle mit allgemeinem Verwendungszweck und Kontrollen systemischer Risiken in realen Fällen funktionieren.

Eine konsequente Durchsetzung würde zeigen, dass verbindliche KI-Regeln in einem großen Markt funktionieren können. Widersprüchliche Auslegungen oder Verfahrensverzögerungen würden Bedenken hinsichtlich regulatorischer Komplexität stützen.

Die Vereinigten Staaten bleiben die folgenreichste Unbekannte. Der Kongress hat über bundesrechtlichen Vorrang, Regeln der Bundesstaaten, Produktsicherheit und einen zurückhaltenden nationalen Rahmen debattiert, ohne den zugrunde liegenden Zielkonflikt zu lösen.

In früheren Debatten im Kongress unterstützte Smith eine Führungsrolle des Bundes bei Produktsicherheit und Prüfungen vor der Veröffentlichung. Er zeigte sich außerdem offen dafür, dem Land Zeit zu geben, einen einheitlichen Ansatz zu entwickeln.

Diese Vorgeschichte verleiht der Sache zusätzliche Nuancen. Microsoft fordert weder, dass jeder Bundesstaat eigene Regeln erfindet, noch dass jede KI-Anwendung genehmigt werden muss.

Das Unternehmen scheint einen landesweit einheitlichen Rahmen zu bevorzugen, der sich auf fortgeschrittene Fähigkeiten und folgenreiche Bereitstellungen konzentriert. Branchenführer bevorzugen häufig bundesweite Einheitlichkeit, weil zersplitterte Regeln der Bundesstaaten die Compliance-Kosten erhöhen.

Die Debatte über den bundesweiten Rahmen legt auch eine politische Falle offen. Bundesrechtlicher Vorrang kann Verpflichtungen vereinfachen, aber ein Vakuum hinterlassen, wenn der Kongress Bundesstaaten blockiert, ohne Schutzmaßnahmen zu schaffen.

Für Entwickler lautet die unmittelbare Lehre, Systeme so zu gestalten, als würden Melde- und Auditpflichten kommen. Das bedeutet, Protokolle aufzubewahren, Berechtigungen von Tools zu dokumentieren, Abschaltverfahren zu testen und sensible Aktionen von Routineausgaben zu trennen.

Unternehmenskunden sollten dieselben Nachweise schon jetzt verlangen. Beschaffungsteams können Anbieter fragen, wer Vorfallsmeldungen erhält, welche Evaluatoren Zugang bekommen und wie Administratoren die Befugnisse eines Agenten widerrufen.

Auch Wissensarbeiter sollten sich dafür interessieren, weil agentische Tools zunehmend über E-Mails, Dokumente, Kalender, Code-Repositories und Kundendaten hinweg handeln. Eine falsche Antwort ist unerquicklich. Eine nicht autorisierte Aktion kann unumkehrbar sein.

Teams sollten für folgenreiche Schritte menschliche Genehmigungen beibehalten, Zugriffsrechte minimieren und festhalten, welche Quellen eine Aktion beeinflusst haben. Diese Kontrollen bleiben unabhängig von künftiger Gesetzgebung nützlich.

Die Warnung von Brad Smith zur KI-Regulierung wird nur dann Bedeutung haben, wenn sie zu durchsetzbaren Verantwortlichkeiten und technisch glaubwürdigen Standards führt. Ein einprägsamer Vergleich kann die Debatte eröffnen, aber die Ausgestaltungsarbeit nicht lösen.

Die beste Politik wird nicht jedes Modell wie einen Milchkarton behandeln. Sie wird erkennen, wann Software genügend Autonomie, Zugriff oder gefährliche Fähigkeiten erlangt, um eine stärkere Aufsicht zu erfordern.

Achten Sie in den nächsten drei Monaten auf einen konkreten Gesetzentwurf zur Vorfallsmeldung, erweiterten Zugang für Evaluatoren und öffentliche Belege aus der EU-Durchsetzung. Diese Signale werden zeigen, ob Regierungen Rechenschaftspflicht aufbauen oder die Ära der Versprechen verlängern.

Organisationen sollten nicht auf diese Antwort warten. Prüfen Sie, welche KI-Agenten handeln können, über welche Zugriffsrechte sie verfügen und wer benachrichtigt wird, wenn sie eine genehmigte Grenze überschreiten. Stellen Sie Anbietern dann eine direkte Frage: Würden ihre Sicherheitszusagen Sie weiterhin schützen, wenn ihre Einhaltung nicht länger optional wäre?