Britische Regulierung von KI-Modellen kann riskante Veröffentlichungen nicht stoppen, warnt Parlamentsausschuss
Das Vereinigte Königreich kann derzeit nicht verhindern, dass ein riskantes Modell künstlicher Intelligenz veröffentlicht wird – obwohl es mehr als ein Dutzend Regulierungsbehörden und ein spezialisiertes Sicherheitsinstitut unterhält.
Diese Feststellung setzt die britische Regulierung von KI-Modellen stärker unter Druck als eine weitere abstrakte Debatte über verantwortungsvolle Innovation. Der Gemeinsame Ausschuss für Menschenrechte des Parlaments erklärt, dem Land fehle eine Aufsichtsbehörde, die Zugang zu fortgeschrittenen Modellen verlangen oder ihren Einsatz untersagen könne.
Der Ausschuss veröffentlichte seinen Bericht am 14. September, nachdem er mehr als 70 schriftliche Stellungnahmen erhalten und zehn mündliche Beweisanhörungen durchgeführt hatte. Seine Schlussfolgerung stellt die sektorgeführte Strategie der Regierung infrage, die bestehende Gesetze überwiegend erst anwendet, nachdem ein KI-System eingesetzt wird.
Der unmittelbare Konflikt besteht zwischen freiwilliger Zusammenarbeit und durchsetzbarer Aufsicht. Das AI Security Institute kann Modelle bewerten, wenn Entwickler Zugang gewähren, doch Unternehmen sind rechtlich nicht verpflichtet, sie vorzulegen.
Der Ausschuss will dieses Verhältnis umkehren. Sein vorgeschlagenes KI-Gesetz würde Entwickler verpflichten, leistungsstarke Modelle zur Prüfung einzureichen, eine vorherige Genehmigung für Hochrisikosysteme einführen und eine unabhängige Regulierungsbehörde stärken.
Diese Empfehlung kommt zu einer Zeit, in der Basismodelle zunehmend Produkte in Beschäftigung, Finanzwesen, Bildung, Polizeiarbeit, Gesundheitsversorgung und öffentlichen Dienstleistungen unterstützen. Eine vorgelagerte Schwachstelle kann sich daher auf viele Organisationen ausbreiten, bevor eine betroffene Person überhaupt weiß, dass KI beteiligt war.
Die Lücke in der britischen Regulierung von KI-Modellen ist nun ausdrücklich benannt
Die zentrale Feststellung des Ausschusses ist eng gefasst, aber folgenreich: Großbritannien verfügt über Fachwissen zur Prüfung fortgeschrittener Modelle, jedoch über keine Behörde, die Tests erzwingen oder eine Veröffentlichung stoppen kann.
Das AI Security Institute, bekannt als AISI, nahm im November 2023 seine Arbeit auf. Es erforscht die Fähigkeiten und Schutzvorkehrungen von Frontier-Modellen, also hochleistungsfähigen Allzwecksystemen an der Spitze der Entwicklung.
AISI arbeitet mit Entwicklern zusammen, die vor dem Einsatz freiwillig Zugang gewähren. Laut dem Bericht zur KI-Regulierung des Ausschusses kann es diesen Zugang weder vor noch nach der Einführung eines Modells verlangen.
Es kann zudem keine Bedingungen für Veröffentlichungen auferlegen, keine verbindlichen Abhilfeanordnungen erlassen und keinen Einsatz verhindern. Seine Erkenntnisse können die Regierung informieren, fungieren jedoch nicht als regulatorische Genehmigungsentscheidungen.
Dieser Unterschied ist wichtig, weil technischer Zugang bestimmt, was ein Prüfer tatsächlich untersuchen kann. Öffentliche Chat-Oberflächen offenbaren nur einen begrenzten Teil des Verhaltens eines Modells, seiner Schutzvorkehrungen, Systemanweisungen und Einsatzkontrollen.
Eine aussagekräftige Bewertung erfordert häufig kontrollierte Tests, technische Dokumentation und Zeit vor der Veröffentlichung. Eine Aufsichtsbehörde benötigt außerdem ein Verfahren, um schwerwiegende Feststellungen zu behandeln und zu überprüfen, ob zugesagte Korrekturen funktionieren.
Ohne verpflichtenden Zugang entscheiden Entwickler, welche Modelle AISI sieht, wann die Tests beginnen und welches Begleitmaterial verfügbar wird. Kommerzielle Zeitpläne können schneller voranschreiten als freiwillige Bewertungsvereinbarungen.
Die Aussage des Ausschusses bedeutet nicht, dass KI außerhalb jedes britischen Rechts operiert. Datenschutz-, Gleichbehandlungs-, Verbraucherschutz-, Produktsicherheits-, Finanzdienstleistungs- und Online-Sicherheitsvorschriften können unter bestimmten Umständen bereits greifen.
Das Problem betrifft Zeitpunkt, Abdeckung und Verantwortung. Die meisten bestehenden Befugnisse befassen sich mit der Nutzung eines Modells innerhalb einer regulierten Tätigkeit, nicht mit dem Basismodell, bevor es viele nachgelagerte Nutzer erreicht.
Die Bibliothek des Unterhauses beschreibt den britischen Ansatz als kontextbezogene Regulierung durch bestehende Rechtsrahmen. Behörden wie das Information Commissioner’s Office und Ofcom überwachen spezifische rechtliche Pflichten innerhalb ihrer etablierten Zuständigkeiten.
Diese Struktur kann funktionieren, wenn ein Risiko eindeutig einem regulierten Sektor zuzuordnen ist. Sie stößt an Grenzen, wenn ein Allzweckmodell gleichzeitig Entscheidungen und Dienstleistungen in mehreren Sektoren unterstützt.
Ein System zur Bewerbervorauswahl, ein Kundenservice-Chatbot, ein medizinischer Assistent und ein Leistungsverwaltungs-Tool könnten auf demselben zugrunde liegenden Modell basieren. Ihre Betreiber können jedoch unterschiedlichen Regulierungsbehörden, Pflichten, Beweisstandards und Durchsetzungsmechanismen unterliegen.
Der Ausschuss argumentiert, dass diese Zersplitterung keine Institution für das Risiko auf Modellebene zuständig lässt, das diese Anwendungen verbindet. Sie ermöglicht es Entwicklern zudem, erhebliche Verantwortung auf Kunden mit geringeren technischen Ressourcen zu übertragen.
Sein Bericht betrachtet das Fehlen von Befugnissen vor der Veröffentlichung daher als strukturelle Lücke. Es geht nicht bloß darum, dass Regulierungsbehörden mehr Leitlinien oder einen weiteren freiwilligen Standard benötigen.
Es geht darum, dass keine bestehende Stelle einen Entwickler verpflichten kann, ein leistungsstarkes Modell zur Bewertung offenzulegen. Keine Stelle kann anschließend ein gefährliches Testergebnis in eine verbindliche Entscheidung gegen die Veröffentlichung umsetzen.
Ein nachgelagertes System kann ein vorgelagertes Risiko nicht zuverlässig kontrollieren
Großbritannien reguliert viele KI-Schäden dort, wo Systeme eingesetzt werden, während der Ausschuss die Verantwortung stärker zu den Unternehmen verlagern will, die die zugrunde liegenden Modelle entwickeln.
Basismodelle können viele Aufgaben ausführen und als Komponenten in anderen Produkten dienen. Die GPT-Modelle von OpenAI, Claude von Anthropic, Gemini von Google und Llama von Meta veranschaulichen diese Allzweckebene.
Organisationen können diese Modelle mit ihren eigenen Daten, Schnittstellen und Arbeitsabläufen verbinden. Sie können ein Modell feinabstimmen, Retrieval-Systeme ergänzen, Verhaltensanweisungen schreiben oder ihm die Nutzung externer Werkzeuge erlauben.
Diese Struktur schafft eine KI-Lieferkette. Modellentwickler, Cloud-Anbieter, Anwendungsentwickler, Datenlieferanten, Integratoren, Arbeitgeber, öffentliche Stellen und Endnutzer können alle das Endergebnis beeinflussen.
Die Kette erschwert die Rechenschaftspflicht, weil jeder Beteiligte unterschiedliche Informationen kontrolliert. Ein Kunde, der ein Modell einsetzt, kann dessen Ausgaben sehen, ohne seinen Trainingsprozess, verborgene Einschränkungen oder interne Sicherheitstests zu verstehen.
Der Entwickler weiß mehr über das Basismodell. Er kontrolliert jedoch möglicherweise nicht jede spätere Anwendung, Eingabeaufforderung, jeden Datensatz oder jede Entscheidung, die ein Kunde darum herum aufbaut.
Die bestehende britische Regulierung konzentriert die Haftung häufig nahe am Einsatzort. Ein Arbeitgeber bleibt für diskriminierende Einstellungen verantwortlich, während eine öffentliche Stelle für Entscheidungen über Leistungen oder Polizeiarbeit rechenschaftspflichtig bleibt.
Diese Pflichten bleiben wichtig. Der Einwand des Ausschusses lautet, dass nachgelagerte Rechenschaftspflicht allein Akteuren zu viel Last aufbürdet, die vorgelagerte Mängel weder prüfen noch beheben können.
Die Tendenzen eines Modells können zudem viele Kunden gleichzeitig erreichen. Wenn dasselbe Basismodell in zahlreichen Anwendungen unzuverlässige Ratschläge, diskriminierende Muster oder ausnutzbares Verhalten hervorbringt, kommt eine fallweise Durchsetzung zu spät.
Der Maßstab verändert das Regulierungsproblem. Herkömmliche Aufsicht kann einen einzelnen Arbeitgeber, eine Bank, eine Plattform oder eine öffentliche Stelle untersuchen, nachdem Hinweise auf Schäden auftreten.
Ein weit verbreitetes Basismodell kann verwandte Risiken über diese Grenzen hinweg verbreiten, bevor einzelne Regulierungsbehörden die gemeinsame Ursache erkennen. Die betroffenen Organisationen könnten jeden Vorfall zunächst als isolierten Fehler beim Einsatz betrachten.
Der menschenrechtliche Fokus des Ausschusses macht diese Verzögerung besonders gravierend. Menschen wissen möglicherweise nicht, dass ein automatisiertes System eine Entscheidung zu Beschäftigung, Polizeiarbeit, Disziplinarmaßnahmen oder öffentlichen Dienstleistungen beeinflusst hat.
Ohne Offenlegung können sie keine relevanten Unterlagen anfordern oder die Rolle des Modells anfechten. Selbst wenn der Einsatz von KI bekannt wird, liefert ein komplexes Modell möglicherweise keine klare Erklärung für seine Ausgabe.
Der Bericht nennt Gleichbehandlung, Privatsphäre, Datenschutz und Zugang zu einem wirksamen Rechtsbehelf als zentrale Anliegen. Diese beschränken sich nicht auf hypothetische KI-Systeme auf menschlichem Niveau.
Zeugen beschrieben aktuelle Anwendungen, darunter Mitarbeiterüberwachung, Gesichtserkennung, Risikoprofilierung von Gefangenen, Betrugserkennung bei Sozialleistungen und automatisierte Entscheidungen mit erheblichen Folgen.
Der Ausschuss berichtete, dass zwischen dem 1. Januar und dem 29. Oktober 2025 bei polizeilichen Gesichtserkennungseinsätzen die Gesichter von rund 3 Millionen Menschen gescannt wurden. Seine Sorge geht über die Genauigkeit hinaus und betrifft Einwilligung, Verhältnismäßigkeit, Transparenz und die Möglichkeit, Rechtsbehelf zu suchen.
Er verwies auch auf Beispiele von Arbeitsplatzsystemen, die Beschäftigte nach alltäglichem Verhalten zur Untersuchung markierten, darunter das Anhalten an Ampeln. Solche Beispiele zeigen, wie gewöhnliche automatisierte Systeme unmittelbar Streitfragen zu Beweisen und Rechenschaftspflicht schaffen können.
Ein menschlicher Prüfer löst das Problem nicht automatisch. Menschen können algorithmischen Empfehlungen folgen, nicht über die Informationen verfügen, um sie infrage zu stellen, oder eine Ausgabe lediglich verfahrensmäßig bestätigen.
Der Ausschuss will, dass die UK-GDPR-Regeln klarstellen, dass ein nomineller „Mensch in der Schleife“ keine sinnvolle Intervention darstellt. Ein Prüfer sollte informiert, unabhängig und in der Lage sein, ein objektives Urteil zu fällen.
Dieses Prinzip legt das umfassendere Problem offen, mit dem die britische Regulierung von KI-Modellen konfrontiert ist. Aufsicht kann nicht von der Anwesenheit eines Menschen abhängen, wenn diese Person keine Informationen darüber hat, wie das System zu seinem Ergebnis gelangt ist.
Freiwillige Modelltests haben keine durchsetzbare Absicherung
Die gegenwärtige Regelung hängt davon ab, dass KI-Entwickler kooperieren, selbst wenn kommerzielle Anreize für Vertraulichkeit, schnelle Veröffentlichung und begrenzte externe Kontrolle sprechen.
Freiwillige Tests sind nicht bedeutungslos. Sie können Regierungsforschern frühzeitigen Zugang verschaffen, gemeinsame Bewertungsmethoden verbessern und Entwicklern helfen, Probleme zu erkennen, bevor Kunden ihnen begegnen.
AISI bietet zudem technische Kapazitäten, über die viele herkömmliche Regulierungsbehörden nicht verfügen. Die Regierung hat seinen Zugang zu Modellen vor dem Einsatz als im internationalen Vergleich ungewöhnlich umfangreich beschrieben.
Freiwillige Zusammenarbeit und gesetzliche Befugnisse beantworten jedoch unterschiedliche Fragen. Zusammenarbeit hilft, wenn ein Entwickler einer Teilnahme zustimmt. Befugnisse bestimmen, was geschieht, wenn er sie ablehnt, verzögert oder die Feststellungen des Prüfers bestreitet.
Der Ausschuss erklärt, dass AISI derzeit keine Regulierungsbefugnisse besitzt. Das Institut arbeitet als Forschungseinrichtung und nicht als Genehmigungsbehörde, die mit Regulierungsstellen vergleichbar wäre, welche unsichere Produkte beschränken können.
Modellentwickler haben eigene Sicherheitsrahmen und Risikoschwellen veröffentlicht. Einige versprechen, keine Systeme einzusetzen, wenn schwerwiegende Risiken nicht unter intern definierte Grenzen gesenkt werden können.
Diese Rahmenwerke können nützliche Verfahren schaffen, doch Unternehmen wählen ihren Umfang, ihre Belege, Schwellenwerte und Offenlegungspraktiken selbst. Sie behalten außerdem erhebliche Kontrolle darüber, ob ein Modell diese Bedingungen erfüllt.
Der Ausschuss hörte Bedenken, dass finanzielle Anreize freiwillige Zusagen unzuverlässig machen. Ein Unternehmen, das unter Wettbewerbsdruck steht, kann erheblichen Schaden erleiden, wenn ein Rivale zuerst ein leistungsfähigeres Modell veröffentlicht.
Dies belegt nicht, dass Entwickler Sicherheitsfeststellungen routinemäßig ignorieren. Es bedeutet, dass dem System eine unabhängige Absicherung fehlt, wenn Unternehmensurteile und Einschätzungen des öffentlichen Risikos auseinandergehen.
Der Ausschuss schlägt drei miteinander verbundene Änderungen vor. Erstens würde AISI eine gesetzliche Grundlage und einen klar definierten Auftrag erhalten, neue oder wesentlich überarbeitete leistungsstarke Modelle zu prüfen.
Zweitens müssten Entwickler diese Modelle zur Bewertung einreichen. Außerdem müssten sie technische Spezifikationen zu Modelleigenschaften, Training, vorgesehenen Verwendungszwecken, Tests und Risikokontrollen bereitstellen.
Drittens würde AISI Erkenntnisse vor der Veröffentlichung publizieren und vorläufige Warnungen aussprechen. Es würde einer Durchsetzungsbehörde empfehlen, wenn ein Modell wegen erheblicher Menschenrechtsrisiken zurückgehalten oder zurückgezogen werden sollte.
Der Vorschlag trennt die technische Bewertung von der abschließenden rechtlichen Entscheidung, obwohl der Ausschuss erklärt, die Regierung solle prüfen, AISI mit der neuen Regulierungsbehörde zusammenzuführen.
Dieses Design spiegelt eine praktische Realität wider. Ein bedenkliches Modellverhalten festzustellen, ist nicht dasselbe wie zu entscheiden, ob ein Einsatz gegen eine rechtliche Schwelle verstößt.
Bewertende Stellen müssen klären, ob ein Problem reproduzierbar ist, ob Schutzmaßnahmen es verringern und ob Einsatzbedingungen das Risiko verändern. Regulierungsbehörden müssen die Beweise anschließend nach veröffentlichten Regeln auslegen.
Der weitreichendste Vorschlag des Ausschusses würde eine vorherige Genehmigung für KI-Systeme verlangen, die ein hohes Risiko von Menschenrechtsverletzungen darstellen. Die Genehmigung würde erfolgen, bevor diese Systeme bereitgestellt oder eingesetzt werden dürften.
Damit würde sich die Aufsicht von nachträglicher Durchsetzung hin zu Prävention verlagern. Zugleich entstünden schwierige Entscheidungen darüber, welche Modelle und Anwendungen einer Prüfung unterliegen.
Eine zu weit gefasste Definition könnte Bewertungsstellen überlasten und Produkte mit geringem Risiko verzögern. Eine zu enge Definition könnte ein Allzweckmodell übersehen, dessen gefährliche Einsatzmöglichkeiten erst nach der Bereitstellung sichtbar werden.
Entwickler können auch gehostete Modelle überarbeiten, ohne ein vollständig neues Produkt zu veröffentlichen. Regulierungsbehörden bräuchten Regeln dafür, wann ein Update eine neue Prüfungspflicht auslöst.
Modelle mit offenen Gewichten stellen eine weitere Herausforderung dar, weil Kopien sich über die Infrastruktur des ursprünglichen Anbieters hinaus verbreiten können. Beschränkungen für einen einzelnen inländischen Dienst beseitigen möglicherweise nicht jede zugängliche Kopie.
Diese Umsetzungsfragen heben die Durchsetzungslücke nicht auf. Sie zeigen, warum die Überführung technischer Bewertungen in Gesetz mehr erfordert, als AISI einen allgemeinen Sicherheitsauftrag zu erteilen.
Das Gesetz müsste messbare Auslöser für Einreichungen, Prüfverfahren, Vertraulichkeitsvorkehrungen, Beschwerderechte, Abhilfeprozesse und glaubwürdige Sanktionen enthalten. Außerdem wären genügend Personal und Rechenressourcen nötig, um Modelle in kommerziellen Zeitrahmen zu prüfen.
Eine Aufsichtsbehörde würde einen Flickenteppich ersetzen, nicht alle Regulierungsbehörden
Der Ausschuss will eine zentrale KI-Aufsichtsbehörde, die die Politik koordiniert und sektorübergreifende Pflichten durchsetzt, während bestehende Regulierungsbehörden ihre spezialisierten Zuständigkeiten behalten würden.
Die vorgeschlagene Regulierungsbehörde würde weder die Financial Conduct Authority, das Information Commissioner’s Office, Ofcom, die Equality and Human Rights Commission noch Aufsichtsbehörden für Medizinprodukte ersetzen.
Diese Institutionen verfügen über Branchenkenntnisse und bestehende Beziehungen zur Durchsetzung. Eine Finanzaufsicht versteht Kreditvergabekontrollen, während eine Datenschutzaufsicht Pflichten zu Privatsphäre und personenbezogenen Informationen auslegt.
Die neue Stelle würde Probleme angehen, die zwischen diesen Zuständigkeitsbereichen liegen. Sie würde die regulatorische Leistung überwachen, Beschwerden entgegennehmen, Verhaltenskodizes herausgeben, Verstöße untersuchen und Nichteinhaltung sanktionieren.
Sie könnte zudem Transparenzregeln für unterschiedliche Beteiligte entlang des KI-Lebenszyklus festlegen. Diese Regeln würden bestimmen, was Entwickler, Integratoren, Betreiber und öffentliche Stellen offenlegen müssen.
Der Ausschuss will, dass die Regulierungsbehörde in Einzelfällen Abhilfe schaffen kann, ohne Betroffene zu untragbaren Kosten zu zwingen. Diese Funktion verbindet die Modellaufsicht unmittelbar mit dem Rechtsschutz bei Menschenrechtsverletzungen.
Ihre vorgeschlagenen Befugnisse erstrecken sich auch auf ausländische Anbieter. Wenn ein Akteur im Ausland inakzeptable Risiken schafft, die innerhalb Großbritanniens nicht beherrscht werden können, könnte die Aufsichtsbehörde den Einsatz im Vereinigten Königreich beschränken oder untersagen.
Diese Reichweite wäre wichtig, weil viele führende Foundation-Modelle außerhalb des Vereinigten Königreichs entstehen. Regeln für den inländischen Einsatz können nicht die gesamte globale Entwicklung kontrollieren, aber sie können Bedingungen für den Zugang zum britischen Markt setzen.
Der Ausschuss empfiehlt außerdem, mehrere Nutzungen zu verbieten, die er als mit Menschenrechten unvereinbar ansieht. Seine Beispiele umfassen subliminale Techniken, Emotionserkennung sowie unangemessenes Profiling oder biometrische Verarbeitung.
Bei extrem leistungsfähigen Systemen geht er noch weiter. Der Bericht erklärt, Entwicklung und Bereitstellung sollten verboten werden, wenn Systeme ein Risiko weitverbreiteter, schwerwiegender Schäden bergen und sich wirksamer menschlicher Kontrolle entziehen können.
Künstliche allgemeine Intelligenz und Superintelligenz erscheinen als Beispiele, nicht als Behauptung, dass solche Systeme bereits existieren. Die genaue Grenze würde öffentliche Konsultationen erfordern.
Diese Unterscheidung ist wichtig, weil eine zugespitzte Schlagzeile die Empfehlung wie ein sofortiges Verbot heutiger Spitzenmodelle erscheinen lassen kann. Der Bericht fordert stattdessen ein künftiges risikobasiertes Regime, dessen Einzelheiten noch offen sind.
Systeme mit hohem Risiko würden einer vorherigen Genehmigung und strengeren Sorgfaltspflichten unterliegen. Für Werkzeuge mit geringerem Risiko würden leichtere Anforderungen gelten, entsprechend dem erklärten Ziel des Ausschusses der Verhältnismäßigkeit.
Diese Struktur ähnelt der Logik hinter dem EU AI Act, obwohl der Ausschuss nicht empfiehlt, den europäischen Rahmen Wort für Wort zu übernehmen.
Der EU-Rahmen legt je nach Systemkategorie unterschiedliche Pflichten fest und reguliert Allzweckmodelle gesondert. Zudem verbietet er bestimmte Praktiken, die Europa als unzulässig betrachtet.
Großbritannien hat einen weniger zentralisierten Ansatz bevorzugt. Die Regierungspolitik hat anwendungsspezifische Aufsicht, flexible Grundsätze und wirtschaftliches Wachstum statt eines umfassenden KI-Gesetzes betont.
Befürworter argumentieren, spezialisierte Regulierungsbehörden könnten je nach Kontext reagieren. Sie warnen zudem, dass frühe, starre Regeln veralten können, wenn sich Modelle, Produkte und Geschäftspraktiken ändern.
Der Ausschuss akzeptiert, dass Regulierung Innovation schützen und ungerechtfertigte Belastungen vermeiden sollte. Seine Meinungsverschiedenheit betrifft die Frage, ob Flexibilität ohne verbindliche Pflichten entlang der gesamten Lieferkette glaubwürdig bleiben kann.
Auch die öffentliche Meinung hat sich in Richtung strengerer Regeln bewegt. Eine von der House of Lords Library zusammengefasste Umfrage aus den Jahren 2024 und 2025 ergab, dass 72 Prozent KI-Gesetze befürworteten, gegenüber zuvor 62 Prozent.
Dieselbe Untersuchung ergab 89 Prozent Zustimmung für eine unabhängige KI-Regulierungsbehörde. Diese Zahlen bestimmen die Politik nicht, schwächen aber die Annahme, dass leichtere Regulierung automatisch öffentliche Legitimität genießt.
Die vorgeschlagene Aufsichtsbehörde steht daher für mehr als eine administrative Aufräumarbeit. Sie würde rechtliche Autorität näher an die Unternehmen heranführen, die Foundation-Modelle entwickeln, und eine Institution schaffen, die für systemische Lücken verantwortlich ist.
Die Lösung des Ausschusses stößt weiterhin auf harte Grenzen
Gesetzliche Befugnisse würden die britische Aufsicht verbessern, doch Gesetzgebung kann weder verlässliche Modellbewertungen noch vollständige Kontrolle über weltweit verbreitete Technologie garantieren.
Der Ausschuss legt eine überzeugende Diagnose zersplitterter Zuständigkeiten vor. Weniger vollständig ist sein Ansatz, sobald sich die Frage von der Zuständigkeit darauf verlagert, wie Regulierungsbehörden komplexe Modelle zuverlässig beurteilen können.
KI-Bewertungen können unter definierten Bedingungen gefährliche Fähigkeiten aufdecken. Sie können nicht beweisen, dass ein Modell bei jedem Prompt, jeder Integration, Sprache, jedem Werkzeug, Update und jeder gegnerischen Strategie sicher ist.
Entwickler können bekannte Risiken verringern und zugleich durch Fine-Tuning oder Änderungen beim Einsatz neues Verhalten einführen. Bewertende Stellen können sich auch darüber uneinig sein, ob ein Test realistische Schäden oder ein künstliches Laborszenario misst.
Ein Regime vorheriger Genehmigung muss trotz dieser Unsicherheit funktionieren. Es kann nicht auf perfekte Belege warten, sollte aber auch nicht jedes bedenkliche Testergebnis als Beweis unvermeidlicher Schäden in der realen Welt behandeln.
Auch die Risikoklassifizierung wird umstritten sein. Ein Foundation-Modell kann in einem Produkt risikoarme Entwürfe unterstützen und in einem anderen hochwirksame Entscheidungen beeinflussen.
Nur die Anwendung zu regulieren, übersieht vorgelagerte Schwächen. Jedes Allzweckmodell als hochriskant zu regulieren, ignoriert bedeutsame Unterschiede zwischen Nutzungen und Einsatzkontrollen.
Der Ausschuss reagiert darauf, indem er Pflichten entlang der Lieferkette verteilt. Entwickler, Modifizierer, Anbieter und Betreiber würden Verpflichtungen tragen, die ihren Rollen und den von ihnen kontrollierten Risiken entsprechen.
Das ist in der Tendenz sinnvoll, doch die Gesetzgebung bräuchte präzise Regeln zur Aufgabenverteilung. Andernfalls könnte jeder Beteiligte behaupten, ein anderes Unternehmen verfüge über die Informationen und Kontrolle, die nötig sind, um Schäden zu verhindern.
Die Durchsetzung gegenüber ausländischen Entwicklern stellt eine weitere Einschränkung dar. Eine britische Regulierungsbehörde kann den Zugang zum inländischen Markt begrenzen, aber sie kann keine offenen Modelldateien löschen oder die Entwicklung in anderen Rechtsordnungen stoppen.
Das macht internationale Zusammenarbeit zu mehr als diplomatischer Dekoration. Gemeinsame Testmethoden, Vorfallmeldungen und Mindeststandards können die Möglichkeiten für Unternehmen verringern, einer Kontrolle durch Verlagerung ihrer Dienste auszuweichen.
Die KI-Konvention des Europarats bietet einen möglichen Weg. Der Ausschuss fordert Großbritannien auf, einen Zeitplan für die Ratifizierung dieses Menschenrechtsrahmens zu veröffentlichen.
Internationale Abstimmung kann jedoch langsam vorankommen. Nationale Regulierungsbehörden benötigen weiterhin Befugnisse, um zu reagieren, wenn ein Modell oder eine Anwendung ein unmittelbares inländisches Risiko schafft.
Auch Widerstand aus der Industrie könnte den Vorschlag umgestalten. Unternehmen werden wahrscheinlich klare Schwellenwerte, Schutz vertraulicher Informationen, vorhersehbare Prüfzeiträume und Beschwerdemechanismen verlangen.
Diese Forderungen sind nicht zwangsläufig Versuche, sich der Aufsicht zu entziehen. Eine vage Einreichungsregel könnte Geschäftsgeheimnisse offenlegen, Routine-Updates verzögern oder Marktmacht bei Unternehmen konzentrieren, die Compliance-Kosten tragen können.
Kleinere Entwickler könnten unverhältnismäßig belastet werden, wenn Dokumentations- und Testanforderungen denen der größten Frontier-Labore ähneln. Der Ausschuss fordert abgestufte Pflichten, doch das Parlament müsste diese Unterscheidung bewahren.
Zudem gibt es ein Kapazitätsproblem. Rechtliche Befugnisse bedeuten wenig, wenn eine Regulierungsbehörde keine Spezialisten einstellen, keine Rechenressourcen nutzen, Bewertungen nicht reproduzieren oder Prüfungen nicht abschließen kann, bevor sich die Technologie verändert.
Die Regierung müsste technische Arbeit finanzieren, ohne die Regulierungsbehörde von den Unternehmen abhängig zu machen, die sie beaufsichtigt. Außerdem wären Koordinierungsregeln nötig, die Doppelarbeit mit bestehenden Aufsichtsstellen verhindern.
Die Empfehlung des Ausschusses für eine einzige Aufsichtsbehörde birgt das Risiko, eine weitere Ebene zu schaffen, sofern Zuständigkeiten nicht eindeutig sind. Unternehmen und Einzelpersonen sollten wissen, welche Behörde Beweise entgegennimmt, Untersuchungen leitet und Abhilfemaßnahmen anordnet.
Schließlich umfasst der Bericht sowohl unmittelbare Schäden als auch spekulative katastrophale Risiken. Beide verdienen Aufmerksamkeit, erfordern jedoch unterschiedliche Belege, Fachkenntnisse und rechtliche Instrumente.
Diskriminierende Auswahlverfahren bei Einstellungen verlangen Transparenz, Audits und wirksame Beschwerdemöglichkeiten. Ein Modell, das schwere Cyberangriffe unterstützen könnte, erfordert Fähigkeitstests, Zugangskontrollen, Sicherheitsüberwachung und internationale Koordinierung.
Beides in einem Gesetz zusammenzuführen, kann Kohärenz über den gesamten Lebenszyklus hinweg schaffen. Es kann aber auch ein weitläufiges Gesetz hervorbringen, das schwerer konsistent durchzusetzen ist.
Der stärkste Grund für Reformen hängt daher nicht von der Vorhersage von Superintelligenz ab. Er beruht auf der gegenwärtigen Unfähigkeit, Zugang zu Modellen zu erzwingen, gemeinsame vorgelagerte Risiken zu erkennen und Verantwortung zuzuweisen, bevor sich Schäden verbreiten.
Drei Signale werden zeigen, ob die Warnung die Politik verändert
Der nächste Test ist keine weitere Erklärung zu KI-Grundsätzen, sondern ob die Regierung die Empfehlungen des Ausschusses in durchsetzbare Befugnisse umwandelt.
Das erste Signal ist die formelle Antwort der Regierung. Das Parlament weist darauf hin, dass Minister zwei Monate Zeit haben, auf die Feststellungen und Empfehlungen des Ausschusses zu antworten.
Diese Antwort sollte zeigen, ob die Regierung die zentrale Diagnose akzeptiert. Ein Versprechen besserer Koordinierung würde nicht ausreichen, wenn AISI weiterhin keinen Zugang erzwingen oder Einfluss auf Freigabeentscheidungen nehmen könnte.
Das deutlichste Bekenntnis würde Gesetzgebung umfassen, die AISI auf eine gesetzliche Grundlage stellt. Sie würde zudem verpflichtende Einreichungen, technische Dokumentation, Erkenntnisse vor der Veröffentlichung und die Eskalation an eine Durchsetzungsbehörde behandeln.
Das zweite Signal ist, ob Minister einen sektorübergreifenden AI Bill einbringen. Das Labour-Wahlprogramm von 2024 versprach verbindliche Regulierung für die kleine Gruppe von Unternehmen, die die leistungsfähigsten Modelle entwickeln.
Die King’s Speech 2024 bekräftigte diese Richtung, doch bis zum Abschluss der Untersuchung des Ausschusses war keine Gesetzgebung erfolgt. Auch die King’s Speech 2026 ließ ein umfassendes KI-Gesetz aus.
Ein eng gefasstes Paket zur Bekämpfung ausgewählter Schäden würde die bestehende Strategie der Regierung bewahren. Ein Gesetz über den gesamten Lebenszyklus hinweg wäre eine wesentliche Änderung der Regulierung von KI-Modellen im Vereinigten Königreich.
Die Details wären wichtiger als der Titel. Zu beobachten sind klar definierte Risikokategorien, verpflichtende Pflichten für Entwickler, Auslöser für vorherige Genehmigungen, Transparenzanforderungen, die Finanzierung von Regulierungsbehörden und Sanktionen.
Das dritte Signal ist das Verhalten der Entwickler, bevor ein Gesetz verabschiedet wird. Der Zugang des AISI beruht derzeit auf Kooperation; ausbleibende oder verspätete Einreichungen liefern daher einen frühen Maßstab für die Grenzen des freiwilligen Systems.
Konsequenter Zugang vor der Veröffentlichung durch führende Entwickler würde das Argument der Regierung stützen, dass Zusammenarbeit wirksame Aufsicht ermöglichen kann. Selektiver Zugang würde die Argumentation des Ausschusses für verpflichtende Vorgaben stärken.
Unternehmen, die KI einsetzen, sollten nicht auf das Parlament warten, bevor sie ihre eigene Risikolage prüfen. Beschaffungsverträge sollten das zugrunde liegende Modell, den Aktualisierungsprozess, Nachweise zu Tests, Pflichten bei Vorfällen und verfügbare Erklärungen benennen.
Organisationen sollten außerdem dokumentieren, wann KI zu bedeutenden Entscheidungen beiträgt. Eine durchsuchbare KI-Wissensdatenbank kann Teams dabei helfen, Richtlinien, Bewertungen, Unterlagen von Anbietern und Entscheidungsprotokolle für spätere Prüfungen zu bewahren.
Diese Dokumentation ersetzt weder die Einhaltung gesetzlicher Vorgaben noch unabhängige Tests. Sie erleichtert jedoch die Feststellung, welches System eingesetzt wurde, welche Version eine Ausgabe erzeugte und wer seinen Einsatz genehmigte.
Für Einzelpersonen ist die praktischste Forderung des Ausschusses Transparenz. Menschen können eine automatisierte Entscheidung nicht anfechten, wenn sie nicht wissen, dass ein Modell sie beeinflusst hat.
Für Entwickler lautet die zentrale Frage, ob die Bewertung von Modellen eine kooperative Forschungsübung bleibt oder zu einer rechtlichen Hürde wird. Für Kunden geht es darum, ob sich Haftung weiterhin nachgelagert ansammelt.
Für die Regierung ist die Entscheidung nun ungewöhnlich klar. Sie kann ein flexibles System beibehalten, dem die Befugnis für Eingriffe vor der Veröffentlichung fehlt, oder einer unabhängigen Stelle die Macht zum Eingreifen geben.
Der Ausschuss hat die Regulierungslücke definiert. Die nächsten Monate werden zeigen, ob Minister sie schließen, einengen oder freiwillige Zusagen weiterhin gesetzliches Gewicht tragen lassen.
