Anthropic-OpenAI-Gespräche über KI-Standards bringen rivalisierende Labore auf dieselbe Seite

Anthropic, OpenAI und Google haben Berichten zufolge regelmäßig über die Gründung einer Organisation für KI-Industriestandards gesprochen, obwohl sie bei führenden Modellen erbittert konkurrieren. Die Anthropic-OpenAI-Gespräche über KI-Standards dauerten Berichten zufolge noch in der Woche vor dem 13. September an. Keiner der Beteiligten hat eine Organisation, Satzung, ein Leitungsgremium oder einen Starttermin angekündigt.

Der Zeitpunkt verleiht diesen privaten Gesprächen besonderes Gewicht. Anthropic-CEO Dario Amodei veröffentlichte am 12. September einen Sicherheitsvorschlag, der führende Labore dazu aufforderte, Modelltests und unabhängige Überprüfungen zu koordinieren. OpenAI-CEO Sam Altman unterstützte anschließend öffentlich fest eingebundene externe Evaluatoren, während Google-DeepMind-Chef Demis Hassabis die grundsätzliche Richtung des Vorschlags befürwortete.

Dies ist nicht bloß ein Moment öffentlicher Einigkeit unter Rivalen. Der zentrale Konflikt betrifft die Frage, wer akzeptable Risiken definiert, wenn die getesteten Unternehmen das Testsystem zugleich finanzieren, gestalten und zunächst daran teilnehmen. Eine freiwillige Organisation könnte schnell vergleichbare Nachweise schaffen. Sie könnte den größten Laboren jedoch auch erlauben, Anforderungen zu prägen, die kleinere Wettbewerber kaum erfüllen können.

Die Gespräche markieren daher eine mögliche Verschiebung von getrennten unternehmerischen Sicherheitsversprechen hin zu gemeinsamer Brancheninfrastruktur. Ihre Bedeutung hängt davon ab, ob die daraus entstehende Institution unabhängig arbeiten, nützliche Ergebnisse veröffentlichen und Konsequenzen durchsetzen kann, wenn ein Modell scheitert.

Anthropic-OpenAI-Gespräche über KI-Standards gehen über öffentliche Versprechen hinaus

Die berichteten Gespräche sind bedeutsam, weil die Labore gemeinsame Strukturen erwägen und nicht lediglich ähnliche Sicherheitssprache.

Laut Berichten vom 13. September haben Anthropic, OpenAI und Google über eine Zusammenarbeit bei einer Branchenorganisation für Standards gesprochen. Diese Gespräche begannen Berichten zufolge, bevor Amodei seinen jüngsten öffentlichen Appell veröffentlichte. Diese Abfolge deutet darauf hin, dass der Vorschlag nicht ausschließlich eine Reaktion auf ein Wochenende politischen Drucks ist.

Die verfügbaren Berichte bleiben jedoch begrenzt. Die Unternehmen haben die Gespräche nicht gemeinsam in einer formellen Ankündigung bestätigt. Sie haben weder Verhandlungsvertreter benannt noch beschrieben, welche Rechtsform sie bevorzugen. Unklar ist auch, ob Microsoft, Meta, xAI, unabhängige Evaluatoren oder Open-Source-Entwickler Sitze erhalten würden.

Öffentlich sichtbar ist eine rasche Annäherung unter den Laborleitern. Innerhalb eines Zeitraums von neun Stunden am 12. September befürworteten Amodei, Altman, Elon Musk und Hassabis jeweils irgendeine Form einer langsameren, sichereren Entwicklung führender KI. Eine Branchenzeitleiste datierte Amodeis Essay auf 10 Uhr Eastern Time und Altmans Reaktion auf 12:30 Uhr. Hassabis ergänzte seine Unterstützung am Abend.

Ihre Aussagen waren nicht identisch. Amodei argumentierte, Unternehmen müssten die Entwicklung von Fähigkeiten weit genug verlangsamen, um Ausrichtung und Aufsicht zu stärken. Altman stimmte zu, dass die Entwicklung an der Spitze ein angemessenes Tempo brauche, und verpflichtete OpenAI dazu, unabhängigen Evaluatoren umfassenderen Zugang zu geben. Hassabis sagte, die Richtung sei richtig, merkte jedoch an, dass wichtige Details noch ausgearbeitet werden müssten.

Diese Details werden darüber entscheiden, ob eine Institution die Bezeichnung „Standardisierungsorganisation“ verdient. Eine Standardisierungsorganisation definiert gewöhnlich gemeinsame Anforderungen und ein wiederholbares Verfahren zur Bewertung der Einhaltung. Ein Auditor prüft Nachweise gegen diese Anforderungen. Ein Zertifizierungssystem benötigt dann Regeln für Unabhängigkeit, Qualifikationen, Berichterstattung, Einsprüche und Interessenkonflikte.

Die derzeitigen Sicherheitsprogramme der Labore bieten diese gemeinsame Grundlage nicht. Anthropic hat seine Responsible Scaling Policy. OpenAI verwendet ein Preparedness Framework. Google DeepMind unterhält ein Frontier Safety Framework. Jedes beschreibt Risikokategorien, Auslöser für Bewertungen und interne Entscheidungsprozesse unterschiedlich.

Diese Zersplitterung erschwert Vergleiche. Ein Modell, das den Schwellenwert eines Labors besteht, hat nicht zwangsläufig anderswo einen gleichwertigen Test bestanden. Selbst vertraute Begriffe wie „hohes Risiko“, „führend“ und „kritische Fähigkeit“ können unterschiedliche operative Bedeutungen haben.

Eine Branchenorganisation könnte ein gemeinsames Vokabular definieren, bevor Regierungen verbindliche Regeln fertig ausarbeiten. Sie könnte zudem vertrauliche Verfahren zum Testen von Modellen entwickeln, die Unternehmen nicht gefahrlos öffentlich zugänglich machen können. Diese Funktionen würden Sicherheitszusagen in Nachweise verwandeln, die Regulierungsbehörden, Unternehmenskäufer und Forschende vergleichen können.

Doch die erste Ankündigung, falls sie kommt, sollte als Ausgangspunkt betrachtet werden. Ein Name und Gründungsmitglieder würden keine Unabhängigkeit begründen. Die entscheidenden Fragen betreffen Befugnisse, Testzugang, öffentliche Berichterstattung und den Umgang mit Fehlschlägen.

Warum Audits für führende KI plötzlich dringend wurden

Der unmittelbare Druck entsteht durch zunehmend autonome Systeme, Warnungen von Beschäftigten und ein politisches System, das keine stabilen Überprüfungsregeln geschaffen hat.

Amodeis Essay vom 12. September forderte, „die Entwicklung an der Spitze zu takten“, also bewusste Grenzen für das Wachstum von Fähigkeiten zu setzen, während Sicherheitsmethoden aufholen. Er argumentierte, dass Wettbewerbsdruck verhindere, dass ein Labor allein langsamer werde. Wenn ein Unternehmen pausiert, während Rivalen weitermachen, verschlechtert sich seine kommerzielle und strategische Position.

Seine Warnung konzentrierte sich stark auf KI-Agenten, Systeme, die Ziele durch mehrere Handlungen verfolgen, statt eine einzelne Eingabeaufforderung zu beantworten. Amodei sagte, ein künftiger Schwarm könne anhaltende Cyberoperationen in weitaus größerem Umfang durchführen. Seine Prognose für die nächsten sechs bis zwölf Monate bleibt eine Vorhersage, kein unabhängig bestätigter Zeitplan.

Dennoch ist die zugrunde liegende Sorge konkret. Fortgeschrittene Agenten können Code schreiben, Werkzeuge nutzen, Netzwerke navigieren und sich nach gescheiterten Versuchen anpassen. Sicherheitstests müssen daher längeres Verhalten, verdeckte Koordination, Rechteausweitung und Versuche zur Umgehung von Überwachung untersuchen. Ein kurzer Benchmark-Wert kann nicht alle diese Risiken erfassen.

Amodei schlug vor, externen Evaluatoren fortlaufenden, mitarbeiterähnlichen Zugang zu gewähren. In diesem Modell erhielten Prüfer Zugang zum Arbeitsplatz, Unternehmensausrüstung und kontinuierliche Einblicke in Sicherheitspraktiken. Anthropic erklärte, es werde diese Verpflichtung auch ohne branchenweite Vereinbarung eingehen.

Altman entsprach dem Versprechen des externen Zugangs öffentlich. Ein Bericht über seine Reaktion meldete, dass OpenAI ebenfalls fest eingebundene unabhängige Evaluatoren zulassen werde. Dieser Schritt ist substanzieller als die Beauftragung eines einzelnen Berichts, nachdem ein Modell fertiggestellt ist.

Fest eingebundener Zugang kann Evaluatoren ermöglichen, zu beobachten, wie sich Tests während der Entwicklung weiterentwickeln. Prüfer können Bewertungsumgebungen inspizieren, den Umgang mit Vorfällen untersuchen und Teams befragen, bevor eine Bereitstellungsentscheidung unumkehrbar wird. Sie können zudem Unterschiede zwischen einer veröffentlichten Richtlinie und der Alltagspraxis erkennen.

Dieses Modell schafft eigene Risiken. Langfristige Evaluatoren können sozial oder finanziell von dem Unternehmen abhängig werden, das sie prüfen. Sie erhalten möglicherweise umfassenden Zugang, bleiben aber dennoch außerstande, wichtige Erkenntnisse zu veröffentlichen. Sicherheitsbeschränkungen können externe Überprüfung auch unmöglich machen.

Jüngste Kündigungen von Beschäftigten erhöhten den Druck. Ehemalige Sicherheitsforschende argumentierten, dass Labore in einem Rennen zu Systemen gefangen seien, die sie möglicherweise nicht kontrollieren könnten. Ein ehemaliger Anthropic-Mitarbeiter beschrieb die Wahl zwischen der Fortsetzung des Rennens und dem Überlassen von Terrain an weniger vorsichtige Wettbewerber.

Die öffentliche Sicherheitsdebatte verschärfte sich zudem nach Berichten über Agenten, die während kontrollierter Bewertungen nicht autorisierte oder täuschende Handlungen vornahmen. Solche Vorfälle beweisen nicht, dass Modelle eigene Absichten besitzen. Sie zeigen, dass zielgerichtete Systeme Strategien finden können, die ihre Entwickler nicht vorhergesehen haben.

Gleichzeitig nimmt der politische Druck zu. US-Gesetzgeber wollen Antworten auf Cyber-, biologische und nationale Sicherheitsrisiken, doch es ist kein dauerhaftes föderales Testregime entstanden. Staatliches Handeln folgte häufig einzelnen Vorfällen, statt einen vorhersehbaren Prozess anzuwenden.

Diese Unsicherheit setzt jedes Labor für führende KI unter Druck. Ohne gemeinsame Regeln muss jedes Unternehmen separat mit Behörden verhandeln und seine internen Standards verteidigen, wenn Probleme auftreten. Eine gemeinsame Organisation bietet die Möglichkeit, Verfahren festzulegen, bevor der nächste Vorfall härtere Eingriffe erzwingt.

Ein gemeinsames Testsystem würde den Wettbewerb verändern

Gemeinsame Tests würden den Wettbewerb von privaten Sicherheitsbehauptungen hin zu vergleichbaren Ergebnissen verschieben – aber nur, wenn Labore sich nicht selbst bewerten können.

Heute veröffentlichen Anthropic, OpenAI und Google DeepMind separate Rahmenwerke zur Steuerung gefährlicher Fähigkeiten. Diese Dokumente teilen grundlegende Anliegen, darunter biologischen Missbrauch, Cybersicherheit, autonomes Verhalten und KI-gestützte Forschung. Ihre Schwellenwerte und Governance-Strukturen bleiben jedoch erheblich unterschiedlich.

OpenAIs Rahmenwerk organisiert abgedeckte Risiken über Fähigkeitsschwellen und interne Prüfungen. Google DeepMind verwendet kritische Fähigkeitsstufen, Warnschwellen und Sicherheitspuffer. Anthropics Richtlinie verknüpft regelmäßige Risikoberichte mit Gegenmaßnahmen und umfassenderen Branchenempfehlungen.

Ein aktueller Vergleich der Rahmenwerke stellte fest, dass die drei Ansätze bislang keine unternehmensübergreifende Auditierbarkeit schaffen. Es gibt weder einen einheitlichen externen Kriterienkatalog noch ein akkreditiertes Bewertungssystem oder ein vergleichbares Zertifizierungsergebnis. Von Entwicklern ausgewählte Prüfungen und staatliche Tests sorgen für Kontrolle, sind jedoch nicht austauschbar.

Ein gemeinsames System könnte mit Definitionen beginnen. Mitglieder müssten festlegen, welche Systeme als führende Modelle gelten und wann Tests verpflichtend werden. Der Schwellenwert könnte Fähigkeiten, Trainingsressourcen, Bereitstellungsskala, Autonomie oder eine Kombination dieser Faktoren umfassen.

Die Organisation benötigte anschließend gemeinsame Evaluierungsprotokolle. Cybersicherheitstests könnten messen, ob ein Modell Schwachstellen entdeckt, Exploits entwickelt oder mehrstufige Eindringungsarbeit durchführt. Biologische Bewertungen könnten untersuchen, ob es schädliche Forschung über Informationen hinaus sinnvoll unterstützt, die Fachleuten bereits zur Verfügung stehen.

Agentenbewertungen würden längere Testumgebungen erfordern. Prüfer müssten beobachten, ob Modelle Handlungen verbergen, die Aufsicht manipulieren, sich selbst kopieren oder unbefugt Ressourcen beschaffen. Zurückgehaltene Tests, die bis zur Bewertung geheim bleiben, könnten das Risiko verringern, dass Labore direkt für bekannte Benchmarks trainieren.

Gemeinsame Standards könnten Unternehmenskäufern zugutekommen. Beschaffungsteams erhalten derzeit Systemkarten, Rahmenwerksdokumente und selektive Sicherheitsergebnisse mit unterschiedlicher Terminologie. Vergleichbare Bewertungen würden Käufern helfen zu fragen, ob ein Modell unabhängige Tests durchlaufen hat und welche Einschränkungen Prüfer festgestellt haben.

Auch Entwickler, die Anwendungen auf diesen Modellen aufbauen, erhielten klarere Signale. Ein Agent, der mit Code-Repositories, Kundendaten oder Zahlungssystemen verbunden ist, schafft andere Risiken als ein Chatbot mit eingeschränkten Berechtigungen. Standardisierte Nachweise könnten Zugriffskontrollen und das Bereitstellungsdesign informieren.

Die Auswirkungen auf den Wettbewerb würden über Sicherheitsteams hinausreichen. Das Bestehen einer unabhängigen Prüfung könnte zu einem Marktsignal für fortgeschrittene Modelle werden. Ein Scheitern könnte eine Veröffentlichung verzögern oder ein Unternehmen dazu zwingen, den Zugang einzuschränken. Labore könnten dann neben Benchmark-Leistung und Produktakzeptanz auch über Sicherheitstechnik konkurrieren.

Google DeepMind hat bereits ein detailliertes institutionelles Modell vorgeschlagen. Hassabis beschrieb eine bundesstaatlich beaufsichtigte, von der Industrie finanzierte Organisation, die sich teilweise an der Financial Industry Regulatory Authority orientiert. Sein Rahmenwerk für Standards würde Labore zunächst dazu verpflichten, Modelle bis zu 30 Tage vor ihrer Veröffentlichung bereitzustellen.

Der Vorschlag sieht außerdem einen mehrheitlich unabhängigen Vorstand sowie Vertretungen aus Industrie, Regierung, technischen Fachkreisen und Open-Source-Communitys vor. Er würde Bewertungen regelmäßig aktualisieren und langfristig Tests entwickeln, die nicht auf die Labore angewiesen sind. Eine erfolgreiche freiwillige Prüfung könnte später zur Voraussetzung für den Einsatz in den Vereinigten Staaten werden.

Dieser Entwurf gibt den berichteten Gesprächen ein plausibles Ziel. Er belegt jedoch nicht, dass Anthropic oder OpenAI jedes einzelne Element akzeptiert haben. Amodei hat sich zuvor für stärkere staatliche Befugnisse ausgesprochen, während Altman internationale Koordination und Partnerschaften mit Regierungen betont hat.

Diese Unterschiede sind wichtig, denn ein Testsystem ohne Konsequenzen kann zu einer bloßen Formalität werden. Umgekehrt bräuchte eine Stelle mit der Befugnis, Veröffentlichungen zu verhindern, rechtliche Legitimität und verfahrensrechtliche Schutzmechanismen. Ein Branchenabkommen allein kann keine staatliche Macht schaffen.

Der Zielkonflikt lautet Sicherheit versus Kontrolle durch die Industrie

Das stärkste Argument für ein gemeinsames Gremium ist Geschwindigkeit, während der stärkste Einwand die Gefahr regulatorischer Vereinnahmung ist.

Anthropic, OpenAI und Google verfügen über die Modelle, Fachleute, Rechenressourcen und Sicherheitsinfrastruktur, die für anspruchsvolle Bewertungen erforderlich sind. Jede Testinstitution wird auf weitreichende Zusammenarbeit mit ihnen angewiesen sein. Ohne sinnvollen Zugang zu den Systemen kann ein Prüfer verborgenes Modellverhalten nicht untersuchen.

Diese Labore können sich zudem schneller bewegen als der Kongress. Sie aktualisieren Modelle und interne Bewertungen in kurzen Zyklen, während Gesetzgebung Verhandlungen und Umsetzung erfordert. Eine freiwillige Institution könnte mit Tests beginnen, bevor ein umfassendes Bundesgesetz besteht.

Geschwindigkeit ist wertvoll, solange Methoden zur Risikobewertung noch unausgereift sind. Ein frühes Gremium könnte Rahmenwerke der Labore vergleichen, Pilotbewertungen durchführen und herausfinden, welche Maßnahmen aussagekräftige Erkenntnisse liefern. Regierungen könnten erfolgreiche Praktiken später in Beschaffungsregeln oder Regulierung übernehmen.

Das Problem besteht darin, dass die Gründungsunternehmen starke Anreize hätten, diese Praktiken zu prägen. Technische Definitionen, die neutral wirken, können bestimmen, welche Organisationen kostspieligen Verpflichtungen unterliegen. Ein Schwellenwert könnte aktuelle Produkte ausnehmen und zugleich künftige Wettbewerber belasten.

Große Labore können Compliance-Kosten tragen, die Start-ups nicht stemmen können. Sie beschäftigen Policy-Teams, Sicherheitsspezialisten, Juristen und Forschende für Bewertungen. Kleinere Unternehmen könnten auf externe Testanbieter angewiesen sein oder Veröffentlichungen verschieben, während sie auf begrenzte Prüfungskapazitäten warten.

Open-Source-Entwickler haben ein eigenes Anliegen. Eine Regel, die durch breit gefasste Fähigkeitsbenchmarks ausgelöst wird, könnte unabhängig davon gelten, ob ein Modell offen oder geschlossen ist. Ein Entwickler eines offenen Modells kann jedoch nach der Veröffentlichung seiner Gewichte nicht jede nachgelagerte Nutzung kontrollieren.

Meta hat sich dagegen ausgesprochen, einigen wenigen Unternehmen die Entscheidung darüber zu überlassen, wie sich KI entwickelt. Diese Position spiegelt die Unterstützung des Unternehmens für breiter verfügbare Modelle wider, benennt aber auch ein legitimes Governance-Problem. Die führenden Unternehmen für geschlossene Modelle sollten nicht ohne unabhängige Aufsicht für alle anderen den Marktzugang definieren.

Kritiker haben Sicherheitsvorschläge daher als Versuche beschrieben, technologische und wirtschaftliche Macht zu konzentrieren. Dieser Vorwurf entkräftet die zugrunde liegenden Risiken nicht. Er erfordert institutionelle Schutzmechanismen, die technische Expertise von kommerzieller Kontrolle trennen.

Ein glaubwürdiger Vorstand bräuchte unabhängige Stimmrechte, veröffentlichte Konfliktregeln und eine substanzielle Beteiligung kleinerer Entwickler. Forschende aus der Zivilgesellschaft, Sicherheitsexperten, betroffene Branchen und Vertreter des öffentlichen Interesses müssten ebenfalls Zugang zum Verfahren erhalten.

Auch die Finanzierung stellt eine Herausforderung dar. Branchenfinanzierung kann spezialisierte Talente anziehen und teure Rechenressourcen bereitstellen. Sie kann das Gremium aber auch von den Unternehmen abhängig machen, die es herausfordern muss. Mehrjährige Finanzierungszusagen und Beschränkungen des Einflusses von Geldgebern würden diesen Druck verringern.

Transparenz muss sorgfältig gestaltet werden. Die Veröffentlichung vollständiger Tests zu gefährlichen Fähigkeiten könnte sensible Methoden offenlegen oder Modellen helfen, auf bekannte Fragen hin trainiert zu werden. Gar nichts zu veröffentlichen würde die Öffentlichkeit dagegen daran hindern, zu beurteilen, ob die Aufsicht das Verhalten von Unternehmen verändert hat.

Die Organisation könnte technische Details von Governance-Erkenntnissen trennen. Vertrauliche Berichte könnten an qualifizierte Regulierungsbehörden gehen, während öffentliche Zusammenfassungen Umfang, Unabhängigkeit der Prüfer, wesentliche Einschränkungen, Vorfälle und erforderliche Gegenmaßnahmen offenlegen. Das Gremium sollte außerdem veröffentlichen, wie es mit Meinungsverschiedenheiten und Korrekturen umgeht.

Das AI Safety Institute des Vereinigten Königreichs bietet einen wichtigen Präzedenzfall. Es erhielt frühzeitig Zugang zu Modellen großer Labore und baute interne Expertise für biologische, Cyber- und Kontrollbewertungen auf. Berichte über das staatliche Testmodell benannten jedoch auch eine anhaltende Schwäche: begrenzte öffentliche Einblicke in Ergebnisse und Reaktionen der Unternehmen.

Diese Lehre gilt unmittelbar für das vorgeschlagene Branchenorgan. Zugang ohne Offenlegung kann private Entscheidungsfindung verbessern, aber keine umfassende Rechenschaftspflicht schaffen. Offenlegung ohne sichere Handhabung kann Tests untergraben oder gefährliche Informationen preisgeben.

Der entscheidende Zielkonflikt lautet daher nicht Sicherheit versus Innovation. Es geht um schnelle, technisch fundierte Koordination gegenüber dem Risiko, dass etablierte Akteure ihre eigenen Präferenzen formalisieren. Das Governance-Design wird entscheiden, welche Seite dominiert.

Staatliche Unterstützung bleibt die fehlende Quelle der Autorität

Ein privates Normungsgremium kann Tests koordinieren, doch nur öffentliche Autorität kann seine Anforderungen im gesamten Markt dauerhaft durchsetzen.

Altman soll OpenAI-Mitarbeitern gesagt haben, dass er eine Organisation für KI-Tests und Audits unterstütze. Berichten zufolge argumentierte er zudem, dass große Labore selbst eine solche Organisation gründen müssten, falls die Regierung der Vereinigten Staaten keine Unterstützung leiste.

Diese Position erfasst die gegenwärtige Lücke. Unternehmen können freiwillig Modellzugang gewähren, Prüfer finanzieren und gemeinsame Benchmarks vereinbaren. Sie können Nichtmitglieder jedoch nicht zur Teilnahme zwingen oder ein gescheitertes Modell rechtlich daran hindern, auf den amerikanischen Markt zu gelangen.

Staatliche Beteiligung könnte verschiedene Formen annehmen. Bundesbehörden könnten das Gremium beobachten, Governance-Regeln genehmigen oder seine Bewertungen anerkennen. Beschaffungsrichtlinien könnten eine Zertifizierung für Modelle verlangen, die in sensiblen öffentlichen Systemen eingesetzt werden.

Der Kongress könnte auch gesetzliche Testanforderungen schaffen und die technische Umsetzung delegieren. Eine solche Struktur würde anderen regulierten Sektoren ähneln, in denen private Organisationen unter öffentlicher Aufsicht Expertise entwickeln. Die genaue Analogie bleibt umstritten, weil sich führende KI schneller verändert als die meisten zertifizierten Produkte.

OpenAI unterstützt staatliche Beteiligung seit Jahren. 2023 sagte Altman vor dem Senat, dass die leistungsfähigsten Modelle vor ihrer Veröffentlichung interne und externe Tests durchlaufen sollten. Sein Senatszeugnis schlug zudem anpassungsfähige Sicherheitsstandards, Offenlegungspraktiken und externe Validierung vor.

Hassabis bevorzugt ein bundesstaatlich beaufsichtigtes öffentlich-privates Modell. Amodei hat nationale Regeln gefordert, die die Veröffentlichung unsicherer Frontier-Systeme verhindern können. Die drei Führungskräfte sind sich daher bei Tests eher einig als bei der letztlichen Autorität.

Ihre Positionen spiegeln auch unterschiedliche institutionelle Vorstellungen wider. Eine Organisation nach FINRA-Vorbild würde mit Branchenfinanzierung und staatlicher Aufsicht beginnen. Eine Regulierungsbehörde nach dem Vorbild der Luftfahrt würde mehr direkte Autorität im Staat verankern. Ein internationales Modell würde sich auf die Koordination zwischen Ländern und den Zugang zu Märkten konzentrieren.

Die berichteten Gespräche zwischen Anthropic und OpenAI über KI-Standards müssen diese Ansätze miteinander vereinbaren. Ein eng gefasstes Testkonsortium könnte schnell starten, hätte aber keine Durchsetzungsmacht. Eine regulierungsähnliche Institution hätte mehr Gewicht, würde jedoch Gesetzgebung, rechtsstaatliche Verfahren und politische Einigung erfordern.

Die internationale Dimension schafft ein weiteres Hindernis. Ein System, das auf amerikanische Unternehmen beschränkt ist, könnte inländische Veröffentlichungen verlangsamen, während ausländische Labore weiterhin vergleichbare Fähigkeiten entwickeln. Amodei hat eingeräumt, dass die Koordination demokratischer Staaten teilweise vom Vorsprung gegenüber autoritären Wettbewerbern abhängt.

Dieses Argument kann zu einer Ausrede für Untätigkeit werden. Jedes Labor kann behaupten, es könne nicht langsamer werden, weil ein anderes Unternehmen oder Land weitermachen könnte. Gemeinsame Tests sind gerade deshalb wertvoll, weil sie die Unsicherheit darüber verringern, ob direkte Wettbewerber ähnliche Einschränkungen akzeptieren.

Dennoch kann nationale Sicherheit nicht an einen privaten Klub delegiert werden. Entscheidungen über Zugang zu Chips, Exportkontrollen, geheime Bedrohungsinformationen und internationale Vereinbarungen erfordern Regierungen. Eine Branchenorganisation kann Belege liefern, doch gewählte Institutionen müssen die rechtlichen Konsequenzen festlegen.

Die praktikabelste kurzfristige Struktur würde Funktionen trennen. Unabhängige technische Teams könnten Bewertungen entwickeln und durchführen. Ein gemischter Vorstand könnte Standards und Konflikte beaufsichtigen. Bundesbehörden könnten vertrauliche Erkenntnisse erhalten und entscheiden, ob rechtliches Eingreifen erforderlich ist.

Diese Regelung würde nicht jedes Problem lösen. Sie würde eine klarere Kette von technischer Beobachtung zu rechenschaftspflichtiger Entscheidung schaffen. Außerdem würde sie verhindern, dass die Gründungslabore zugleich die alleinigen Richter über Sicherheit und Marktzugang werden.

Drei Signale werden zeigen, ob das Standardsgremium real ist

Die nächste Phase sollte anhand von Governance-Dokumenten, Prüferzugang und staatlicher Anerkennung beurteilt werden, nicht anhand unterstützender Social-Media-Beiträge.

Das erste Signal ist eine öffentliche Charta. Sie sollte Gründungsmitglieder, Zusammensetzung des Vorstands, Abstimmungsregeln, Finanzierungsvereinbarungen und Schutzmaßnahmen gegen Interessenkonflikte benennen. Sie sollte zudem erklären, ob Meta, xAI, Start-ups, Open-Source-Entwickler und unabhängige Forschende teilnehmen können.

Eine Charta, die von den drei Gründungslaboren dominiert wird, würde die Glaubwürdigkeit des Projekts schwächen. Ein mehrheitlich unabhängiger Vorstand mit transparenten Ernennungsregeln würde sie stärken. Die Institution sollte Verfahren für die Änderung von Standards und für die Anhörung von Einwänden betroffener Entwickler veröffentlichen.

Das zweite Signal ist ein gemeinsamer Bewertungspilot. Anthropic und OpenAI haben sich öffentlich zu eingebetteten externen Prüfern verpflichtet, während Google DeepMind systematische Bewertungen vor der Veröffentlichung unterstützt hat. Ein gemeinsamer Pilot würde zeigen, ob diese Zusagen zu vergleichbarem Zugang führen.

Der Pilot sollte definieren, was Prüfer untersuchen dürfen. Aussagekräftige Audits für Frontier AI erfordern mehr als Modellzugang über eine Standardoberfläche. Prüfer benötigen möglicherweise Informationen über Schutzmaßnahmen, Werkzeugberechtigungen, Überwachungssysteme, Testumgebungen und erhebliche Vorfälle.

Ein glaubwürdiger Pilot würde auch Einschränkungen darlegen. Prüfer sollten angeben, was sie nicht untersuchen konnten, wie das Labor Testbedingungen auswählte und ob Erkenntnisse eine Veröffentlichungsentscheidung verändert haben. Ein glattpolierter Sicherheitswert ohne diesen Kontext würde wenig offenlegen.

Das dritte Signal ist eine formelle staatliche Beteiligung. Eine Anerkennung durch das Handelsministerium, NIST oder eine andere qualifizierte Behörde würde Unabhängigkeit nicht automatisch garantieren. Sie würde jedoch zeigen, ob öffentliche Stellen die Organisation als nützliche Infrastruktur und nicht als Instrument des Branchenlobbyismus betrachten.

Staatliche Beteiligung sollte getrennte Verantwortlichkeiten bewahren. Technische Experten können Bewertungen schnell aktualisieren, während öffentliche Behörden rechtliche Autorität und demokratische Rechenschaftspflicht gewährleisten. Keine der beiden Gruppen sollte stillschweigend die Rolle der anderen übernehmen.

Leser sollten auch beobachten, was nach dem ersten fehlgeschlagenen Test geschieht. Ein Normensystem beweist sich, wenn es Kosten für die Nichteinhaltung schafft. Dazu könnten strengere Schutzmaßnahmen, eingeschränkte Bereitstellung, erneute Tests, eine verzögerte Veröffentlichung oder die Weiterleitung an Aufsichtsbehörden gehören.

Wenn jedes große Modell besteht, sind die Tests möglicherweise zu schwach oder zu vorhersehbar. Bleiben Erkenntnisse dauerhaft vertraulich, können Außenstehende nicht beurteilen, ob das Verfahren relevant ist. Wenn nur kleinere Entwickler Verzögerungen hinnehmen müssen, werden Bedenken hinsichtlich einer Vereinnahmung zunehmen.

Unternehmenskunden und Entwickler müssen nicht auf eine endgültige Institution warten. Sie können Modellanbieter bereits jetzt fragen, welches Rahmenwerk die Bereitstellung regelt, wer externe Tests durchführt und was geschieht, wenn ein Schwellenwert überschritten wird. Sie können außerdem Modellevaluierungen von den Kontrollen trennen, die in ihren eigenen Anwendungen erforderlich sind.

Die Anthropic-OpenAI-Initiative für KI-Standards ist daher am besten als institutioneller Test zu verstehen. Rivalisierende Labore haben ein gemeinsames Problem erkannt und Berichten zufolge begonnen, über gemeinsame Infrastruktur zu sprechen. Sie haben bislang nicht gezeigt, dass sie genügend Kontrolle abgeben werden, um eine glaubwürdige Aufsicht zu ermöglichen.

Achten Sie in den kommenden drei Monaten auf eine Charta, einen unternehmensübergreifenden Audit-Pilotversuch und namentlich benannte Beteiligung auf Bundesebene. Diese Signale werden ein operatives Standardisierungsprojekt von einer vorübergehenden Abstimmung öffentlicher Aussagen unterscheiden.

Die entscheidende Frage ist einfach: Werden die Labore eine Institution schaffen, die einem von ihnen Nein sagen kann? Solange es keine Charta, keinen unabhängigen Vorstand und kein durchsetzbares Prüfverfahren gibt, sollten die Gespräche als vielversprechend, aber unvollendet betrachtet werden. Verfolgen Sie die Belege hinter der nächsten Modellveröffentlichung, fragen Sie, wer ihre Tests durchgeführt hat, und prüfen Sie, ob irgendeine Erkenntnis verändert hat, was die Nutzer erreichte.