OpenAI-Anhörung im NYC Council nimmt KI-Labore unter Eid
OpenAI wird gemeinsam mit drei großen Rivalen unter Eid bei einer Anhörung im NYC Council erscheinen, nachdem die meisten erst zugesagt hatten, als Gesetzgeber mit Vorladungen drohten. In der Sitzung am 5. Oktober treten Anthropic, Google, Meta und OpenAI vor alle 51 Ratsmitglieder. Der frühere Anthropic-Forscher Jacob Coxon soll ebenfalls aussagen, nachdem er öffentlich gewarnt hatte, fortgeschrittene KI könne sich menschlicher Kontrolle entziehen.
Die OpenAI-Anhörung im NYC Council ist nicht einfach eine weitere politische Gesprächsrunde. Ratsmitglieder beraten über Vorschläge, die externe Modellvalidierung verlangen, Whistleblower belohnen, Haftung für vorhersehbare Schäden schaffen und eine schnelle Meldung von Vorfällen vorschreiben könnten. Diese Maßnahmen würden allgemeine Sicherheitsversprechen in Verpflichtungen verwandeln, die Unternehmen, Validatoren und Betreiber möglicherweise dokumentieren müssten.
Im Kern steht der Konflikt zwischen Rechenschaftspflicht und freiwilliger Governance. KI-Unternehmen haben Sicherheitsrahmen veröffentlicht und interne Testpflichten akzeptiert. Gesetzgeber in New York City verlangen nun unabhängige Nachweise, rechtliche Abhilfen und protokollierte Aussagen. Die Anhörung wird zeigen, ob führende Labore ihre Risikokontrollen verteidigen können, wenn die Fragen von gewählten Amtsträgern statt von ihren eigenen Prüfern kommen.
Die OpenAI-Anhörung im NYC Council nimmt ein breiteres Ziel ins Visier
Die Anhörung verlagert KI-Sicherheit von unternehmensinternen Richtliniendokumenten in öffentliche Aussagen unter Eid.
Der New York City Council hat seine Anhörung des Committee of the Whole für den 5. Oktober um 11 Uhr im City Hall angesetzt. Ein Committee of the Whole bringt den gesamten Rat zusammen, statt die Angelegenheit einem einzelnen ständigen Ausschuss zuzuweisen.
Der Rat beschreibt die Sitzung als Untersuchung der von künstlicher Intelligenz ausgehenden Risiken. Seine Anhörungsagenda führt einen Aufsichtspunkt und neun Gesetzesvorschläge auf. Diese Vorschläge behandeln Modellvalidierung, Whistleblower, Chatbot-Datenschutz, Vorfallmeldungen, Haftung, Notfallplanung und Werbeaussagen.
Meta sagte zu, einen hochrangigen Vertreter zu entsenden, bevor der Rat mit Zwangsmaßnahmen drohte. OpenAI und Google erklärten sich nach der Vorladungswarnung zur Teilnahme bereit. Anthropic lehnte zunächst ab, bestätigte seine Teilnahme dann aber kurz vor der angedrohten Frist.
Der Rat erklärt, dies werde die erste öffentliche Aussage der vier Unternehmen unter Eid zu KI-Gefahren und möglichen gesetzgeberischen Reaktionen sein. Diese Beschreibung ist relevant. Sie stammt vom Rat, und die Anhörung hat noch nicht geklärt, was jedes Unternehmen einräumen, bestreiten oder zu Protokoll geben wird.
Von den eingeladenen Unternehmen wird nicht erwartet, dass sie ihre Chief Executives entsenden. Bloomberg berichtete, dass politische und Sicherheitsverantwortliche die Labore vertreten würden. Ihre Identität, Befugnisse und Bereitschaft, technische Fragen zu beantworten, werden den Wert der Anhörung prägen.
Auch SpaceXAI wurde Teil des Konflikts, nachdem das Unternehmen nicht auf die ursprüngliche Einladung des Rates reagiert hatte. Sprecherin Julie Menin erließ im Rahmen der Untersuchungsbefugnisse des Rates eine Vorladung. Der Rat erklärte, er könne die Durchsetzung vor dem New York State Supreme Court beantragen, falls das Unternehmen nicht kooperiere.
Ein späterer lokaler Bericht besagte, dass SpaceXAI voraussichtlich teilnehmen werde. Diese mögliche Ergänzung erweitert die Unternehmensliste, verändert aber nicht die zentrale Konfrontation. Gesetzgeber wollen wissen, ob Entwickler von Frontier-KI zeigen können, dass ihre Schutzvorkehrungen auch außerhalb kontrollierter Demonstrationen funktionieren.
Coxon bringt eine andere Art von Aussage mit. Berichten über seinen Weggang zufolge betrieb er zuvor Pretraining-Forschung bei OpenAI und Anthropic. Pretraining ist der großskalige Prozess, durch den ein Modell aus umfangreichen Datensätzen Muster lernt, bevor es später weiter verfeinert wird.
Er verließ Anthropic im September und warf führenden Laboren vor, unvertretbare Risiken einzugehen. Laut einem Bericht über seine Aussage sagte Coxon, Menschen, die fortgeschrittene Systeme entwickeln, glaubten, KI könne die Menschheit noch vor Ende des Jahrzehnts auslöschen.
Das ist eine außergewöhnliche Behauptung, keine gesicherte Prognose. Reuters erklärte zudem, den Bloomberg-Bericht über Coxons geplanten Auftritt nicht unabhängig verifizieren zu können. Der Rat verwies separat auf seine Kündigung, als er erläuterte, warum er die breiter angelegte Anhörung organisiert hatte.
Coxon soll Berichten zufolge gemeinsam mit dem ehemaligen Google-DeepMind-Forscher Alex Turner und Daniel Kokotajlo auftreten, einem ehemaligen OpenAI-Forscher, der das AI Futures Project leitet. Ihre Anwesenheit könnte die Sitzung konfrontativer machen als eine Anhörung, die ausschließlich aus Unternehmenszeugen besteht.
Unternehmensvertreter werden wahrscheinlich Evaluierungen, Einsatzkontrollen und Verfahren für Vorfälle beschreiben. Ehemalige Insider können infrage stellen, ob diese Schutzvorkehrungen die Systeme abdecken, deren Entwicklung die Labore vorantreiben. Ratsmitglieder können beide Darstellungen dann nach denselben öffentlichen Regeln vergleichen.
Dieser Vergleich ist die unmittelbare Veränderung. Debatten über KI-Sicherheit trennen häufig Unternehmenszusicherungen von Warnungen der Kritiker. New York City bringt beides in einer Kammer zusammen, während über Gesetze beraten wird, die unvollständige Validierung oder vermeidbaren Schaden mit Folgen verknüpfen.
New York verlangt Nachweise vor dem Einsatz
Der folgenreichste Vorschlag würde die unabhängige Validierung zur Voraussetzung machen, um erfasste KI-Modelle in der Stadt anzubieten oder einzusetzen.
Der Vorschlag des Rates, auf der Agenda als T2026-2602 aufgeführt, würde das Vermarkten, Verkaufen oder Einsetzen eines KI-Modells in New York City ohne Validierung durch Dritte untersagen. Er würde außerdem eine technische Möglichkeit verlangen, mit der ein menschlicher Betreiber das Modell abschalten kann.
Validierung durch Dritte bedeutet, dass ein externer Prüfer ein System untersucht, statt sich ausschließlich auf die Bewertung des Entwicklers zu verlassen. Der Vorschlag nennt Aufgabenleistung, unterschiedliche Auswirkungen, Datenschutz und Sicherheit als relevante Bereiche. Zudem sollen Validatoren prüfen, ob die menschliche Abschaltfunktion funktioniert.
Validatoren müssten Interessen offenlegen, die mit dem Modell verbunden sind. Sie würden außerdem berichten, ob das System validiert oder für den Einsatz bereit war. New York City Cyber Command würde Umsetzungsregeln und Qualifikationen für Validatoren festlegen.
Die Strafen würden auf beiden Seiten der Evaluierungsbeziehung Risiken schaffen. Laut Agenda könnten zivilrechtliche Strafen bis zu 25.000 US-Dollar betragen, einschließlich einer festen Strafe von 25.000 US-Dollar je Fall für das Anbieten oder Einsetzen eines Modells ohne erforderliche Validierung. Gefälschte Validierungen könnten denselben Betrag nach sich ziehen.
Die vorgeschlagenen KI-Regeln gehen über die Validierung hinaus. Eine Maßnahme würde es Menschen ermöglichen, beim Department of Consumer and Worker Protection Beschwerden über Verstöße gegen Vorschriften für erfasste KI einzureichen. Die Behörde würde grundsätzlich ermitteln, sofern eine Beschwerde nicht leichtfertig, falsch oder doppelt ist.
Ein Beschwerdeführer könnte 25 Prozent der eingezogenen Erlöse erhalten, wenn die Stadt den Fall auf Grundlage der behaupteten Tatsachen verfolgt. Dieser Anteil könnte auf 50 Prozent steigen, wenn Beamte den Beschwerdeführer dazu bestimmen, eine Mitteilung über den Verstoß zuzustellen oder eine Zivilklage einzuleiten.
Dieser Anreizmechanismus soll ein Informationsproblem lösen. Außenstehende wissen selten, wie interne Evaluierungen konzipiert wurden, welche Warnungen eskaliert wurden oder warum ein Einsatz erfolgte. Beschäftigte und Auftragnehmer haben oft besseren Zugang, doch die Meldung von Fehlverhalten kann ihre Karriere gefährden.
Ein weiterer Gesetzentwurf würde den Whistleblower-Schutz für städtische Beschäftigte und erfasste Auftragnehmer präzisieren. Er würde Meldungen über KI-Entwicklung oder -Nutzung schützen, bei denen Beschäftigte vernünftigerweise von einem erheblichen und konkreten Risiko für die öffentliche Sicherheit ausgehen.
Das Paket befasst sich auch mit Vorfällen im Zusammenhang mit städtischen Verträgen. Auftragnehmer und städtische Behörden müssten Cyber Command innerhalb von 24 Stunden nach Entdeckung eines meldepflichtigen KI-Sicherheitsvorfalls informieren. Cyber Command würde das gemeldete Ereignis dann innerhalb weiterer 24 Stunden öffentlich bekannt machen.
Diese Vorgabe ist enger gefasst als eine allgemeine Meldepflicht für jeden Modellfehler. Sie konzentriert sich auf erfasste städtische Verträge. Dennoch würde sie eine sichtbare Aufzeichnung schaffen, die Forscher, Journalisten, Anbieter und Einwohner im Zeitverlauf vergleichen könnten.
Ein privates Klagerecht würde eine weitere Durchsetzungslücke angehen. Nach T2026-2600 könnte eine Person ein Unternehmen verklagen, dessen kommerziell verfügbares Modell durch böswillige oder unsachgemäße Nutzung durch Dritte Schaden verursacht hat. Die Klage würde vorhersehbaren Schaden und unzureichende Schutzvorkehrungen im Zusammenhang mit diesem Missbrauch voraussetzen.
Die Vorhersehbarkeit wird umstritten sein. Entwickler können nicht jeden böswilligen Prompt oder jede nachgelagerte Änderung verhindern. Unternehmen können vorhersehbaren Missbrauch jedoch auch nicht allein deshalb als unvorhersehbar behandeln, weil eine andere Person die abschließende Anweisung gegeben hat.
Der Vorschlag verlagert diese Frage vor Gericht, statt sie ausschließlich den Richtlinienteams der Unternehmen zu überlassen. Dadurch entsteht Druck, Evaluierungsergebnisse, Missbrauchsprognosen, interne Warnungen und Einsatzentscheidungen aufzubewahren.
Weitere Maßnahmen würden Datenpraktiken von Chatbots und Sicherheitswerbung regulieren. Anbieter von Chatbots müssten Anforderungen an Datenschutz, Sicherheit, Transparenz und Nutzerzugang erfüllen. Anbieter dürften nicht den Eindruck erwecken, dass ein Chatbot Beratung liefert, die der eines zugelassenen Fachmanns entspricht.
Werbung für ein KI-Modell müsste offenlegen, ob ein Dritter es validiert hat. Wesentlich falsche oder irreführende Sicherheitsbehauptungen könnten Strafen von bis zu 25.000 US-Dollar nach sich ziehen.
Diese Bestimmungen verwandeln Sicherheitsformulierungen in etwas, das eher einer Produktzusage ähnelt. Wenn ein Entwickler ein Modell als sicher bewirbt, will die Stadt diese Aussage mit einem identifizierbaren Evaluierungsprozess verknüpft sehen.
Das gesamte Paket bleibt vorgeschlagene Gesetzgebung. Die Anhörung am 5. Oktober ist keine endgültige Abstimmung, und die Gesetzentwürfe könnten sich erheblich ändern. Auf Maßnahmen des Rates könnten zudem Umsetzungsfragen, rechtliche Anfechtungen, Behördenregeln oder Entscheidungen des Bürgermeisters folgen.
Diese Unsicherheit sollte die Richtung nicht verschleiern. New York City bewegt sich von einer eng begrenzten algorithmischen Aufsicht hin zu einer breiteren Prüfung allgemeiner KI-Modelle und der Unternehmen, die sie bereitstellen.
Freiwillige KI-Sicherheit trifft auf durchsetzbare Nachweise
Im Kern geht es nicht darum, ob Unternehmen ihre Modelle testen, sondern darum, wer ausreichende Tests definiert und wer das Ergebnis überprüfen kann.
OpenAI, Anthropic, Google und Meta führen alle Modellevaluierungen durch. Sie veröffentlichen unterschiedliche Kombinationen aus System Cards, Sicherheitsberichten, Richtlinien für verantwortungsvolle Skalierung, Forschungsarbeiten und Einsatzbeschränkungen.
Diese Dokumente liefern nützliche Nachweise. Sie lassen den Unternehmen jedoch weitreichende Kontrolle über Testdesign, Offenlegungsschwelle, Zeitpunkt und Reaktion auf ein besorgniserregendes Ergebnis.
Der New Yorker Vorschlag würde einen Teil dieser Befugnis auf unabhängige Validatoren und städtische Amtsträger übertragen. Diese Veränderung erklärt, warum die Anhörung über New York hinaus Bedeutung hat. Sie stellt ein Governance-Modell infrage, das weitgehend auf freiwilligen Verpflichtungen und selektiver Transparenz beruht.
Unternehmensgeführte Tests können schnell voranschreiten und auf interne Zugänge zurückgreifen, die einem externen Prüfer fehlen. Modellentwickler verstehen ihre Systeme, Infrastruktur und Einsatzpläne besser als die meisten Regulierungsbehörden. Sie können Tests zudem während der Entwicklung durchführen, bevor eine öffentliche Veröffentlichung Druck erzeugt, das Ergebnis verteidigen zu müssen.
Externe Prüfung bietet einen anderen Vorteil. Sie kann Annahmen infrage stellen, die innerhalb eines Unternehmens zur Normalität geworden sind. Sie kann Nachweise über verschiedene Anbieter hinweg vergleichen und fragen, ob eine Sicherheitsbehauptung einheitliche Maßstäbe anlegt.
Keiner der beiden Ansätze garantiert eine verlässliche Aufsicht. Ein unabhängiger Prüfer könnte keinen Modellzugang, nicht die nötige technische Kompetenz oder zu wenig Zeit haben. Ein schlecht konzipierter Compliance-Test kann Papierarbeit statt einer spürbaren Risikominderung belohnen.
Die Vorschrift des Vorschlags zu Interessenkonflikten erkennt eine offensichtliche Schwäche an. Ein von einem Entwickler bezahlter Prüfer könnte unter Druck geraten, das System des Kunden zu genehmigen. Offenlegung hilft, beseitigt die finanzielle Abhängigkeit jedoch nicht allein.
Die Anforderung eines „Kill Switch“ wirft eine weitere schwierige Frage auf. Eine menschliche Abschaltmöglichkeit klingt unkompliziert, doch KI-Produkte werden über Cloud-Dienste, Anwendungen, Agenten und Kundeninfrastrukturen hinweg bereitgestellt.
Ein zentraler Anbieter kann den Zugang zu seinem gehosteten Modell deaktivieren. Er kann jedoch nicht zwingend jede kopierte Ausgabe, jedes exportierte Artefakt, jede lokale Integration oder jede bereits von einem Nutzer ausgelöste nachgelagerte Aktion stoppen.
Die Gesetzgebung wird eine präzise Definition des abzuschaltenden Systems benötigen. Sie muss außerdem zwischen einem deaktivierten Dienst und einem eingedämmten Vorfall unterscheiden. Andernfalls könnten Entwickler eine formale Kontrolle erfüllen, ohne die Wege anzugehen, über die Schäden entstehen.
Auch die Aufgabenleistung hängt vom Kontext ab. Ein Modell, das bei einem Benchmark gut abschneidet, könnte in einem Krankenhaus, einem Einstellungsprozess, einem Rechtsdienst oder einem autonomen Software-Agenten versagen. Die Validierung muss die allgemeinen Fähigkeiten des Modells mit seinem vorgesehenen Einsatz verbinden.
New York ist diesem Problem bereits durch die Aufsicht über automatisierte Einstellungsverfahren begegnet. Local Law 144 beschränkt Arbeitgeber und Arbeitsvermittlungen bei der Nutzung erfasster automatisierter Entscheidungstools für Beschäftigung ohne ein aktuelles Bias-Audit und vorgeschriebene Hinweise.
Die Stadt begann im Juli 2023 mit der Durchsetzung dieses Regelwerks. Ihre Regeln für Einstellungs-Audits schufen einen wichtigen Präzedenzfall, doch die aktuellen Vorschläge sind weiter gefasst.
Local Law 144 konzentriert sich auf einen klar definierten Einsatz im Beschäftigungsbereich. T2026-2602 gilt nach der Zusammenfassung des Councils für KI-Modelle, die in der Stadt vermarktet, verkauft oder eingesetzt werden. Diese Formulierung wirft weit größere Fragen zu Umfang, Zuständigkeit und technischer Umsetzbarkeit auf.
Ein eng begrenztes Tool hat identifizierbare Nutzer, Entscheidungen und Ausgaben. Ein Allzweckmodell kann Programmierung, Dokumentenanalyse, Kundenservice, Forschung, kreative Arbeit und autonome Aktionen unterstützen. Das Risiko verändert sich mit jeder Integration.
Die Anhörung sollte Zeugen daher zu konkreten Belegen befragen. Welchen Modellzugang erhält ein Prüfer? Welche Bewertungen müssen vor dem Einsatz stattfinden? Wie häufig muss die Validierung nach einem Modell-Update erneuert werden?
Mitglieder des Councils sollten außerdem fragen, wer die Verantwortung trägt, wenn ein Entwickler das Modell liefert, aber ein anderes Unternehmen die Anwendung entwickelt. Eine weit gefasste Regel könnte Modellanbieter, Vertriebspartner, Betreiber oder alle drei erfassen.
Hier werden Rechenschaftspflicht und Innovation zu einem echten Zielkonflikt. Schwache Standards würden unzuverlässige Behauptungen passieren lassen. Vage oder übermäßig weit gefasste Standards könnten nützliche Einsätze abschrecken, ohne bessere Sicherheit zu schaffen.
Die führenden Labs haben einen Anreiz, für technisch fundierte, landesweit einheitliche Regeln zu argumentieren. Stadtgesetzgeber haben einen Anreiz zu handeln, wenn bundesweite Standards unzureichend erscheinen. Die Anhörung bringt diese konkurrierenden Prioritäten in dieselbe öffentliche Dokumentation.
Warnungen von Whistleblowern brauchen mehr als Schlagzeilen
Coxons Warnung erhöht den politischen Einsatz, doch Gesetzgeber benötigen weiterhin überprüfbare Belege zu konkreten Systemen, Entscheidungen und Versäumnissen.
Behauptungen zu existenziellen Risiken ziehen Aufmerksamkeit auf sich, weil der behauptete Schaden immens ist. Sie können jedoch auch unmittelbarere Fragen zu Privatsphäre, Diskriminierung, Betrug, Cybersicherheit und unsicherer Automatisierung überlagern.
Das Paket des Councils versucht, beide Ebenen abzudecken. Notfallplanung und Anforderungen zur Modellabschaltung reagieren auf schwerwiegende Ausfälle. Datenschutz für Chatbots, Offenlegungspflichten für Werbung, Vertragsregeln und private Rechtsbehelfe betreffen Schäden, denen Einwohner möglicherweise früher begegnen.
Coxons Aussage wird am nützlichsten sein, wenn sie von Wahrscheinlichkeitsbehauptungen zu operativen Details übergeht. Gesetzgeber müssen verstehen, welche Fähigkeiten ihn beunruhigen, welche Belege sein Urteil verändert haben und welche Schutzmaßnahmen seiner Ansicht nach den heutigen Labs fehlen.
Sie sollten zudem persönliche Risikoschätzungen von dokumentierten Unternehmensfeststellungen unterscheiden. Die Warnung eines ehemaligen Mitarbeiters kann eine ernsthafte Meinungsverschiedenheit offenlegen. Sie belegt jedoch nicht unabhängig, dass ein katastrophales Ergebnis eintreten wird.
Derselbe Maßstab gilt für Aussagen von Unternehmen. Erklärungen zur Sicherheitskultur beweisen nicht, dass ein Modell aussagekräftige adversariale Tests bestanden hat. Ein Framework für verantwortungsvolle Skalierung zeigt nicht, dass Mitarbeitende eine Veröffentlichung stoppen können, wenn der Geschäftsdruck steigt.
Der Council sollte jedes Unternehmen fragen, wie eine ernsthafte interne Warnung durch die Organisation gelangt. Wer kann einen Einsatz verzögern? Welche Führungskraft kann diese Entscheidung rückgängig machen? Welche Dokumentation bleibt nach der Meinungsverschiedenheit erhalten?
Whistleblower-Schutz ist wichtig, weil formelle Meldewege versagen können. Mitarbeitende könnten Vergeltungsmaßnahmen, den Verlust künftiger Arbeit oder rechtliche Konflikte über vertrauliche Informationen fürchten. Anreizprogramme können jedoch auch schwache, doppelte oder strategische Beschwerden anziehen.
Das vorgeschlagene Beschwerdesystem versucht, leichtfertige, gefälschte und wiederholte Meldungen auszufiltern. Sein Erfolg wird von der Fachkompetenz und Untersuchungskapazität der Behörden abhängen. Verantwortliche müssen zwischen einer unpopulären technischen Einschätzung und einem Rechtsverstoß unterscheiden.
Die finanzielle Belohnung verdient eine sorgfältige Ausgestaltung. Ein Prozentsatz der eingezogenen Sanktionen kann Insider dazu ermutigen, Informationen zu melden, die Regulierungsbehörden sonst nicht sehen würden. Er kann auch Streit darüber auslösen, wer die entscheidenden Fakten zuerst geliefert hat.
Der Council muss zulässige Informationen, geschützte Offenlegungen, Vertraulichkeitsregeln und Verfahren zum Umgang mit sicherheitssensiblen Beweisen definieren. Öffentliche Offenlegung darf nicht zu einem Weg werden, personenbezogene Daten, Modellgewichte oder ausnutzbare Schwachstellen preiszugeben.
Unternehmen haben ebenfalls das Recht, unzutreffende Anschuldigungen anzufechten. Ein ordnungsgemäßes Verfahren ist wichtig, wenn eine Beschwerde Untersuchungen, Sanktionen, Gerichtsverfahren oder öffentliche Reputationsschäden auslösen kann.
Das rechtfertigt keine Geheimhaltung. Es bedeutet, dass die Stadt ein Verfahren benötigt, das sowohl glaubwürdige Whistleblower als auch die Integrität der Beweise schützt.
Die skeptische Frage lautet, ob eine Kommunalverwaltung diesen Prozess für die Frontier-KI-Branche verwalten kann. New York City verfügt über Regulierungserfahrung, technische Behörden, Vergabekompetenz und einen großen Markt. Es kontrolliert jedoch weder die nationale Forschungspolitik, Chipexporte noch jeden Einsatz außerhalb seiner Grenzen.
Eine weitreichende Modellregulierung könnte zudem auf Zuständigkeitsstreitigkeiten stoßen. Ein Cloud-Modell könnte anderswo trainiert, in einem anderen Bundesstaat gehostet, über einen Vermittler abgerufen und von einem Einwohner New Yorks genutzt werden. Jede Verbindung schafft eine andere Begründung für lokale Zuständigkeit.
Diese Schwierigkeiten machen die Anhörung nicht symbolisch. Städte kaufen Technologie, regulieren Unternehmen, schützen Verbraucher und setzen Bedingungen für lokale Aktivitäten. New Yorks Größe ermöglicht es seinen Regeln, die Praktiken von Anbietern über die Stadtgrenzen hinaus zu beeinflussen.
Einfluss ist jedoch nicht dasselbe wie Durchsetzbarkeit. Der Council muss zeigen, wie Behörden ein nicht validiertes Modell erkennen, die verantwortliche Einheit identifizieren und ein Modell-Update von einem neuen Einsatz unterscheiden würden.
Die Unternehmen sollten erläutern, welche Belege sie bereitstellen können, ohne Sicherheitsdetails oder Geschäftsgeheimnisse offenzulegen. Gesetzgeber sollten erläutern, wie externe Prüfer ausreichend Zugang erhalten werden, um wichtige Behauptungen zu testen.
Wenn beide Seiten bei Katastrophe versus Innovation bleiben, wird die Anhörung einprägsame Clips und wenig operative Klarheit hervorbringen. Wenn sie über Audit-Zugang, Vorfalldefinitionen, Zuständigkeit und Belege sprechen, kann die Sitzung die Gesetzesentwürfe verbessern.
Diese Unterscheidung ist auch für Unternehmenskäufer wichtig. Beschaffungsteams sehen sich zunehmend Behauptungen zu Modellsicherheit, Zuverlässigkeit und Compliance gegenüber. Ein glaubwürdiges Validierungsframework könnte Informationslücken verringern.
Ein schwaches Framework würde ein weiteres Zertifikat hinzufügen, ohne Käufern bei der Risikobewertung zu helfen. Die Details zu Zugang, Testabdeckung, Unabhängigkeit und wiederholten Bewertungen bestimmen, welches Ergebnis New York erhält.
Der Druck reicht über vier KI-Unternehmen hinaus
Die vorgeschlagenen Regeln würden nicht nur Modellentwickler betreffen, sondern auch Prüfer, Auftragnehmer, Betreiber, Werbetreibende und Organisationen, die KI-Dienste kaufen.
OpenAI, Anthropic, Google und Meta erhalten Aufmerksamkeit, weil sie prominente Modelle entwickeln. Die auf der Tagesordnung beschriebene Gesetzgebung erfasst eine breitere Kette von Organisationen.
Ein Unternehmen, das in New York ein KI-Modell anbietet, könnte einen Validierungsnachweis benötigen. Ein Unternehmen, das das Modell einsetzt, könnte separaten Pflichten unterliegen. Ein Prüfer könnte für eine falsche Zertifizierung haftbar werden.
Auftragnehmer der Stadt müssten Verfahren zur Erkennung von Vorfällen und zur schnellen Meldung einrichten. Behörden müssten Prozesse entwickeln, um Vorfälle an Cyber Command weiterzuleiten. Die Stadt müsste anschließend Informationen schnell genug veröffentlichen, um den vorgeschlagenen Zeitplan einzuhalten.
Anbieter verbraucherorientierter Chatbots müssten Praktiken zu Datenzugang, Datenschutz, Sicherheit und Transparenz überprüfen. Marketingteams bräuchten Belege für Sicherheitsbehauptungen. Rechtsabteilungen müssten vorhersehbaren Missbrauch bewerten.
Diese Verteilung der Verantwortung ist wichtig, weil KI-Risiken selten bei einer einzelnen Organisation liegen. Ein Modellentwickler schafft die zugrunde liegende Fähigkeit. Ein Anwendungsunternehmen definiert Arbeitsabläufe. Ein Kunde liefert Daten und gewährt Systemzugang.
Ein autonomer Agent fügt eine weitere Ebene hinzu. Ein Agent ist Software, die ein Modell zum Planen und Ausführen von Aktionen nutzt, oft über externe Tools. Sein Verhalten hängt vom Modell, den verfügbaren Berechtigungen, Anweisungen und der umgebenden Anwendung ab.
Ein Modell kann in einer Chat-Oberfläche kontrolliert wirken, aber gefährlich werden, wenn es mit E-Mail, Datenbanken, Zahlungssystemen oder Software-Repositories verbunden wird. Die Validierung muss daher die Einsatzumgebung untersuchen, nicht nur das Basismodell.
Der Vorschlag des Councils zur Vorfallsmeldung erkennt diese operative Realität bei städtischen Verträgen an. Ein meldepflichtiges Ereignis könnte mit einer Modellausgabe beginnen, aber durch Systemberechtigungen oder schwache Überwachung schädlich werden.
Organisationen, die KI einsetzen, sollten nicht auf die endgültige Gesetzgebung warten, um diese Wege zu prüfen. Sie können ermitteln, welche Modelle auf sensible Daten zugreifen, welche Tools externe Aktionen ausführen können und wer Berechtigungen widerrufen kann.
Dokumentation ist für diese Arbeit zentral. Teams benötigen Aufzeichnungen über Modellversionen, Bewertungsergebnisse, Vorfallentscheidungen und Änderungen an Schutzmaßnahmen. Ohne diese Aufzeichnungen wird Rechenschaftspflicht zu einer Debatte über Erinnerungen.
Auch Wissensarbeiter haben ein direktes Interesse. KI-Assistenten greifen zunehmend auf interne Dokumente, Besprechungsnotizen, Code, Forschung und Kundeninformationen zu. Nutzer müssen wissen, welche Daten in ein System gelangen und welche Kontrollen Abruf oder Speicherung regeln.
Eine gut gepflegte KI-Wissensdatenbank kann Teams helfen, Kontext zu bewahren und Entscheidungen nachzuvollziehen. Sie ersetzt weder Modellvalidierung, Zugriffskontrollen noch Incident Response.
Für Entwickler signalisiert die Anhörung, dass Sicherheitsbehauptungen zunehmend Nachweise erfordern werden. Die Aussage, eine Anwendung verfüge über Guardrails, wird einen skeptischen Regulierer nicht überzeugen. Teams benötigen möglicherweise Testfälle, Evaluierungsprotokolle, Zugriffsaufzeichnungen und Reaktionsverfahren.
Unternehmenskäufer sollten beobachten, ob die Unternehmen eine gemeinsame Mindestbasis für unabhängige Tests akzeptieren. Eine gemeinsame Basis könnte die Beschaffung vereinfachen. Unterschiedliche Standards könnten Käufer dazu zwingen, nicht kompatible Berichte zu vergleichen.
Die Unternehmen stehen zudem unter unterschiedlichem strategischem Druck. OpenAI und Anthropic betonen die Entwicklung von Frontier-Modellen und Sicherheitsforschung. Google integriert KI in Suche, Cloud, Produktivität und Verbraucherdienste.
Meta entwickelt Modelle und betreibt zugleich große Social-Media-Plattformen und Werbesysteme. Diese Geschäftsmodellunterschiede beeinflussen den Umfang der Bereitstellung, Zugangsmodelle und die Nachweise, die jedes Unternehmen liefern kann.
Die Anhörung sollte diese Unterschiede nicht zu einer einheitlichen Branchenantwort nivellieren. Sie sollte klären, welche Pflichten für alle Geschäftsmodelle gelten und welche kontextspezifische Regeln benötigen.
New Yorks früheres Einstellungsgesetz bietet sowohl einen Präzedenzfall als auch eine Warnung. Eine lokale Prüfungspflicht kann einen Markt für externe Überprüfungen schaffen. Sie kann aber auch Debatten über Definitionen, den Geltungsbereich und darüber auslösen, ob Prüfungen die Schäden messen, die betroffene Menschen beschäftigen.
Die neuen Vorschläge werden sich diesen Fragen in größerem Maßstab stellen müssen. Allzweckmodelle ändern sich häufig und ermöglichen Anwendungen, die Entwickler nicht vollständig vorhersehen können. Die Validierung muss auch nach Updates aussagekräftig bleiben, ohne jede geringfügige Änderung rechtlich unbeherrschbar zu machen.
Der Council hat das Paket sowohl als innovations- als auch als sicherheitsfreundlich dargestellt. Ob diese Balance gelingt, hängt von Definitionen und der Umsetzung ab, nicht vom Slogan.
Ein klarer Geltungsbereich könnte Entwickler belohnen, die ihre Kontrollen bereits dokumentieren. Ein mehrdeutiger Geltungsbereich könnte große Unternehmen begünstigen, die Compliance-Kosten tragen können, während kleinere Anbieter sich zurückziehen.
Diese Möglichkeit verdient während der Anhörung Aufmerksamkeit. Rechenschaftspflicht sollte nicht zu einer Hürde werden, die nur die größten Unternehmen finanzieren können. Ebenso wenig sollten Bedenken hinsichtlich der Marktkonzentration als Vorwand für schwache Tests dienen.
Drei Signale werden zeigen, ob die Anhörung relevant ist
Die Bedeutung der Anhörung wird sich an den von ihr hervorgebrachten Nachweisen, den Änderungen an den Gesetzesentwürfen und den Standards messen lassen, die New York tatsächlich durchsetzen kann.
Das erste Signal ist die Aussage selbst. Achten Sie darauf, ob Unternehmensvertreter mit konkreten Bewertungsmethoden, Eskalationsverfahren und Schwellenwerten für die Bereitstellung antworten.
Allgemeine Aussagen über verantwortungsvolle KI werden wenig offenlegen. Konkrete Beschreibungen von unabhängigem Zugang, Ergebnissen von Red-Team-Tests, Vorfallsbearbeitung und Freigabebefugnissen würden eine Grundlage schaffen, die Außenstehende bewerten können.
Coxon und andere frühere Forschende müssen denselben Maßstab erfüllen. Ihre Aussagen werden überzeugender, wenn sie Mechanismen, Governance-Versäumnisse oder Entscheidungen benennen, die Gesetzgeber untersuchen können. Katastrophenszenarien allein werden der Stadt nicht sagen, wie sie regulieren soll.
Das zweite Signal ist der Prozess zur Überarbeitung der Gesetzgebung. Der Plan für Unternehmenszeugenaussagen besagt, dass der Council Beiträge der Branche zu vorgeschlagenen Lösungen einholen will. Substanzielle Änderungen würden zeigen, dass die Anhörung das Verständnis der Gesetzgeber verändert hat.
Achten Sie auf die Definition eines KI-Modells, den Umfang der Validierung durch Dritte und die Bedeutung von Bereitstellung. Diese Begriffe entscheiden darüber, ob die Regeln eine eng begrenzte Gruppe von Systemen oder nahezu jeden KI-gestützten Dienst erfassen.
Beobachten Sie auch die vorgeschlagene Abschaltfunktion. Eine praktikable Bestimmung sollte festlegen, wer sie kontrolliert, was sie deaktiviert, wie sie getestet wird und für welche Bereitstellungen sie erforderlich ist.
Der Anreiz für Whistleblower wird detaillierte Regeln zu Anspruchsberechtigung und Vertraulichkeit benötigen. Das private Klagerecht wird einen belastbaren Maßstab für Vorhersehbarkeit und angemessene Schutzvorkehrungen benötigen.
Das dritte Signal ist der Umsetzungsweg. Cyber Command und das Department of Consumer and Worker Protection würden nach den Vorschlägen wesentliche Verantwortlichkeiten übernehmen.
Ihre Personalausstattung, ihr technischer Zugang, ihre Regelsetzungskompetenz und ihre Durchsetzungsverfahren werden ebenso wichtig sein wie der Gesetzestext. Ein Auftrag ohne Untersuchungskapazität würde die Stadt von Unternehmensangaben abhängig machen.
Die Agenda des Council führt die neuen Vorschläge weiterhin als vorab eingebrachte Punkte auf. Protokolle und Gesetzgebungsmaßnahmen waren vor der geplanten Anhörung nicht verfügbar. Leser sollten das Paket daher als Ausgangspunkt und nicht als bereits geltendes Recht betrachten.
Die OpenAI-NYC-Council-Anhörung wird nur dann erfolgreich sein, wenn sie die Lücke zwischen Sicherheitsversprechen und überprüfbaren Kontrollen verringert. Das bedeutet, zu fragen, welche Nachweise vorliegen, wer sie prüfen kann und was geschieht, wenn eine Warnung ignoriert wird.
Entwickler, Unternehmenskäufer und KI-Nutzer sollten die Aussagen mit diesen Fragen im Blick verfolgen. Legen die Zeugen überprüfbare Schutzvorkehrungen offen? Überführen Gesetzgeber weit gefasste Formulierungen in praktikable Pflichten? Erhalten Behörden die Befugnisse und Fachkenntnisse, um sie durchzusetzen?
Die Antworten werden zeigen, ob New York ein glaubwürdiges Modell für Rechenschaftspflicht schafft oder lediglich eine weitere Ebene von Compliance-Bürokratie. Verfolgen Sie das Protokoll der Anhörung und vergleichen Sie anschließend jede öffentliche Zusicherung mit den unter Eid vorgelegten Nachweisen.
