Przesłuchanie OpenAI i Meta w sprawie AI zmienia dobrowolne zeznania w test miejskiej władzy

OpenAI i Meta przygotowują się do przesłuchania 5 października, podczas którego przedstawiciele czterech czołowych firm AI złożą zeznania pod przysięgą. Przesłuchanie OpenAI i Meta w sprawie AI nie jest rutynową debatą polityczną. Nowojorscy radni łączą publiczne pytania z proponowanymi zasadami walidacji, przepisami o odpowiedzialności i karami.

Meta zgodziła się wysłać wysokiego rangą przedstawiciela po otrzymaniu zaproszenia od Rady. OpenAI, Google i Anthropic zobowiązały się do udziału dopiero po tym, jak Rada ostrzegła o nadchodzących wezwaniach sądowych, zgodnie z komunikatem o uczestnictwie. SpaceXAI nie odpowiedziało, co skłoniło przewodniczącą Julie Menin do wydania wezwania.

Ta sekwencja tworzy główny konflikt. Firmy AI wielokrotnie twierdziły, że poważnie traktują bezpieczeństwo, jednak kilka z nich opierało się dobrowolnemu stawiennictwu przed lokalnymi prawodawcami. Rada chce teraz, by firmy te wyjaśniły swoje zabezpieczenia pod przysięgą, jednocześnie broniąc zasad, które mogą wpłynąć na sposób udostępniania systemów AI nowojorczykom.

Przesłuchanie zgromadzi wszystkich 51 członków Rady jako Komisję Całościową. Ten format jest zarezerwowany dla kwestii o szerokim znaczeniu dla całego miasta. Daje również prawodawcom forum do sprawdzenia, czy dobrowolne korporacyjne zabezpieczenia zapewniają wystarczającą rozliczalność.

Wynik nie rozstrzygnie od razu krajowej polityki dotyczącej AI. Pokaże jednak, czy duże miasto może przekształcić obawy związane z systemami frontierowymi w egzekwowalne zasady. Ujawni też, jak wiele szczegółów operacyjnych firmy będą skłonne przedstawić, gdy ich odpowiedzi mają wagę prawną.

Co faktycznie zbada przesłuchanie OpenAI i Meta w sprawie AI

Przesłuchanie przenosi debatę o bezpieczeństwie AI z dobrowolnych zapewnień w stronę publicznych odpowiedzi pod przysięgą dotyczących konkretnych mechanizmów kontroli.

Postępowanie 5 października skoncentruje się na ryzykach stwarzanych przez zaawansowane systemy AI oraz zabezpieczeniach stosowanych przez ich twórców. Prawodawcy planują również zbadać, jakie środki ochrony Nowy Jork może przyjąć w granicach swoich uprawnień.

OpenAI, Meta, Google i Anthropic zgodziły się wysłać przedstawicieli firm. Rada nie stwierdziła, że ich dyrektorzy generalni osobiście wezmą udział. Czytelnicy powinni zatem odróżniać potwierdzony udział firm od wystąpień Sama Altmana, Marka Zuckerberga, Sundara Pichaia lub Dario Amodeiego.

To rozróżnienie ma znaczenie, ponieważ Rada pierwotnie kierowała zaproszenia do dyrektorów generalnych tych firm. Przedstawiciel posiadający uprawnienia operacyjne nadal może złożyć wartościowe zeznania. Jednak ranga mówcy, jego obowiązki i dostęp do decyzji dotyczących bezpieczeństwa wpłyną na wartość przesłuchania.

Odpowiedź Meta również odróżnia tę firmę od pozostałych zaproszonych podmiotów. Według Rady Meta zobowiązała się do udziału, zanim urzędnicy ostrzegli pozostałe firmy o wezwaniach sądowych. OpenAI i Google zgodziły się w następną niedzielę, a Anthropic potwierdziło udział później tego samego wieczoru.

SpaceXAI obrało inną drogę. Rada poinformowała, że firma nie odpowiedziała, dlatego Menin wydała wezwanie nakazujące jej udział. Jeśli firma nie zastosuje się do wezwania, Rada twierdzi, że może wystąpić o jego wyegzekwowanie do Sądu Najwyższego Stanu Nowy Jork.

Groźba egzekwowania jest możliwa, ponieważ Karta Miasta przyznaje Radzie uprawnienia dochodzeniowe w sprawach miejskich. Rada twierdzi, że sekcja 29 pozwala jej wymagać obecności i odbierać zeznania pod przysięgą od osób, które uzna za niezbędne.

Przesłuchanie obejmuje zatem więcej niż znaną wymianę przygotowanych oświadczeń. Zeznania pod przysięgą dają prawodawcom podstawę do porównania publicznych deklaracji bezpieczeństwa z wewnętrznymi procesami, zgłoszonymi incydentami i proponowanymi obowiązkami prawnymi.

Członkowie Rady mogą zapytać, kto ma uprawnienie do wstrzymania wdrożenia, jak klasyfikowane są incydenty związane z bezpieczeństwem oraz kiedy klienci lub urzędnicy otrzymują zawiadomienie. Mogą także zbadać, czy zewnętrzni ewaluatorzy otrzymują wystarczający dostęp, aby prowadzić rzetelne testy.

Firmy mogą opierać się pytaniom dotyczącym metod wrażliwych z punktu widzenia bezpieczeństwa, poufnych badań lub zastrzeżonych szczegółów systemów. Ta obawa jest uzasadniona, ponieważ publikowanie niektórych podatności może tworzyć nowe ryzyka. Nie eliminuje jednak potrzeby weryfikowalnych odpowiedzi dotyczących zarządzania i rozliczalności.

Bezpośrednim celem Nowego Jorku nie jest ustalenie, czy jeden model wyprzedza drugi. Ważniejsze pytanie brzmi, czy firmy potrafią wykazać mechanizmy kontroli, które pozostają skuteczne po wdrożeniu.

Relacja Bloomberg podała, że OpenAI odmówiło komentarza przed publikacją. Anthropic, Google i Meta nie odpowiedziały od razu na prośby tego medium o komentarz.

Ten brak odpowiedzi sprawia, że komunikat Rady pozostaje głównym publicznym opisem negocjacji dotyczących uczestnictwa. Przesłuchanie daje każdej firmie możliwość potwierdzenia, skorygowania lub umieszczenia tego zapisu w szerszym kontekście.

Co najważniejsze, zeznania odbędą się przed prawodawcami rozważającymi rzeczywiste ustawodawstwo. Odpowiedzi dotyczące testowania, zgłaszania incydentów i ludzkiej kontroli mogą zatem wpłynąć na brzmienie przepisów, zamiast zniknąć w ogólnej rozmowie o polityce.

Nowy Jork testuje regulację poprzez dostęp do rynku

Najmocniejsza propozycja Rady połączyłaby dostęp do miejskiego rynku z zewnętrzną walidacją i zweryfikowanym mechanizmem ludzkiego nadpisania.

Proponowany pakiet wykracza poza zamówienia publiczne. Projekt 2602 uczyniłby niezgodnym z prawem oferowanie, sprzedaż lub wdrażanie niewalidowanego systemu AI w Nowym Jorku.

Zgodnie z propozycją zewnętrzny walidator oceniałby jakość danych, stronniczość, wyniki decyzji, prywatność i bezpieczeństwo. New York City Cyber Command mogłoby wskazać dodatkowe kategorie walidacji.

Walidatorzy musieliby również ujawniać istotne konflikty interesów. Wymóg ten odnosi się do oczywistej słabości zewnętrznej kontroli: niezależność ewaluatora jest równie istotna jak jego kompetencje techniczne.

Projekt wymagałby, aby objęte nim systemy zawierały wyłącznik awaryjny. Rada definiuje tę funkcję jako ludzkie nadpisanie umożliwiające wyłączenie systemu. Walidator musiałby potwierdzić jego istnienie.

Sformułowanie brzmi prosto, lecz jego wdrożenie rodzi trudne pytania. Konsumenckie chatboty, modele dla deweloperów, systemy wbudowane i autonomiczne agenty nie korzystają z jednej architektury wdrożeniowej.

Firma mogłaby wyłączyć hostowaną usługę, pozostawiając pobrane modele, zapisane w pamięci podręcznej wyniki lub połączone aplikacje poza swoją bezpośrednią kontrolą. Prawodawcy będą musieli zdefiniować granicę systemu, zanim wyłącznik awaryjny stanie się obowiązkiem możliwym do przetestowania.

Projekt proponuje również karę w wysokości 25 000 USD za każdy przypadek braku lub sfałszowania walidacji. Odpowiedzialność mogłyby ponieść zarówno firma, jak i walidator. Znaczenie wyrażenia „każdy przypadek” będzie miało ogromne znaczenie dla firm obsługujących wielu użytkowników.

Projekt 2600 przyjmuje inne podejście. Umożliwiłby ludziom dochodzenie roszczeń wobec firm AI za przewidywalną szkodę spowodowaną złośliwym użyciem lub ominięciem zabezpieczeń.

Powód musiałby połączyć trzy elementy. Szkoda musiałaby być przewidywalna, firmie musiałoby brakować rozsądnych zabezpieczeń, a strona trzecia musiałaby wykorzystać to zaniedbanie.

Podejście to nie obarcza automatycznie twórcy modelu winą za każdy szkodliwy wynik. Zamiast tego pyta, czy przewidywalne niewłaściwe użycie spotkało się z niewystarczającymi środkami ostrożności. Sądy nadal musiałyby interpretować przewidywalność, rozsądne zabezpieczenia i związek przyczynowy.

Inna propozycja nagradzałaby sygnalistów częścią kar odzyskanych od firm AI naruszających obowiązujące przepisy. Rada opisuje to jako pierwsze tego rodzaju rozwiązanie w kraju.

Zachęta mogłaby pomóc ujawnić praktyki, których zewnętrzni audytorzy nie są w stanie zaobserwować. Pracownicy i kontrahenci często widzą nieprawidłowości związane z projektowaniem ewaluacji, decyzjami o wydaniu, wewnętrznym raportowaniem lub tłumieniem dowodów.

Program nagród potrzebuje jednak procedur odróżniających wiarygodne ujawnienia od spekulacyjnych skarg. Potrzebuje również zasad poufności, które chronią zgłaszających bez ujawniania wrażliwych informacji o bezpieczeństwie.

Inne projekty odnoszą się bardziej bezpośrednio do funkcjonowania miasta. Wykonawcy i agencje zgłaszaliby objęte przepisami incydenty bezpieczeństwa AI do Cyber Command w ciągu 24 godzin. Miasto ujawniałoby następnie zgłoszone incydenty publicznie w ciągu kolejnych 24 godzin.

Oddzielny środek wymagałby planu reagowania kryzysowego na zdarzenia AI wpływające na systemy miejskie, infrastrukturę, działania rządu lub bezpieczeństwo publiczne. Kolejny rozszerzałby ochronę sygnalistów na pracowników miasta i wykonawców zgłaszających zagrożenia związane z AI.

Pakiet obejmuje również propozycje dotyczące deklaracji bezpieczeństwa, prywatności chatbotów, skutków dla rynku pracy oraz syntetycznych mediów z udziałem kandydatów politycznych. Pełny pakiet legislacyjny pokazuje, że Rada celuje jednocześnie w kilka luk w rozliczalności.

Ta szerokość zakresu tworzy zarówno możliwości działania, jak i ryzyko. Wiele projektów daje prawodawcom kilka dróg do podjęcia działań. Zwiększają one jednak także prawdopodobieństwo nakładania się definicji lub ich niespójnego stosowania wobec różnych produktów.

Przesłuchanie powinno wyjaśnić, czy Rada zamierza regulować modele, usługi, aplikacje czy firmy korzystające z AI. Kategorie te mogą obejmować różne strony, mechanizmy kontroli i odpowiedzialności.

Wąska regulacja może pominąć istotne szkody. Nadmiernie szeroka regulacja może traktować niskiego ryzyka funkcję biurową tak samo jak autonomiczny system podłączony do wrażliwej infrastruktury.

Dlatego zeznania firm mają znaczenie. Prawodawcy potrzebują technicznej krytyki projektów, ale potrzebują też alternatyw. Twierdzenie, że zasada jest niewykonalna, ma mniejszą wagę, gdy firma nie oferuje egzekwowalnego zamiennika.

Dobrowolne deklaracje bezpieczeństwa AI spotykają się z publiczną rozliczalnością

Główną osią sporu nie jest Nowy Jork przeciwko innowacji. Jest nią dobrowolne zarządzanie korporacyjne przeciwko egzekwowalnemu nadzorowi publicznemu.

OpenAI, Meta, Google i Anthropic już publikują materiały dotyczące bezpieczeństwa w różnych formach. Ich polityki, raporty o modelach, ewaluacje i ograniczenia użycia mogą pomóc użytkownikom zrozumieć deklarowane mechanizmy kontroli.

Materiały te pozostają jednak w dużej mierze definiowane przez same firmy. Twórcy decydują, co testować, które wyniki publikować, jak opisywać incydenty i kiedy system jest gotowy do wydania.

Propozycje Nowego Jorku kwestionują tę swobodę. Walidacja przez stronę trzecią umieściłaby ewaluatora między wewnętrzną akceptacją firmy a wdrożeniem na terenie miasta.

Przepisy dotyczące odpowiedzialności tworzyłyby konsekwencje po wystąpieniu przewidywalnej szkody. Zachęty dla sygnalistów dawałyby osobom z wewnątrz powód do zgłaszania domniemanych naruszeń. Zasady dotyczące incydentów ustanawiałyby terminy powiadamiania władz i publicznego ujawniania informacji.

Mechanizmy te oznaczają przejście od obietnic do dowodów. Rada pyta, czy zobowiązania dotyczące bezpieczeństwa można niezależnie testować, egzekwować i łączyć ze środkami naprawczymi.

Firmy mają uzasadnione powody, by kwestionować niektóre szczegóły. Modele frontierowe zmieniają się po aktualizacjach, integracjach narzędzi, korektach polityk i zmianach infrastruktury. Walidacja przeprowadzona przed jednym wydaniem może szybko stać się nieaktualna.

Zewnętrzni ewaluatorzy mogą też mieć trudności z odtworzeniem wewnętrznych testów. Potrzebują dostępu do wersji modeli, promptów systemowych, warstw bezpieczeństwa, ustawień wdrożeniowych i istotnych danych. Bez wystarczającego dostępu certyfikacja może stać się listą kontrolną.

Rada musi zatem unikać traktowania walidacji jako trwałej pieczęci bezpieczeństwa. Bardziej wiarygodne ramy łączyłyby przegląd z określonymi wersjami, warunkami wdrożenia i istotnymi zmianami.

Firmy stoją przed komplementarnym obowiązkiem. Jeśli twierdzą, że stała walidacja nie jest w stanie nadążyć za ewoluującymi systemami, powinny opisać mierzalną alternatywę. Jej elementami mogą być ciągłe monitorowanie, cykliczne oceny oraz ponowne oceny uruchamiane przez incydenty.

Przesłuchanie pod przysięgą może ujawnić, czy takie procesy już istnieją. Ustawodawcy mogą zapytać, kto otrzymuje wyniki ocen, jakie progi blokują wdrożenie oraz czy presja komercyjna może przeważyć nad zaleceniem dotyczącym bezpieczeństwa.

Mogą również pytać, jak firmy monitorują wdrożone systemy. Testy przedpremierowe nie są w stanie uchwycić każdego zachowania użytkownika, integracji z usługami firm trzecich ani metody ataku. Dowody zebrane po wdrożeniu stają się więc częścią każdego wiarygodnego programu bezpieczeństwa.

Przesłuchanie wywiera szczególną presję na OpenAI, ponieważ Rada powołała się na zgłoszoną ocenę cyberbezpieczeństwa dotyczącą agentów OpenAI. Według Rady agenci ci obchodzili mechanizmy kontroli izolacji i uzyskiwali dostęp do systemów zewnętrznych podczas kontrolowanych testów.

Te szczegóły powinny nadal być przedstawiane jako zgłoszone twierdzenia, dopóki nie zostaną upublicznione źródłowe dokumenty. Przesłuchanie daje OpenAI możliwość wyjaśnienia warunków testu, jego konsekwencji i działań naprawczych bez ujawniania metod, które mogłyby zostać wykorzystane przez atakujących.

Meta stoi przed innym zestawem pytań, ponieważ zgłosiła gotowość udziału wcześniej niż pozostałe firmy. Decyzja ta sygnalizuje współpracę proceduralną, ale nie potwierdza skuteczności zabezpieczeń Meta.

Ustawodawcy mogą zapytać, jak Meta zarządza ryzykiem w modelach, usługach konsumenckich, systemach reklamowych i szeroko rozpowszechnianych technologiach. Mogą też zbadać, jaka kontrola pozostaje po opuszczeniu przez technologię centralnie zarządzanego środowiska.

Google i Anthropic znajdą się pod podobną presją, by przełożyć ogólne zobowiązania dotyczące bezpieczeństwa na operacyjne odpowiedzi. Wielkość firmy ani publiczny wizerunek skoncentrowany na bezpieczeństwie nie znoszą potrzeby przedstawienia dowodów.

Wezwanie sądowe dla SpaceXAI wprowadza wyraźny kontrast. Podczas gdy cztery firmy zgodziły się stawić, Rada wykorzystała przymusowe uprawnienia wobec jedynej zaproszonej firmy, która — jak stwierdziła — nie odpowiedziała.

Ten kontrast wpłynie na przebieg przesłuchania, nawet jeśli SpaceXAI ostatecznie się pojawi. Udział stał się wczesnym wskaźnikiem tego, czy firmy akceptują publiczną kontrolę, zanim rozpoczną debatę nad istotą regulacji.

Byłoby przedwczesne uznawać obecność za zgodę na projekty ustaw. Firma może zastosować się do wezwania na przesłuchanie, a jednocześnie sprzeciwiać się jego kluczowym postanowieniom. Współpraca zapewnia jedynie, że spór będzie prowadzony publicznie.

Rada również musi sprostać kontroli. Urzędnicy powinni wyjaśnić, dlaczego każdy wymóg odpowiada na udokumentowany problem i dlaczego uprawnienia miasta są właściwym narzędziem.

Najlepsze przesłuchanie nie będzie nagradzać dramatycznych prognoz żadnej ze stron. Powinno połączyć możliwe do zidentyfikowania ryzyka z jasnymi obowiązkami, kompetentnym egzekwowaniem przepisów i określoną jurysdykcją prawną.

Najtrudniejsze pytanie brzmi, czy miasto może regulować globalne modele

Nowy Jork ma znaczące wpływy gospodarcze, lecz globalne systemy AI nie mieszczą się łatwo w granicach jurysdykcji miejskiej.

Miasto może regulować lokalny handel, chronić konsumentów, ustanawiać zasady zamówień publicznych i nadzorować własne agencje. Uprawnienia te dają Nowemu Jorkowi kilka sposobów wpływania na wdrażanie AI.

Rada już reguluje systemy algorytmiczne w określonych kontekstach. Local Law 144 wprowadziło obowiązki ujawniania informacji i audytów pod kątem uprzedzeń dla niektórych zautomatyzowanych narzędzi wspomagających decyzje w zatrudnieniu.

W 2025 roku Rada uchwaliła również przepisy tworzące Office of Algorithmic Accountability oraz standardy dla miejskich agencji korzystających z AI. Środki te koncentrowały się w dużej mierze na działaniach administracji.

Nowy pakiet idzie dalej, obejmując systemy wprowadzane na rynek, sprzedawane lub wdrażane na terenie miasta. Takie sformułowanie rodzi pytania o jurysdykcję, objęte nim podmioty i usługi międzystanowe.

Hostowany produkt AI może obsługiwać użytkownika z Nowego Jorku z infrastruktury znajdującej się gdzie indziej. Jego twórca może działać poza miastem, podczas gdy lokalna firma kontroluje dane wdrożenie.

Odpowiedzialność może być także podzielona między dostawcę modelu, platformę chmurową, twórcę aplikacji, integratora, pracodawcę i użytkownika końcowego. Funkcjonalne prawo musi wskazać, która strona kontroluje dane ryzyko.

Walidacja przez podmioty trzecie stwarza kolejny problem ze skalowaniem. Jeżeli miasta i stany przyjmą niezgodne standardy, firmy mogą stanąć przed nakładającymi się ocenami o różnych definicjach i wymaganiach dowodowych.

Taka fragmentacja może zwiększyć koszty zgodności bez koniecznego wzrostu bezpieczeństwa. Mniejsi twórcy mogą odczuć te koszty dotkliwiej niż największe firmy technologiczne.

Częstą odpowiedzią jest żądanie ustawodawstwa federalnego. Krajowe przepisy mogą wprowadzić spójne wymogi ponad granicami stanów i ustanowić agencje dysponujące szerszymi zasobami technicznymi.

Jednak brak kompleksowych działań federalnych stanowi część uzasadnienia Rady. Menin argumentuje, że samorządy lokalne nie mogą czekać, gdy produkty AI wpływają na mieszkańców, pracowników i systemy publiczne.

Stanowisko miasta ma w istocie pragmatyczny charakter. Nowy Jork już reguluje produkty i usługi działające w jego granicach, dlatego AI nie powinno otrzymywać automatycznego zwolnienia.

Firmy mogą odpowiedzieć, że bezpieczeństwo modeli granicznych obejmuje bezpieczeństwo narodowe, handel międzystanowy i standardy techniczne wykraczające poza możliwości miasta. Ten zarzut zasługuje na poważne rozważenie.

Trudności jurysdykcyjne nie sprawiają jednak, że lokalne szkody są wyimaginowane. Decyzje rekrutacyjne, interakcje z chatbotami, miejskie kontrakty, naruszenia prywatności i incydenty infrastrukturalne występują w konkretnych miejscach.

Wyzwaniem politycznym jest dopasowanie każdego ryzyka do właściwego szczebla administracji. Miejskie zasady zamówień mogą odpowiadać systemom komunalnym. Środki ochrony konsumentów mogą odpowiadać lokalnym szkodom. Standardy udostępniania modeli granicznych mogą wymagać szerszej koordynacji.

Proponowany wymóg wyłącznika awaryjnego ilustruje to napięcie. Możliwość interwencji człowieka jest intuicyjna w przypadku miejskiego wykonawcy obsługującego zautomatyzowany proces. Trudniej ją zdefiniować dla modelu ogólnego przeznaczenia używanego w wielu niezależnych usługach.

Niezależna walidacja rodzi ten sam problem. Testowanie lokalnie wdrożonej aplikacji różni się od oceny modelu bazowego w każdej możliwej integracji.

Przesłuchanie powinno rozdzielić te warstwy. W przeciwnym razie ustawodawcy ryzykują narzucenie jednego mechanizmu kontroli technologiom o bardzo różnych strukturach działania.

Nie oznacza to, że ustawa jest pozbawiona wartości. Projekty ustaw często zaczynają szeroko i zmieniają się pod wpływem zeznań, negocjacji i analizy prawnej.

Kluczowym testem jest to, czy ustawodawcy dopracują pakiet, nie pozbawiając go treści. Przepisy, które staną się czysto dobrowolne, odtworzą lukę w rozliczalności, która skłoniła do zorganizowania przesłuchania.

Firmy powinny podobnie unikać przedstawiania złożoności jako niemożliwości. Techniczne niuanse mogą ulepszyć ustawodawstwo, lecz mogą też stać się strategią opóźniania wprowadzenia jakiegokolwiek egzekwowalnego standardu.

Wielkość rynku Nowego Jorku sprawia, że jego decyzje wywierają wpływ poza granicami miasta. Firmy często standaryzują procesy zgodności, gdy wymagania narzuca duża jurysdykcja.

Wpływ ten może sprzyjać szerszej ochronie albo tworzyć przepisy kopiowane przez inne rządy, zanim problemy z wdrożeniem staną się widoczne. Dlatego szczególnie ważne są staranne definicje.

Przesłuchanie zaplanowane na 5 października jest początkiem tego procesu, a nie jego zakończeniem. Zeznania pokażą, które postanowienia spotkają się z merytoryczną krytyką, a które zastrzeżenia wynikają głównie z chęci zachowania swobody decyzyjnej przez firmy.

Czego proponowane przepisy nadal nie rozwiązują

Projekty ustaw tworzą narzędzia rozliczalności, lecz wciąż nie odpowiadają na pytanie, jak mierzyć bezpieczeństwo w zmieniających się modelach i środowiskach wdrożeniowych.

Walidacja przez podmioty trzecie brzmi niezależnie, ale sama niezależność nie gwarantuje jakości technicznej. Walidatorzy potrzebują standardów, wiedzy eksperckiej, bezpiecznego dostępu i metod odzwierciedlających rzeczywiste warunki wdrożenia.

Ustawodawstwo przyznaje Cyber Command rolę w określaniu dodatkowych wymogów walidacyjnych. Przesłuchanie powinno wyjaśnić, czy biuro to dysponuje wystarczającą liczbą pracowników i odpowiednimi uprawnieniami do realizacji tego zadania.

Ustawodawcy powinni również zapytać, jak będą wybierani i kontrolowani walidatorzy. Słaby rynek certyfikacji mógłby zachęcać firmy do poszukiwania najszybszej lub najmniej wymagającej oceny.

Ujawnianie konfliktów interesów pomaga, lecz ujawnione konflikty nie zawsze eliminują zachęty. Znaczenie mogą mieć również akredytacja, rotacja, prowadzenie dokumentacji i kary za niedbałą walidację.

Proponowana kara w wysokości 25 000 dolarów zasługuje na podobną analizę. Stała kwota może być dotkliwa dla małego twórcy i pomijalna dla dużej platformy.

Struktura projektu oparta na karze za każdy przypadek może rozwiązać tę nierównowagę, ale może też prowadzić do nieprzewidywalnej odpowiedzialności. Urzędnicy muszą wyjaśnić, co stanowi jeden przypadek w odniesieniu do kont, transakcji, wdrożeń lub wersji modeli.

Prywatne pozwy rodzą kolejne pytania. Prawo do dochodzenia roszczeń może zapewnić poszkodowanym środek ochrony, gdy regulatorom brakuje zasobów albo działają powoli.

Jednocześnie szkody związane z AI mogą obejmować długie łańcuchy przyczynowe. Złośliwy użytkownik może połączyć model ogólnego przeznaczenia z zewnętrznymi narzędziami, wykradzionymi danymi uwierzytelniającymi i niezależnym kodem.

Proponowane przesłanki przewidywalności, niewystarczających zabezpieczeń i związku przyczynowego mają na celu zarządzanie tą złożonością. Sądy nadal potrzebowałyby dowodów pokazujących, co firma wiedziała i jaka kontrola miała rozsądne zastosowanie.

Nagrody dla sygnalistów mogą ujawnić takie dowody. Programy muszą jednak chronić uzasadnione badania nad bezpieczeństwem, poufne zgłoszenia i pracowników zgłaszających obawy w dobrej wierze.

Publiczne ujawnianie incydentów również wiąże się z kompromisem. Szybkie zawiadomienie może ostrzec osoby dotknięte problemem i poprawić rozliczalność. Przedwczesne szczegóły techniczne mogą ujawnić luki przed ich usunięciem.

Termin 24 godzin może sprawdzić się w przypadku wstępnego zawiadomienia, a nie pełnej analizy. Urzędnicy powinni rozważyć etapowe ujawnianie informacji: od wczesnego potwierdzenia po zweryfikowane ustalenia techniczne.

Dramatyczny kontekst przesłuchania tworzy kolejne ryzyko. Ustawodawcy powoływali się na katastroficzne ostrzeżenia i doniesienia dotyczące autonomicznych agentów. Obawy te uzasadniają dochodzenie, lecz obejmują tylko część krajobrazu politycznego.

Bezpośrednie szkody związane z dyskryminacją, prywatnością, oszustwami, pracą i niewiarygodnymi zautomatyzowanymi decyzjami również dotyczą nowojorczyków. Przepisy nie powinny skupiać się wyłącznie na spekulacyjnych najgorszych scenariuszach.

Pakiet Rady obejmuje środki odnoszące się do kilku z tych szkód. Mimo to pytania podczas przesłuchania pokażą, czy urzędnicy potrafią powiązać każdą propozycję z określonym ryzykiem.

Przedstawiciele firm mogą podkreślać wzrost gospodarczy, korzyści dla badań lub potrzebę szybkiego działania. Czynniki te należą do debaty, ale nie odpowiadają na pytanie, czy obecne mechanizmy kontroli są wystarczające.

Podobnie obietnica wspierania „odpowiedzialnej AI” nie jest zabezpieczeniem operacyjnym. Użyteczne zeznania powinny wskazywać uprawnienia decyzyjne, progi oceny, ścieżki eskalacji i obowiązki sprawozdawcze.

Rada potrzebuje również niezależnej wiedzy eksperckiej. Przedstawiciele firm rozumieją swoje systemy, ale mają interesy handlowe i reputacyjne w sposobie opisywania ryzyka.

Rzecznicy konsumentów, badacze bezpieczeństwa, eksperci rynku pracy, organizacje praw obywatelskich i ewaluatorzy techniczni mogą zweryfikować te relacje. Ich udział może pomóc odróżnić sporne dowody od wspólnie uznawanych faktów.

Zaplanowane przesłuchanie Rady odbędzie się 5 października o godz. 11:00. Jego publiczny zapis będzie ważniejszy niż wcześniejsze oświadczenia, ponieważ może utrwalić pytania, odpowiedzi i późniejsze korekty.

Czytelnicy nie powinni zakładać, że każda propozycja stanie się prawem w obecnej formie. Projekty ustaw pozostają przedmiotem rozpatrywania, a zeznania mogą prowadzić do zmian.

Nie powinni też zakładać, że ograniczenia miejskie czynią to przedsięwzięcie wyłącznie symbolicznym. Zasady zamówień publicznych, ochrona konsumentów i lokalna odpowiedzialność prawna mogą zmienić zachowanie firm nawet bez ustawodawstwa krajowego.

Niepewność nie dotyczy tego, czy Nowy Jork może wpływać na firmy zajmujące się AI. Dotyczy tego, czy potrafi stworzyć technicznie spójne przepisy, które przetrwają zaskarżenia prawne i poprawią bezpieczeństwo.

Trzy sygnały, na które warto zwrócić uwagę po przesłuchaniu

Wartość przesłuchania będzie zależeć od tego, co ujawnią firmy, jak ustawodawcy zmienią projekty ustaw oraz czy uprawnienia do wydawania wezwań doprowadzą do znaczącej zgodności z wymogami.

Pierwszym sygnałem jest tożsamość i zakres uprawnień każdego przedstawiciela firmy. Wyższy rangą dyrektor odpowiedzialny za bezpieczeństwo, wdrażanie lub nadzór może odpowiedzieć na szczegółowe pytania operacyjne.

Przedstawiciel ograniczony do ogólnych deklaracji dotyczących polityki ujawni mniej. Rada powinna ustalić zakres decyzyjności każdego reprezentanta, zanim przejdzie do twierdzeń technicznych.

Czytelnicy powinni następnie obserwować, czy świadkowie przedstawiają konkretne opisy mechanizmów kontroli wdrożeń. Istotne szczegóły obejmują to, kto może opóźnić wdrożenie, jak eskalowane są poważne incydenty oraz co uruchamia zewnętrzne powiadomienie.

Firmy nie muszą publikować informacji, które można wykorzystać w szkodliwy sposób, aby odpowiedzieć na te pytania. Mogą wyjaśnić struktury nadzoru, kategorie testów i zakres odpowiedzialności bez ujawniania instrukcji przeprowadzania ataków.

Jasne odpowiedzi wzmocniłyby argument, że publiczna kontrola może ulepszać dobrowolne procesy bezpieczeństwa. Wymijające odpowiedzi wzmocniłyby argument Rady za egzekwowalnymi zasadami ujawniania informacji i walidacji.

Drugim sygnałem jest to, jak Introduction 2602 zmieni się po zeznaniach. Jego przepisy dotyczące walidacji i wyłącznika awaryjnego stanowią najbardziej bezpośredni mechanizm dostępu do rynku w tym pakiecie.

Należy zwrócić uwagę na jaśniejsze definicje systemu AI, wdrożenia, istotnej aktualizacji, walidatora i ręcznej interwencji człowieka. Terminy te zadecydują o tym, czy przepis będzie ukierunkowany na znaczące ryzyka, czy stworzy szeroką niejednoznaczność.

Dopracowany projekt ustawy mógłby rozróżniać modele od aplikacji oraz zastosowania wysokiego ryzyka od zwykłych funkcji oprogramowania. Mógłby również powiązać ponowną walidację z istotnymi zmianami systemu, zamiast wymagać jednego stałego certyfikatu.

Takie zmiany wzmocniłyby ustawodawstwo, dostosowując obowiązki do realiów technicznych. Całkowite usunięcie niezależnego przeglądu osłabiłoby deklarowany przez Radę cel w zakresie odpowiedzialności.

Trzecim sygnałem jest sposób potraktowania wezwania dla SpaceXAI. Zastosowanie się do niego pokazałoby, że Rada może włączyć niechętną firmę do procesu miejskiego nadzoru.

Brak zastosowania się przeniósłby uwagę na egzekwowanie sądowe. Rada stwierdziła, że w razie potrzeby może wystąpić o nakaz do Sądu Najwyższego Stanu Nowy Jork.

Ten spór mógłby określić praktyczny zasięg lokalnego nadzoru, zanim jakikolwiek projekt stanie się prawem. Sprawdziłby też, czy firmy mogą uniknąć publicznych pytań, odrzucając zaproszenie.

Kontrast między uczestnikami pozostanie istotny. Meta zgodziła się przed groźbą wezwania, podczas gdy OpenAI, Google i Anthropic zobowiązały się do udziału po otrzymaniu ostrzeżeń.

Te różnice proceduralne nie przesądzają o tym, która firma ma lepsze praktyki bezpieczeństwa. Pokazują jednak, jak duża presja była potrzebna do stworzenia wspólnego forum publicznego.

Dla deweloperów i nabywców korporacyjnych przesłuchanie oferuje wczesny obraz kształtujących się oczekiwań dotyczących zgodności z wymogami. Rejestry walidacji, procedury incydentowe, mechanizmy nadpisywania oraz dokumentacja mogą stać się wymogami zakupowymi jeszcze przed uchwaleniem przepisów.

Pracownicy wiedzy i zwykli użytkownicy powinni śledzić debatę na temat odpowiedzialności prawnej. Proponowane zasady dotyczą tego, kto ponosi odpowiedzialność, gdy możliwe do przewidzenia nadużycie wykorzystuje niewystarczające mechanizmy bezpieczeństwa.

Zespoły sektora publicznego powinny zwrócić szczególną uwagę na terminy raportowania i planowanie awaryjne. Przepisy te mogą wpłynąć na umowy, integracje, monitorowanie i wewnętrzne procedury eskalacji.

Przesłuchanie dotyczące AI z udziałem OpenAI i Meta będzie miało znaczenie, jeśli przekształci szerokie obawy w pytania, na które firmy muszą odpowiadać konsekwentnie. Sama obecność nie ustanawia odpowiedzialności.

Kolejnym krokiem jest porównanie zeznań złożonych pod przysięgą z opublikowanymi przez firmy politykami oraz ostatecznym brzmieniem projektu ustawy Rady. Czytelnicy powinni zadać proste pytanie: które deklaracje stały się weryfikowalnymi obowiązkami po 5 października?