Dostęp UE do Anthropic Mythos nadszedł z trzymiesięcznym opóźnieniem
Anthropic udostępnił Unii Europejskiej Mythos 5 po ponad trzech miesiącach negocjacji, mimo że wcześniej sygnalizował nadchodzący dostęp. Porozumienie dotyczące dostępu UE do Anthropic Mythos pozwala Europejskiej Agencji Unii Europejskiej ds. Cyberbezpieczeństwa, znanej jako ENISA, testować ograniczony model cyberbezpieczeństwa. Nie obejmuje ono nowszego Mythos 5.1.
To rozróżnienie sprawia, że opóźnione przekazanie nabiera większego znaczenia. ENISA może teraz zbadać istotny model graniczny, lecz jej ocena już pozostaje w tyle za cyklem wydawniczym Anthropic. Firma zaprezentowała Mythos 5 w czerwcu, a 1 września wprowadziła Mythos 5.1.
Ta luka zestawia zobowiązania Anthropic w zakresie bezpieczeństwa z praktycznymi ograniczeniami niezależnego nadzoru. Europejscy regulatorzy chcą bezpośrednich dowodów dotyczących systemów zdolnych do wykrywania i potencjalnego wykorzystywania luk w oprogramowaniu. Anthropic kontroluje, kiedy regulatorzy otrzymują modele, którą ich wersję dostają oraz jakie zabezpieczenia pozostają aktywne.
Spór nie dotyczy więc jedynie tego, czy Europa uzyskała dostęp. Chodzi o to, czy publiczni ewaluatorzy mogą badać systemy graniczne, gdy ich ustalenia nadal dotyczą wdrażanych modeli. Według europejskich urzędników OpenAI już udostępniło ENISA GPT-5.6 Cyber i GPT-6 Astra.
Dostęp UE do Anthropic Mythos obejmuje starszy model
ENISA rozpoczęła testy Mythos 5, ale Anthropic przeniósł już swoją najbardziej wrażliwą linię modeli do Mythos 5.1.
Rzecznik Komisji Europejskiej Thomas Regnier potwierdził nowe ustalenia 10 września. Powiedział, że ENISA otrzymała Mythos 5 i testuje go po rozmowach z Anthropic. Dostęp ENISA nadszedł ponad trzy miesiące po rozpoczęciu rozmów.
Mythos 5 to ograniczona wersja tego samego bazowego modelu, który wykorzystuje Claude Fable 5. Anthropic usunął lub złagodził określone zabezpieczenia cyberbezpieczeństwa dla zweryfikowanych organizacji. Zmiany te pozwalają zatwierdzonym obrońcom wykonywać pracę, którą model ogólnie dostępny by zablokował.
Może to obejmować badanie podatności, walidację exploitów oraz testy bezpieczeństwa w autoryzowanych systemach. Działania te mają uzasadnioną wartość obronną, lecz te same zdolności mogą wspierać ataki w razie niewłaściwego użycia. Anthropic dystrybuuje więc Mythos w ramach kontrolowanych programów, zamiast oferować nieograniczony dostęp publiczny.
Firma uruchomiła Mythos 5 9 czerwca jako ulepszenie dla dotychczasowych uczestników Project Glasswing. Project Glasswing to program partnerski Anthropic dla organizacji chroniących kluczowe oprogramowanie i infrastrukturę. Anthropic zapowiedział, że będzie okresowo dodawać partnerów i tworzyć szerszy proces aplikacyjny.
Premiera Mythos 5 opisywała model jako ograniczony do partnerów Glasswing i wybranych badaczy. Wskazano też, że rozszerzanie dostępu będzie odbywać się w konsultacji z rządem Stanów Zjednoczonych. Warunek ten umieścił decyzje o dostępie na styku oceny korporacyjnej, polityki bezpieczeństwa narodowego i zarządzania ryzykiem technicznym.
Oczekiwano, że ENISA stanie się częścią tego rozszerzenia. Oczekiwania nie przełożyły się jednak na natychmiastowy dostęp. Bruksela nadal wywierała presję na firmę, podczas gdy europejscy urzędnicy kwestionowali, czy ograniczenia nie traktują niesprawiedliwie bliskiego partnera Stanów Zjednoczonych.
Opóźnienie przekroczyło również istotną granicę produktową. Anthropic wypuścił Mythos 5.1 1 września, dziewięć dni przed publicznym ujawnieniem dostępu ENISA. Anthropic twierdzi, że nowszy model poprawia wyniki w cyberbezpieczeństwie i biologii, pozostając jednocześnie dostępny wyłącznie dla zweryfikowanych organizacji.
ENISA otrzymała więc model istotny, lecz nie najnowszy. Testowanie Mythos 5 nadal może ujawnić, jak działają kontrole dostępu, zabezpieczenia i zdolności cybernetyczne Anthropic. Wniosków tych nie można jednak automatycznie przenieść na Mythos 5.1.
Nawet niewielkie aktualizacje modelu mogą zmieniać zachowanie agentów, wzorce odmowy, użycie narzędzi i wykrywanie podatności. Regulator potrzebuje, aby oceniana wersja ściśle odpowiadała wersji wdrażanej. W przeciwnym razie nadzór staje się analizą historyczną, a nie bieżącą oceną ryzyka.
Decyzja o dostępie UE do Anthropic Mythos rozstrzyga doraźne pytanie, czy ENISA może cokolwiek testować. Nie rozstrzyga jednak, czy ENISA otrzyma terminowy dostęp do każdego istotnego następcy.
Trzymiesięczne opóźnienie jest głównym problemem bezpieczeństwa
Niezależna ocena traci wartość, gdy dostęp pojawia się po zmianie generacji modelu.
Testowanie granicznych systemów AI zależy od czasu, ponieważ zdolności mogą rozwijać się szybciej niż formalne procesy polityczne. Ewaluator modelu potrzebuje wystarczająco dużo czasu, aby zaprojektować testy, odtworzyć błędy i przekazać ustalenia, zanim decyzje o szerokim wdrożeniu staną się trudne do odwrócenia.
ENISA mierzy się teraz z tym problemem w przypadku Mythos 5. Jej praca może zmierzyć zdolność czerwcowego modelu do wykrywania podatności, proponowania exploitów lub poruszania się po złożonych systemach. Może również zbadać, czy monitoring i ograniczenia dostępu Anthropic ograniczają te zdolności.
Europejscy urzędnicy muszą jednak interpretować wyniki w kontekście wrześniowego krajobrazu produktów. Mythos 5.1 jest już wiodącym systemem Anthropic w klasie Mythos. Anthropic twierdzi, że ta wersja przynosi postępy w cyberbezpieczeństwie i biologii — dwóch obszarach budzących poważne obawy związane z podwójnym zastosowaniem.
Zdolności podwójnego zastosowania służą zarówno celom uzasadnionym, jak i szkodliwym. System wykrywania podatności może pomóc opiekunowi oprogramowania załatać je, zanim zadziałają atakujący. Ten sam system może pomóc atakującemu znaleźć słaby kod i stworzyć działający exploit.
Anthropic rozwiązuje ten konflikt poprzez różne warstwy dostępu. Modele Fable korzystają z silniejszych zabezpieczeń przy ogólnej dostępności. Modele Mythos łagodzą wybrane zabezpieczenia dla zatwierdzonych organizacji działających w celach obronnych lub naukowych.
Ta struktura sprawia, że weryfikacja staje się kluczowym mechanizmem bezpieczeństwa. Dostęp nie jest drobnym szczegółem administracyjnym dodanym po rozwoju modelu. Decyduje o tym, które organizacje mogą obserwować najmniej ograniczone zachowanie modelu oraz czy niezależne instytucje mogą kwestionować twierdzenia Anthropic.
Opóźnienie pokazuje, że program zaufanego dostępu może tworzyć własne wąskie gardło nadzorcze. Anthropic musi oceniać organizacje, spełniać wymogi rządowe i zapobiegać niebezpiecznemu dostępowi. Regulatorzy muszą negocjować z zewnątrz tego procesu, nawet gdy ich mandat obejmuje ocenę wynikających z niego zagrożeń.
Instytucje europejskie posiadają także uprawnienia egzekucyjne wynikające z unijnego AI Act. Rola ta może komplikować dobrowolne udostępnianie informacji, ponieważ dowody zebrane podczas testów mogą wpłynąć na późniejsze działania regulacyjne. Twórca może zasadnie chronić wrażliwe systemy, a zarazem stwarzać wrażenie selektywnego nadzoru.
Żadna z tych obaw nie usuwa problemu związanego z czasem. Jeśli firmy udostępniają starsze modele po premierze nowszych wersji, publiczne organy testujące pozostają o krok za nimi. System może sprawiać wrażenie współpracy, jednocześnie ograniczając praktyczny zasięg tej współpracy.
Ma to znaczenie poza jednym modelem. Twórcy systemów granicznych coraz częściej wydają je w szybkich sekwencjach, a aktualizacje zdolności pojawiają się pomiędzy formalnymi ocenami. Trzymiesięczne negocjacje mogą pochłonąć całą generację produktu.
Problem staje się ostrzejszy w przypadku modeli cybernetycznych, ponieważ obrońcy i atakujący działają nieprzerwanie. Opóźniona ocena nie może odzyskać czasu obronnego utraconego przed uzyskaniem dostępu. Nie może też ustalić, czy najnowszy model wprowadził nowe zachowania.
Własna strategia Anthropic uznaje znaczenie przewagi obrońców. Project Glasswing zaprojektowano tak, aby wybranym organizacjom bezpieczeństwa dać wczesną możliwość wykrywania i naprawiania podatności. Ta przewaga zależy od tego, kto otrzymuje dostęp i kiedy.
ENISA chroni europejskie sieci, wspiera koordynację incydentów i pomaga opracowywać politykę cyberbezpieczeństwa. Wyłączenie jej z wczesnych testów osłabia geograficzny zasięg przewagi obrońców. Późniejsze przyznanie dostępu poprawia zasięg, lecz nie odtwarza utraconego wczesnego okna.
Kluczowe pytanie nie dotyczy tego, czym Anthropic Mythos jest w abstrakcyjnym ujęciu. Istotne jest to, czy zarządzanie dostępem może dotrzymać kroku modelowi zaprojektowanemu do pilnej pracy w zakresie bezpieczeństwa.
Obietnica bezpieczeństwa Anthropic zderza się z europejskim mandatem nadzorczym
Główny konflikt przeciwstawia model bezpieczeństwa Anthropic oparty na kontrolowanym dostępie europejskiemu żądaniu niezależnych i aktualnych dowodów.
Anthropic argumentuje, że bezpośredni dostęp stwarza większe ryzyko nadużycia niż ograniczone dostarczanie wyników o charakterze obronnym. Złośliwy operator, korzystając z otwartych promptów, może testować model, dopracowywać zapytania i realizować szkodliwe cele. Użytkownik otrzymujący wyłącznie łatkę lub alert ma mniej swobody.
Firma zaczęła umieszczać Mythos za wyspecjalizowanymi produktami bezpieczeństwa. Claude Security może skanować kod należący do klienta, zwracać ustalenia dotyczące podatności i sugerować poprawki do weryfikacji przez człowieka. Użytkownicy nie otrzymują poprzez ten interfejs nieograniczonego dostępu do Mythos.
Anthropic współpracuje także z dostawcami rozwiązań bezpieczeństwa, aby integrować Mythos z produktami tworzonymi do konkretnych zastosowań. Model dostępu dla obrońców dostarcza klientom określone artefakty, utrzymując jednocześnie bazowy model za kontrolowanymi interfejsami.
Mechanizm ten ma swoje zalety. Ogranicza liczbę osób, które mogą bezpośrednio testować ofensywne prompty. Może również osadzać wyniki modelu w ugruntowanych procesach bezpieczeństwa z uprawnieniami, rejestrowaniem działań i zatwierdzeniem przez człowieka.
Regulator nie może jednak oceniać ograniczonego modelu wyłącznie na podstawie wyselekcjonowanych wyników. Niezależne testowanie wymaga swobody kwestionowania założeń, badania przypadków brzegowych i odtwarzania szkodliwego zachowania. Działania te przypominają sondowanie, które mechanizmy kontroli Anthropic mają ograniczać.
Tworzy to strukturalny konflikt. Anthropic chce ograniczać ekspozycję poprzez kontrolowanie modelu i jego interfejsów. ENISA potrzebuje istotnego dostępu właśnie dlatego, że kontrolowane demonstracje nie mogą ustalić pełnego ryzyka.
Karta modelu firmy i jej testy wewnętrzne mogą dostarczać użytecznych dowodów. Nie mogą jednak zastąpić oceny prowadzonej przez instytucje o innych motywacjach. Twórca wybiera swoje benchmarki, środowiska testowe, progi wydania oraz interpretację niejednoznacznych wyników.
Agencje publiczne realizują odrębny mandat. Ich zadaniem nie jest ulepszanie produktu ani ochrona komercyjnego harmonogramu wydawniczego. Ocenią ryzyka systemowe, porównują twórców i łączą zachowanie techniczne z obowiązkami wobec infrastruktury publicznej.
Mythos sprawia, że ta niezależność jest szczególnie ważna. Model jest przeznaczony do pracy w cyberbezpieczeństwie, gdzie skuteczny wynik może mieć natychmiastowe konsekwencje operacyjne. Ustalenie może ujawnić powszechnie używany komponent oprogramowania, podczas gdy exploit może zagrozić organizacjom, zanim pojawi się łatka.
Test systemu niejawnego ilustruje zarówno obietnicę, jak i niepewność. Anonimowy urzędnik Stanów Zjednoczonych powiedział, że Mythos zidentyfikował podatności w wrażliwych systemach rządowych w ciągu kilku godzin.
Urzędnik odróżnił wykrywanie słabości od ich skutecznego wykorzystania. To rozróżnienie ma znaczenie, ponieważ wykrywanie podatności i niezawodne włamanie to różne progi zdolności. Publiczna dyskusja może je zacierać, zwłaszcza gdy dramatyczne twierdzenia rozchodzą się szybciej niż dowody techniczne.
Senator Mark Warner opisał test bardziej stanowczo podczas czerwcowego przesłuchania. Powiedział, że narzędzie włamało się do niemal wszystkich testowanych systemów niejawnych w ciągu kilku godzin, przypisując tę informację szefowi NSA i Cyber Command.
NSA i Anthropic odmówiły komentarza na temat opisywanego ćwiczenia. Bez szczegółowej metodologii niezależni obserwatorzy nie mogą ustalić, jakie systemy testowano, jaki był poziom autonomii modelu, zakres pomocy człowieka ani kryteria sukcesu.
Ponad 100 ekspertów ds. cyberbezpieczeństwa i liderów branży zakwestionowało później tezę, że Mythos ma wyjątkowe możliwości. Stwierdzili, że inne modele bazowe i modele open source również mogłyby wspierać audyty bezpieczeństwa oraz szkolenia.
Ten spór wzmacnia argument za niezależną oceną. Jeśli Mythos jest wyjątkowo niebezpieczny, regulatorzy potrzebują bieżącego dostępu, aby zrozumieć związane z nim ryzyko. Jeśli jego możliwości przypominają systemy konkurencji, wysoce selektywny dostęp może zapewniać mniej bezpieczeństwa, niż sugeruje Anthropic.
Wpływu Anthropic Mythos nie można mierzyć wyłącznie reputacją. Wymaga on powtarzalnych testów obejmujących porównywalne modele, środowiska, zabezpieczenia i wersje. Prace ENISA mogą dostarczyć takich dowodów, pod warunkiem że jej dostęp pozostanie technicznie istotny.
Europa Ma Dostęp, Ale Nie Równą Widoczność
Porozumienie zmniejsza transatlantycką lukę w dostępie, nie zapewniając jednak równego wglądu w najnowsze systemy Anthropic.
Anthropic rozszerzyło Project Glasswing w czerwcu na około 150 dodatkowych organizacji w ponad 15 krajach. Rozszerzenie nastąpiło po kwietniowej zapowiedzi obejmującej znacznie mniejszą początkową grupę.
Wkrótce potem rząd Stanów Zjednoczonych wprowadził tymczasowe ograniczenia dotyczące zagranicznego dostępu do Mythos 5 i Fable 5. Anthropic szeroko wyłączyło dostęp, ponieważ — jak podało — nie mogło natychmiast egzekwować dyrektywy na wymaganym poziomie.
Ograniczenie objęło nawet cudzoziemców pracujących dla Anthropic, zgodnie z relacją firmy. Władze Stanów Zjednoczonych miały powołać się na potencjalny problem bezpieczeństwa. Anthropic zakwestionowało zasadność reakcji rządu.
Dostęp został później przywrócony zatwierdzonym organizacjom ze Stanów Zjednoczonych. Epizod ten pokazał jednak, jak szybko polityka krajowa może przerwać prywatny program dostępu. Dał też europejskim urzędnikom konkretny powód do rozmowy o zależności od technologii kontrolowanej za granicą.
Obawa przypomina problem wyłącznika awaryjnego. Europejskie organizacje mogą budować procesy bezpieczeństwa wokół amerykańskiego modelu, a następnie stracić dostęp wskutek decyzji rządowej, na którą nie mają wpływu. Nawet tymczasowe zakłócenie może mieć znaczenie podczas aktywnej reakcji na incydent.
Przyznanie ENISA dostępu do Mythos 5 zmniejsza jedną część tej zależności. Europejscy ewaluatorzy mogą teraz tworzyć własne dowody zamiast całkowicie polegać na Anthropic lub agencjach Stanów Zjednoczonych. Mogą testować model pod kątem europejskich priorytetów i założeń infrastrukturalnych.
Porozumienie nie eliminuje nierówności między wersjami. Publiczne informacje Anthropic wskazują, że Mythos 5.1 nadal jest ograniczony do grupy organizacji ze Stanów Zjednoczonych. Firma pracuje nad rozszerzeniem dostępu, ale nie opublikowała konkretnego harmonogramu dla Europy.
Ten wzorzec jest widoczny także gdzie indziej. Brytyjski AI Security Institute miał otrzymać dostęp do wcześniejszego systemu Mythos, lecz nie do Mythos 5.1 przed premierą. Luka w brytyjskich testach skłoniła urzędników do ostrzeżeń przed fragmentaryczną międzynarodową oceną.
Anthropic wcześniej ściśle współpracowało z brytyjskim instytutem. Opisywane wykluczenie sygnalizuje zatem więcej niż rutynowe opóźnienie harmonogramu. Sugeruje, że dostęp może zostać zawężony nawet dla stałych partnerów rządowych.
OpenAI stanowi użyteczne porównanie, nie stając się głównym konfliktem artykułu. Europejscy urzędnicy twierdzą, że ENISA otrzymała GPT-5.6 Cyber i GPT-6 Astra. Wielka Brytania również podała, że jej instytut testował GPT-6 Astra przed publiczną premierą.
Takie ustalenia wywierają presję na Anthropic. Regulatorzy mogą porównywać nie tylko możliwości modeli, lecz także współpracę deweloperów. Polityka firmy dotycząca ewaluacji może wpływać na to, czy rządy ufają jej szerszym zobowiązaniom w zakresie bezpieczeństwa.
Porównanie nadal wymaga ostrożności. Publiczne doniesienia nie ujawniają, czy ENISA otrzymała identyczne warunki dostępu do różnych modeli. Czas testów, uprawnienia do narzędzi, migawki modeli, monitoring i ustawienia zabezpieczeń mogą wpływać na wyniki.
Same nazwy modeli nie ustanawiają równoważności ewaluacji. ENISA potrzebuje wystarczającej ilości szczegółów technicznych, aby wyjaśnić, co testowała i jak bardzo ten system odpowiada wdrożeniom produkcyjnym. Bez takiego ujawnienia czytelnicy nie mogą porównać dostępu między firmami.
Europejskie władze stoją też przed własnym testem wiarygodności. Otrzymanie modelu nie gwarantuje rygorystycznej ani terminowej oceny. ENISA musi wykazać, że dysponuje odpowiednią infrastrukturą, specjalistycznym personelem i bezpiecznymi procedurami do wrażliwych testów.
Jej ustalenia będą wymagały ostrożnego traktowania. Zbyt wczesne opublikowanie szczegółów exploitów mogłoby zwiększyć ryzyko. Ujawnienie wyłącznie ogólnych wniosków mogłoby uniemożliwić zewnętrznym badaczom ocenę dowodów.
Przydatna ewaluacja powinna rozróżniać kilka warstw. Powinna oddzielać wykrywanie podatności od tworzenia exploitów, autonomiczne działania od pomocy człowieka oraz sukces laboratoryjny od wyników w utrzymywanych systemach.
Powinna również dokumentować zabezpieczenia obecne podczas testów. Mythos 5 różni się od Fable 5 głównie tym, że wybrane zabezpieczenia cybernetyczne zostały zniesione. Testowanie ograniczonego interfejsu ujawniłoby mniej niż testowanie dostępu zapewnianego partnerom operacyjnym.
Dla europejskich firm nie jest to odległa debata polityczna. Zespoły bezpieczeństwa mogą ostatecznie otrzymywać ustalenia generowane przez Mythos za pośrednictwem zintegrowanych produktów. Będą musiały ocenić wiarygodność, pochodzenie i pilność tych ustaleń.
Organizacje powinny zachowywać otaczające je dowody w przeszukiwalnej bazie wiedzy. Alert wygenerowany przez model zyskuje wartość, gdy osoby go analizujące mogą połączyć go ze zmianami w kodzie, wcześniejszymi incydentami i decyzjami ludzi.
Szersza lekcja jest taka, że dostęp do modelu i suwerenność nad modelem nie są tym samym. ENISA może testować amerykański system bez kontroli nad jego dostępnością, cyklem aktualizacji czy warunkami działania. Europa zyskuje wgląd, ale Anthropic zachowuje kontrolę nad dostępem.
Mythos 5.1 Pozostawia Otwarte Najważniejsze Pytanie
Największą niewiadomą jest to, czy Anthropic zapewni niezależnym ewaluatorom terminowy dostęp do każdej nowej generacji Mythos.
Anthropic opisuje Mythos 5.1 jako swój najnowszy model klasy Mythos, oferujący postępy w cyberbezpieczeństwie i biologii. Firma ogranicza go do zweryfikowanych organizacji, ponieważ oba obszary możliwości mogą wspierać korzystne badania albo powodować poważne szkody.
Strona Anthropic dotycząca dostępu do Mythos 5.1 podaje, że obecna dostępność pozostaje ograniczona. Stwierdza również, że Cyber Verification Program obejmie w przyszłości dostęp do Mythos, bez podania konkretnej daty.
To sformułowanie pozostawia trzy nierozstrzygnięte kwestie. Po pierwsze, nie wskazuje, którzy międzynarodowi regulatorzy się zakwalifikują. Po drugie, nie obiecuje dostępu przed premierą. Po trzecie, nie definiuje poziomu bezpośredniej interakcji, który otrzymają zaakceptowani ewaluatorzy.
Te szczegóły decydują o tym, czy program zapewnia znaczący nadzór. Dostęp po premierze wspiera badania, ale nie może wpłynąć na pierwotną decyzję o wdrożeniu. Ograniczone interfejsy mogą ujawniać wartość defensywną, jednocześnie ukrywając zachowania ofensywne.
Istnieje także problem dopasowania wersji. Anthropic podaje, że Fable 5.1 i Mythos 5.1 korzystają ze wspólnego modelu bazowego. Ich zabezpieczenia różnią się, szczególnie w zadaniach z zakresu cyberbezpieczeństwa i biologii.
Ewaluator nie może zakładać, że wyniki Fable opisują Mythos. Interwencje bezpieczeństwa mogą blokować zadania, przekierowywać je do innego modelu albo zmieniać obserwowany wskaźnik ukończenia. Bazowe wagi są tylko jedną częścią wdrożonego systemu.
Podobnie wyniki Mythos 5 nie mogą rozstrzygnąć pytań dotyczących Mythos 5.1. Nowszy model może realizować dłuższe łańcuchy ataków, inaczej używać narzędzi lub skuteczniej wracać do działania po nieudanych próbach. Może też zachowywać się bezpieczniej pod nadzorem.
Anthropic publikuje karty systemowe i wyjaśnienia benchmarków, co poprawia widoczność jego wewnętrznej oceny. Wyniki benchmarków wymagają jednak kontekstu. Projekt testu, scaffolding, liczba prób i interwencje zabezpieczające mogą istotnie zmienić rezultat.
Benchmarki cyberbezpieczeństwa również mogą się dezaktualizować. Gdy zadania i podatności są powszechnie znane, trudniej wykluczyć zanieczyszczenie danych treningowych. Wyniki benchmarku mogą nie przewidywać powodzenia przeciwko nieznanym systemom produkcyjnym.
Testy operacyjne wprowadzają kolejną komplikację. Rzeczywiste sieci obejmują kontrolę tożsamości, rejestrowanie zdarzeń, segmentację i narzędzia defensywne. Model, który odnosi sukces w izolowanym środowisku testowym, może mieć trudności, gdy te warstwy wchodzą ze sobą w interakcje.
Z drugiej strony model może stwarzać ryzyko bez ukończenia autonomicznego włamania. Może przyspieszać rozpoznanie, proponować ścieżki ataku lub pomagać ludzkiemu operatorowi szybciej iterować. Ewaluacje powinny mierzyć te pośrednie korzyści.
Strategia Anthropic oparta na ograniczonej dystrybucji nie zasługuje więc ani na automatyczną aprobatę, ani na automatyczne odrzucenie. Strategia odpowiada na rzeczywisty problem niewłaściwego użycia. Koncentruje jednak dowody i podejmowanie decyzji w firmie oraz wybranych relacjach rządowych.
Sceptyczny test jest prosty. Jeśli kontrolowany dostęp jest głównym mechanizmem bezpieczeństwa, Anthropic powinno wykazać, że niezależni ewaluatorzy otrzymują bieżące modele w użytecznych warunkach. W przeciwnym razie mechanizm chroni model przed kontrolą, obok ochrony przed niewłaściwym użyciem.
Ocena Mythos 5 przez ENISA może ustanowić punkt odniesienia. Jej wartość wzrośnie, jeśli agencja opublikuje metodologię, wyjaśni ustawienia zabezpieczeń i oddzieli potwierdzone obserwacje od twierdzeń dostawcy.
Ewaluacja będzie miała mniejszą wagę, jeśli pojawi się po kolejnej dużej aktualizacji, bez wyraźnego powiązania z najnowszym modelem. Terminowość powinna stać się częścią wyniku bezpieczeństwa, a nie administracyjnym przypisem.
Trzy Sygnały Pokażą, Czy Dostęp Stanie Się Nadzorem
Kolejnym testem będzie to, czy to przekazanie przekształci się w powtarzalny proces ewaluacji, zamiast pozostać jednorazowym ustępstwem.
Pierwszym sygnałem będzie dostęp do Mythos 5.1. Anthropic nie musi zapewniać nieograniczonej publicznej dostępności, ale ENISA potrzebuje aktualnego celu ewaluacji. Szybki dostęp wzmocniłby argument, że trzymiesięczne opóźnienie wynikało z przejściowych ograniczeń.
Dalsze wykluczenie osłabiłoby to wyjaśnienie. Pokazałoby, że europejski nadzór nadal jest związany ze starszymi wersjami, podczas gdy wybrane organizacje ze Stanów Zjednoczonych otrzymują nowsze możliwości.
Drugim sygnałem jest metodologia ewaluacji ENISA. Agencja powinna wskazać testowaną wersję, warunki dostępu, uprawnienia do narzędzi, zabezpieczenia i szerokie kategorie zadań. Powinna rozróżniać wykrywanie podatności od skutecznego wykorzystania.
Użyteczne raportowanie nie wymaga publikowania niebezpiecznych szczegółów technicznych. Wymaga jednak wystarczających informacji, aby ocenić, czy testy badały rzeczywiste zachowanie Mythos. Ogólne stwierdzenie, że model został oceniony, niewiele zwiększyłoby odpowiedzialność.
Trzecim sygnałem jest trwałe międzynarodowe ramy dostępu. Cyber Verification Program Anthropic mógłby zapewnić taką strukturę, gdyby ustanowił jasne kryteria, przewidywalne okresy przeglądu oraz spójne traktowanie uprawnionych publicznych ewaluatorów.
Wiarygodne ramy wsparłyby twierdzenie Anthropic, że ograniczony dostęp można bezpiecznie rozszerzać. Kolejna sekwencja negocjacji prowadzonych indywidualnie wzmocniłaby obawy dotyczące selektywnego i politycznie kruchego nadzoru.
Deweloperzy i nabywcy korporacyjni powinni obserwować te sygnały, ponieważ dostęp do ewaluacji kształtuje późniejsze zaufanie. Liderzy ds. bezpieczeństwa mogą otrzymywać ustalenia Mythos za pośrednictwem produktów, nigdy nie wchodząc w interakcję z samym modelem.
Będą potrzebować dowodów dotyczących fałszywych alarmów, pominiętych podatności, przetwarzania danych i weryfikacji przez ludzi. Powinni także zapytać, czy dostęp może zniknąć w trakcie sporu dotyczącego polityki lub przejścia na inny model.
Umowa Anthropic dotycząca dostępu do Mythos w UE jest zatem początkiem, a nie rozwiązaniem. Europa wreszcie ma model z czerwca, podczas gdy Anthropic kontroluje jego wrześniowego następcę.
Uważnie obserwujcie kolejne przekazanie. Jeśli ENISA szybko otrzyma Mythos 5.1 i opublikuje wiarygodne ramy testowania, opóźniony dostęp może przekształcić się w trwały nadzór. Jeśli nie, ocena modeli AI z czołówki pozostanie uwięziona za cyklem produktowym, którym ma zarządzać.
