Ostrzeżenie Australian Signals Directorate dotyczące AI ujawnia koszt nieprzerwanie działających systemów legacy

Ostrzeżenie Australian Signals Directorate dotyczące AI stawia w centrum australijskiej cyberobrony bezpośredni konflikt: stare systemy muszą zostać zastąpione mimo oczekiwań nieprzerwanej dostępności. Abigail Bradshaw, dyrektor generalna agencji, twierdzi, że rządy i przedsiębiorstwa stoją przed „ogromnymi” kosztami modernizacji, ponieważ AI ułatwia atakowanie podatnych technologii.

Jej ostrzeżenie, przedstawione podczas Sydney Dialogue w Canberze 14 września 2026 roku, nie było prognozą dotyczącą całkowicie nowej klasy błędów oprogramowania. Dotyczyło przyspieszania przez sztuczną inteligencję wykrywania i wykorzystywania słabości, których usunięcie organizacje odkładały.

To rozróżnienie ma znaczenie. Bezpośrednia rywalizacja w Australii nie sprowadza się po prostu do obrońców kontra sprytniejsi hakerzy. Chodzi o modernizację bezpieczeństwa kontra operacyjną potrzebę utrzymania kluczowych usług online bez przerw.

Kraj już mierzy się z uporczywą działalnością cyberprzestępczą i aktywnością wspieraną przez państwa. Australian Signals Directorate, czyli ASD, zareagowała na ponad 1 200 incydentów cyberbezpieczeństwa w roku finansowym 2024–25. Był to wzrost o 11 procent w porównaniu z poprzednim rokiem.

AI grozi skróceniem czasu między wykryciem słabości a jej wykorzystaniem. Praktyczne pytanie brzmi, czy rządy, operatorzy infrastruktury i przedsiębiorstwa zdołają zastąpić narażone systemy, zanim zautomatyzowani atakujący wykorzystają je z szybkością maszyn.

Co faktycznie zmieniło ostrzeżenie Australian Signals Directorate dotyczące AI

Australijski organ ds. cyberbezpieczeństwa przeniósł ataki wspierane przez AI ze scenariusza przyszłości do bieżącego planowania operacyjnego.

Bradshaw powiedziała, że ASD nie potrafi określić, ile agentów AI jest już aktywnych online. Agent AI to oprogramowanie, które może dążyć do celu poprzez wiele działań przy ograniczonym udziale człowieka.

Zapytana o ich liczbę, Bradshaw podała celowo prostą odpowiedź: „dużo”. Sama niepewność była znacząca. Obrońcy nie mogą polegać na zliczaniu rozpoznawalnych ludzkich atakujących, gdy agenci programowi mogą nieustannie skanować, testować i ponownie odwiedzać cele.

Relacjonowane ostrzeżenie wiązało rozszerzającą się zautomatyzowaną aktywność z australijskimi systemami legacy. Bradshaw stwierdziła, że wymiana tych systemów wymagałaby ogromnych nakładów i okresów przestoju.

Technologie informatyczne legacy obejmują sprzęt, oprogramowanie, protokoły i usługi, które nie są wspierane, są niepraktyczne w aktualizacji lub nie są już zgodne z akceptowanym przez organizację poziomem ryzyka. Takie systemy często pozostają w użyciu, ponieważ ich zastąpienie zakłóciłoby ważne operacje.

Ostrzeżenie wskazało więc trudny kompromis operacyjny. Systemy najbardziej odporne na planowane przestoje mogą stać się systemami najbardziej narażonymi na nieplanowane zakłócenia.

Szpitale, przedsiębiorstwa użyteczności publicznej, departamenty rządowe, instytucje finansowe i sieci transportowe nie mogą po prostu wyłączyć krytycznej aplikacji. Jednak ciągła dostępność może ukrywać narastający dług bezpieczeństwa. Stary serwer może nadal realizować swoje zadanie, nie oferując przy tym nowoczesnego uwierzytelniania, monitorowania, szyfrowania ani wsparcia dla poprawek.

Ataki hakerskie z użyciem AI zwiększają wagę tych zaniedbanych luk. ASD i Australian Institute of Company Directors twierdzą, że nowsze modele mogą identyfikować podatności, łączyć drobne słabości i wspierać złośliwą działalność przy mniejszym nadzorze człowieka.

Agencje ostrzegają również, że modele frontier obniżają poziom wiedzy wymagany do wykonania części zadań ofensywnych. Frontier AI oznacza wysoce zaawansowane modele o rozwiniętych zdolnościach rozumowania, programowania, językowych lub multimodalnych.

Nie oznacza to, że autonomiczny system może bez wysiłku przejąć każdy stary komputer. Udane włamania nadal zależą od dostępu, konfiguracji, zabezpieczeń, poświadczeń i celów atakującego.

Automatyzacja zmienia jednak ekonomikę rozpoznania. Złośliwy podmiot może badać więcej systemów, generować większą liczbę dopasowanych prób i powtarzać nieudane podejścia przy niższym koszcie krańcowym.

Istniejąca ekspozycja Australii sprawia, że ta zmiana ma istotne konsekwencje. Raport ASD o zagrożeniach za lata 2024–25 wskazuje, że sponsorowani przez państwa aktorzy nadal atakują sieci rządowe i przemysłowe w celach szpiegowskich oraz z myślą o potencjalnych zakłóceniach. Cyberprzestępcy również atakują organizacje, aby kraść dane, dokonywać oszustw i wymuszać okupy.

W tym samym raporcie odnotowano naruszone zasoby, sieci lub infrastrukturę w 55 procentach zgłoszonych incydentów dotyczących infrastruktury krytycznej. Przejęte konta lub poświadczenia stanowiły kolejne 19 procent.

Dane te poprzedzają najnowsze ostrzeżenie Bradshaw, lecz pokazują, dlaczego przyspieszenie związane z AI ma znaczenie. Zautomatyzowane ataki trafią do środowiska, w którym obrońcy już obsługują powtarzające się naruszenia, a nie do czystego środowiska oczekującego na pierwszy incydent AI.

Zmienił się również sygnał polityczny. Australijskie kierownictwo ds. cyberbezpieczeństwa nie traktuje już modernizacji jako rutynowego utrzymania technologii. Przedstawia wymianę systemów legacy jako wymóg krajowej odporności.

Takie ujęcie przesuwa odpowiedzialność wyżej. Zarząd nie może traktować niewspieranego systemu jako wąskiego problemu działu technologii, gdy wpływa on na ciągłość usług, bezpieczeństwo publiczne lub dane wrażliwe.

Interwencja Bradshaw połączyła także obronę infrastruktury z szerszą debatą o nadzorze nad zaawansowaną AI. Poparła rolę agencji bezpieczeństwa narodowego w niezależnej ocenie wiodących modeli.

Stanowisko to zbliża organizacje wywiadu cybernetycznego do zarządzania modelami. Agencje te rozumieją sieci, które atakujący obierają za cel, lecz działają także w warunkach tajności i posiadają szerokie uprawnienia związane z bezpieczeństwem narodowym.

Wynikające z tego wyzwanie jest większe niż sama wymiana oprogramowania. Australia musi ustalić, jak testować modele frontier, udostępniać informacje o zagrożeniach i modernizować infrastrukturę, nie pozwalając jednocześnie ani dostawcom, ani agencjom bezpieczeństwa samodzielnie definiować wszystkich zasad.

Ataki hakerskie z użyciem AI ułatwiają skalowanie starych słabości

AI nie musi wymyślać nowej podatności, gdy może znaleźć i połączyć słabości, o których obrońcy już wiedzą.

Tradycyjne automatyczne skanowanie istnieje od dziesięcioleci. Atakujący już używają skryptów do wykrywania wystawionych usług, testowania popularnych haseł i identyfikowania znanych podatności.

Nowa różnica polega na adaptacji. Zaawansowany model może interpretować nieznany kod, generować warianty exploita, wyjaśniać komunikaty o błędach lub pomagać łączyć informacje zebrane z kilku systemów.

Wytyczne ASD dotyczące frontier AI wskazują trzy szczególnie istotne zdolności. Modele mogą znajdować i uzbrajać podatności, łączyć słabości o niższej wadze w większe kompromitacje oraz wspierać ataki przy niewielkim nadzorze człowieka.

Wytyczne mówią, że harmonogramy wykrywania i wykorzystywania podatności mogą skrócić się z dni do godzin. To skrócenie wywiera presję na organizacje, których procesy bezpieczeństwa nadal zależą od comiesięcznych cykli przeglądów lub powolnych łańcuchów zatwierdzania.

Wyobraźmy sobie przestarzałą aplikację internetową, która ujawnia wersję oprogramowania w komunikacie o błędzie. Aplikacja korzysta także ze starego protokołu szyfrowania i łączy się ze słabo segmentowaną siecią wewnętrzną.

Żadna z tych słabości nie musi sama w sobie gwarantować poważnego naruszenia. Razem dają adaptacyjnemu atakującemu kilka dróg do przetestowania.

System AI może analizować ujawnione szczegóły, przeszukiwać wyuczone wzorce pod kątem powiązanych metod ataku i generować warianty kodu. Następnie może interpretować wyniki oraz sugerować inne podejście.

Model nadal wymaga infrastruktury, dostępu i ukierunkowania. Jego wynik może też być błędny. Atakujący nie potrzebuje jednak perfekcyjnego kodu przy pierwszej próbie, gdy zautomatyzowane testowanie sprawia, że kolejne próby są niedrogie.

Systemy legacy ułatwiają ten proces, ponieważ ich słabości są często dobrze udokumentowane. Niewspierane oprogramowanie może mieć lata publicznych badań nad podatnościami, ale nie otrzymywać poprawek od dostawcy.

Stary sprzęt może również opierać się na domyślnych poświadczeniach, słabych protokołach lub aplikacjach, które nie obsługują uwierzytelniania wieloskładnikowego. Wyspecjalizowane urządzenia przemysłowe mogą pozostawać podłączone, ponieważ ich wymiana wymaga wyłączenia, certyfikacji lub koordynacji z kilkoma dostawcami.

Ataki hakerskie z użyciem AI poszerzają też grono potencjalnych sprawców. Osoby o ograniczonej wiedzy technicznej mogą wykorzystywać modele do tworzenia wiadomości phishingowych, analizowania wykradzionych informacji lub modyfikowania istniejącego złośliwego kodu.

Raport ASD o zagrożeniach cybernetycznych podaje, że przestępcy już wykorzystują generatywną AI do przeglądania wykradzionych zbiorów danych w poszukiwaniu poświadczeń i materiałów do szantażu. Używają jej również do tworzenia fałszywych głosów, filmów, stron internetowych, dokumentów tożsamości i wiadomości spearphishingowych.

Zastosowania te nie wymagają w pełni autonomicznej superinteligencji. Usprawniają znane przestępcze procesy, ograniczając nakład pracy i zwiększając skalę.

Ta rzeczywistość komplikuje publiczną debatę o bezpieczeństwie AI. Dramatyczne scenariusze, w których systemy wymykają się ludzkiej kontroli, mogą odwracać uwagę od atakujących wykorzystujących zwykłe modele komercyjne jako narzędzia zwiększające produktywność.

Australia musi przygotować się na obie możliwości, nie traktując ich jako równoważnych. Operacja phishingowa wspierana przez generowany tekst rodzi inne pytania techniczne i regulacyjne niż agent samodzielnie wykorzystujący infrastrukturę.

Niemożność policzenia aktywnych agentów przez Bradshaw podkreśla ten problem pomiaru. Ruch internetowy nie ujawnia wiarygodnie, czy każde działanie wybrał człowiek, skrypt czy model.

Definicje również się różnią. Niektórzy dostawcy nazywają agentem każdą wieloetapową automatyzację, podczas gdy badacze mogą rezerwować ten termin dla systemów, które planują, używają narzędzi i korygują swoje zachowanie.

Ta niepewność powinna ograniczać szeroko zakrojone twierdzenia o autonomicznej wojnie cybernetycznej. Nie powinna jednak opóźniać podstawowych działań obronnych.

Jeśli organizacja zamyka niepotrzebne porty, oddziela stare systemy, rotuje poświadczenia i centralizuje logi, takie zabezpieczenia pomagają zarówno przeciw włamaniom prowadzonym przez ludzi, jak i wspieranym przez AI. Dobre podstawy bezpieczeństwa pozostają użyteczne nawet wtedy, gdy dokładny poziom automatyzacji atakującego nie jest jasny.

Dlatego ostrzeżenie Australian Signals Directorate dotyczące AI jest bardziej praktyczne niż spekulatywne. Nie zależy od udowodnienia, że autonomiczni atakujący potrafią pokonać każdą obronę.

Prosi organizacje, aby założyły, że wykrywanie i wykorzystywanie słabości będzie szybsze. Przy takim założeniu długotrwałe słabości wiążą się z wyższym oczekiwanym kosztem.

Prawdziwa rywalizacja to modernizacja kontra ciągła dostępność

Centralnym problemem Australii jest to, że systemy najważniejsze dla codziennego życia mogą być jednocześnie najtrudniejsze do bezpiecznej wymiany.

Organizacje często utrzymują starą technologię, ponieważ nadal działa. Aplikacja legacy może obsługiwać płatności, przechowywać dokumentację medyczną, koordynować urządzenia przemysłowe lub wspierać usługę rządową używaną każdego dnia.

Jej zastąpienie może wymagać migracji danych, ponownego przeszkolenia, testów integracyjnych, zgody regulacyjnej i umów z wieloma dostawcami. Niektóre organizacje nie zatrudniają już osób, które zaprojektowały pierwotny system.

Planowany przestój staje się wówczas ryzykiem politycznym i komercyjnym. Klienci oczekują, że bankowość, łączność, usługi tożsamościowe, transport i usługi publiczne pozostaną stale dostępne.

Ostrzeżenie Bradshawa sprawia, że to oczekiwanie staje się częścią problemu bezpieczeństwa. Wyłączenie systemu na czas modernizacji powoduje widoczną przerwę. Pozostawienie go online tworzy mniej widoczny okres narastającej ekspozycji.

Menedżerowie często odkładają widoczny koszt. Taka decyzja może wydawać się racjonalna, dopóki incydent nie wymusi dłuższego i mniej kontrolowanego wyłączenia.

Wytyczne ASD dotyczące starszych technologii wskazują, że wymiana jest najskuteczniejszą odpowiedzią w długiej perspektywie. Tymczasowe zabezpieczenia ograniczają ryzyko, lecz nie usuwają jego źródłowego problemu.

Wytyczne zalecają segmentację sieci, silniejsze kontrole kont, scentralizowane monitorowanie, ograniczoną dostępność oraz usunięcie niepotrzebnych usług. Segmentacja sieci izoluje systemy, tak aby naruszenie nie mogło łatwo rozprzestrzenić się na całe środowisko.

Środki te mają znaczenie, ponieważ pełna wymiana nie może nastąpić natychmiast. Inwentaryzacja może ujawnić setki zależności, w tym nieudokumentowane połączenia z dostawcami lub aplikacjami tworzonymi wewnętrznie.

Organizacje potrzebują więc kolejności działań, a nie jednej daty migracji. Muszą zidentyfikować systemy dostępne z internetu, przechowujące wrażliwe dane oraz obsługujące usługi, których awaria spowodowałaby największe szkody.

AI zmienia sposób, w jaki liderzy powinni ustalać tę kolejność. Udostępniony system z kilkoma drobnymi słabościami zasługuje na większą uwagę, gdy modele mogą pomóc atakującym szybko połączyć te słabości.

Dostępność także należy mierzyć uczciwiej. System działający każdego dnia, lecz niezdolny do odparcia lub odzyskania sprawności po wtargnięciu, nie jest niezawodnie dostępny.

Prawdziwa dostępność obejmuje zdolność do ograniczenia ataku, przywrócenia zaufanych danych oraz utrzymania kluczowych usług dzięki alternatywnym procesom. Wymaga to przetestowanych kopii zapasowych, ćwiczeń reagowania na incydenty i udokumentowanych zależności.

Australijska krajowa strategia cyberbezpieczeństwa już dostrzega to napięcie. Minister spraw wewnętrznych Tony Burke zaliczył wymianę starszego IT do pięciu stałych priorytetów bezpieczeństwa podczas czerwcowego uruchomienia Horizon 2 w 2026 roku.

W swoim przemówieniu dotyczącym Horizon 2 Burke oszacował, że cyberataki kosztują australijską gospodarkę 25 miliardów dolarów rocznie. Przypisał 12 miliardów dolarów małym firmom, a 2,4 miliarda dolarów sektorowi rządowemu.

Powiedział również, że katastrofalny atak trwający cztery tygodnie kosztowałby gospodarkę szacunkowo 35 miliardów dolarów. Są to rządowe szacunki, a nie prognoza, że takie zdarzenie jest nieuchronne.

Liczby te wyjaśniają kompromis. Planowana modernizacja jest kosztowna, lecz utrzymująca się ekspozycja również wiąże się z kosztami gospodarczymi. Awaryjna wymiana po naruszeniu może połączyć oba rodzaje wydatków.

Burke stwierdził, że średni koszt cyberprzestępczości w poprzednich 12 miesiącach wzrósł o 50 procent, do 80 000 dolarów. Wskazał też błąd ludzki jako przyczynę 60 procent naruszeń danych.

Ten czynnik ludzki nie osłabia argumentów za wymianą starej technologii. Pokazuje, dlaczego modernizacja techniczna nie może działać samodzielnie.

Nowy system może pozostać podatny na zagrożenia, jeśli pracownicy otrzymują nadmierne uprawnienia, dostawcy zachowują niepotrzebny dostęp lub alerty pozostają nieprzeczytane. Z drugiej strony zdyscyplinowane zespoły nie mogą bez końca kompensować oprogramowania, które nie otrzymuje już aktualizacji bezpieczeństwa.

Głównym przeciwnikiem nie jest zatem samo AI. Jest nim model operacyjny, który traktuje nieprzerwane działanie dziś jako ważniejsze niż ograniczenie prawdopodobieństwa większej przerwy jutro.

Zarządy i urzędnicy publiczni muszą jasno przedstawić ten kompromis. Powinni wskazać, które usługi mogą tolerować planowane przestoje, które wymagają równoległych wdrożeń zastępczych, a które potrzebują tymczasowej izolacji.

Muszą także komunikować powody zakłóceń. Obywatele słusznie będą protestować, gdy ważne usługi staną się niedostępne bez jasnego uprzedzenia lub alternatyw.

Plany modernizacji potrzebują zabezpieczeń na poziomie usług dla użytkowników w trudniejszej sytuacji. Migracja tożsamości cyfrowej nie powinna na przykład odmawiać dostępu osobom, które nie mają nowszego urządzenia lub nie mogą przejść przez nowy proces uwierzytelniania.

Bezpieczeństwo i dostępność mogą być sprzeczne, jeśli programy wymiany postępują zbyt szybko. To kolejny powód, by planować, zanim sytuacja awaryjna odbierze możliwość kontrolowanego przejścia.

Regulacje dotyczące AI nie mogą zastąpić podstawowej cyberobrony

Testowanie modeli może ujawnić niebezpieczne możliwości, ale nie zaktualizuje nieobsługiwanego serwera ani nie przeprojektuje kruchej sieci.

Australia opracowuje zasady dotyczące zaawansowanego AI, podczas gdy liderzy branży wzywają do szybszej międzynarodowej koordynacji. Według komentarzy relacjonowanych z Sydney Dialogue rząd spodziewa się przedstawić przepisy dotyczące AI na początku 2027 roku.

Dyrektor generalny Anthropic, Dario Amodei, wezwał do tego, by niezależni oceniający badali czołowe modele. Bradshaw argumentował, że w tych ocenach powinny uczestniczyć agencje bezpieczeństwa narodowego.

Propozycja odpowiada na rzeczywistą potrzebę. Ewaluatorzy powinni sprawdzać, czy modele potrafią wykrywać podatności, tworzyć złośliwy kod, omijać zabezpieczenia lub prowadzić długotrwałe działania przy ograniczonym nadzorze.

Agencje bezpieczeństwa mogą wnieść dane wywiadowcze dotyczące zagrożeń i realistyczne scenariusze ataków. Rozumieją również, które zdolności zapewniłyby grupom wspieranym przez państwo lub przestępczym istotną przewagę.

Udział ten rodzi jednak pytania dotyczące zarządzania. Niezależna ocena traci wiarygodność, jeśli proces zależy wyłącznie od firm tworzących modele lub agencji, których metod nie można poddać kontroli.

Kryteria testowania, procedury eskalacji i obowiązki dotyczące publicznego raportowania potrzebują jasnych granic. Rządy muszą chronić wrażliwe informacje wywiadowcze, nie zamieniając każdego istotnego ustalenia w tajemnicę.

Australia mierzy się także z presją ze strony konkurujących interesów. Anthropic chce szybkich zasad i pewności prawnej. OpenAI prowadził szerszy dialog z australijskim rządem, w tym rozmowy o prawie autorskim i lokalnym szkoleniu modeli.

Australijscy Zieloni zabiegali o obowiązkowe testy bezpieczeństwa i obowiązki przejrzystości dla zaawansowanych systemów, ale senatorowie Partii Pracy odrzucili 14 września ich wniosek o debatę. To odrzucenie nie przesądziło o ostatecznym kształcie nadchodzących rządowych przepisów.

Asystent ministra technologii Andrew Charlton stwierdził, że pojedynczy dyrektorzy nie powinni ustalać barier ochronnych. Jego stanowisko stanowi istotne ograniczenie wpływu dostawców.

Firmy AI dysponują wiedzą techniczną potrzebną regulatorom. Mają też komercyjne zachęty, by kształtować definicje, progi testowe i wymogi ujawniania informacji w korzystny dla siebie sposób.

Rząd musi wykorzystywać ich wiedzę, nie zlecając im kształtowania polityki publicznej. Agencje bezpieczeństwa narodowego wymagają podobnych ograniczeń, ponieważ ryzyko cybernetyczne nie jest jedyną istotną wartością.

Na decyzję regulacyjną wpływają również prawo autorskie, konkurencja, prywatność, swobody obywatelskie i dostęp do technologii. Model, który przejdzie test zdolności cybernetycznych, nadal może powodować inne szkody.

Co ważniejsze, regulacje nie wyeliminują istniejącego ryzyka związanego ze starszą technologią. Nawet rygorystyczne kontrole bezpieczeństwa nie mogą zapobiec kopiowaniu, modyfikowaniu, kradzieży lub wykorzystywaniu każdego modelu w innej jurysdykcji.

Atakujący mogą również łączyć AI z konwencjonalnymi narzędziami, które pozostają powszechnie dostępne. Plan obronny nie może zakładać, że krajowe zasady usuną z internetu zdolności ofensywne.

To sceptyczne spojrzenie brakuje w części debat o polityce AI. Zarządzanie modelami może ograniczyć ryzyko na granicy możliwości, lecz właściciele infrastruktury nadal odpowiadają za własne systemy wystawione na zagrożenia.

Odwrotność także jest prawdziwa. Sama modernizacja nie rozwiąże każdego zagrożenia wspieranego przez AI. Nowe systemy mogą zawierać błędy konfiguracji, niebezpieczne zależności lub nadmierne uprawnienia agentów.

ASD zaleca organizacjom stosowanie zasady najmniejszych uprawnień wobec ludzi, usług i agentów AI. Zasada najmniejszych uprawnień oznacza przyznawanie wyłącznie dostępu niezbędnego do wykonania określonego zadania.

Zasada ta staje się kluczowa, gdy firmy wdrażają agentów wewnętrznie. Agent połączony z pocztą e-mail, magazynem w chmurze, kodem źródłowym i systemami finansowymi tworzy nowe skupienie uprawnień.

Jeśli atakujący zmanipulują agenta lub wykradną jego poświadczenia, nowoczesne oprogramowanie może stać się drogą do naruszenia. Odpowiedzią nie jest całkowite unikanie AI, lecz ograniczanie uprawnień i monitorowanie działań.

Obrońcy mogą także wykorzystywać AI do analizowania alertów, identyfikowania nietypowych zachowań i ustalania priorytetów podatności. Bradshaw zachęcał australijskie organizacje do wykorzystywania AI w celach obronnych, zamiast pozostawiać tę zdolność przeciwnikom.

Tworzy to drugi kompromis. Szybsza zautomatyzowana obrona może pomóc zespołom reagować z prędkością ataku, ale źle zarządzana automatyzacja może blokować legalną działalność lub działać na podstawie mylących danych.

Nadzór człowieka pozostaje konieczny przy decyzjach o dużym wpływie. Organizacje powinny wiedzieć, które zautomatyzowane działania mogą zakłócić usługi i w jaki sposób pracownicy mogą je cofnąć.

Najsilniejszy program bezpieczeństwa łączy więc ocenę modeli, nowoczesną infrastrukturę, ograniczony dostęp i przećwiczone odzyskiwanie sprawności. Żaden z tych elementów nie może zastąpić pozostałych.

Trzy sygnały pokażą, czy Australia zmniejsza lukę

Kolejnym sprawdzianem będzie to, czy Australia przełoży jasne ostrzeżenie na mierzalne ograniczenie liczby wystawionych systemów i czasu reakcji.

Pierwszym sygnałem będzie treść oczekiwanych rządowych przepisów dotyczących AI na początku 2027 roku. Kluczowe jest, czy zasady będą wymagać niezależnego testowania zdolności, ujawniania incydentów oraz rzeczywistego dostępu dla wykwalifikowanych ewaluatorów.

Wiarygodne ramy powinny rozróżniać zwykłe aplikacje i modele zdolne do istotnego wspierania zaawansowanych operacji cybernetycznych. Szerokie obowiązki nakładane na każdego dewelopera zużyłyby zdolności egzekwowania przepisów, nie koncentrując się na najwyższych ryzykach.

Prawo powinno także określać sposób uczestnictwa agencji bezpieczeństwa narodowego. Ich udział wzmocniłby ostrzeżenie Australian Signals Directorate dotyczące AI, jeśli prowadziłby do powtarzalnych testów i praktycznych wytycznych.

Osłabiłby ostrzeżenie, gdyby ocena stała się zamkniętym procesem bez publicznej rozliczalności. Firmy potrzebują wystarczających informacji, by dostosować zamówienia, kontrole dostępu i planowanie reagowania na incydenty.

Drugim sygnałem jest mierzalny program wymiany starszych systemów. Departamenty rządowe i operatorzy infrastruktury krytycznej powinni raportować inwentaryzacje, harmonogramy wycofywania oraz tymczasowe zabezpieczenia systemów oczekujących na wymianę.

Sama liczba projektów modernizacyjnych nie wystarczy. Użyteczne miary obejmują ograniczenie liczby nieobsługiwanego oprogramowania dostępnego z internetu, silniejszą separację sieci i krótszy czas usuwania problemów.

Najnowsze dane ASD zapewniają punkt odniesienia dla szerszego środowiska zagrożeń. Agencja zareagowała na ponad 1 200 incydentów w latach 2024–25 i ponad 190 razy powiadomiła podmioty infrastruktury krytycznej o potencjalnej złośliwej aktywności.

Sumy te mogą rosnąć nawet przy poprawie bezpieczeństwa, ponieważ wykrywanie i raportowanie mogą się poprawiać. Australia powinna zatem śledzić miary skutków i odzyskiwania sprawności obok liczby incydentów.

Jak szybko organizacja wykryła nieautoryzowany dostęp? Jak daleko przesunął się atakujący? Czy kluczowe usługi nadal działały? Ile trwało przywracanie?

Trzecim sygnałem będą dowody z rzeczywistych incydentów wspieranych przez AI i ćwiczeń obronnych. Australia potrzebuje szczegółowych studiów przypadków pokazujących, co modele faktycznie wniosły do ataków.

Czy AI wykorzystano do generowania wiadomości phishingowych, analizowania wykradzionych danych, wykrycia podatności czy kontrolowania wieloetapowego włamania? Są to różne zdolności, wymagające różnych mechanizmów obronnych.

Publiczne raportowanie powinno oddzielać potwierdzoną aktywność od spekulacji. Nazywanie każdego zautomatyzowanego włamania atakiem AI zniekształciłoby inwestycje i utrudniło mierzenie trendów.

Ćwiczenia mogą pomóc, zanim dojdzie do poważnych incydentów. ASD przeprowadziło w latach 2024–25 17 ćwiczeń z zakresu cyberbezpieczeństwa z udziałem ponad 120 organizacji. Przyszłe ćwiczenia powinny sprawdzać działanie w krótszych oknach decyzyjnych oraz reakcję na ataki, które dostosowują się po zmianie zabezpieczeń.

Powinny również obejmować zewnętrznych dostawców. Zmodernizowana organizacja nadal może stracić dostęp do usług, gdy mniejszy dostawca korzysta z niewspieranego sprzętu lub słabych poświadczeń.

Te trzy sygnały wzmocnią ostrzeżenie, jeśli Australia wdroży wiarygodne testowanie modeli, wycofa narażone systemy i pokaże szybsze ograniczanie skutków incydentów. Osłabią je, jeśli polityka pozostanie ogólna, a terminy modernizacji będą nadal przesuwane.

Dla liderów biznesu natychmiastowa reakcja nie wymaga czekania na przepisy. Mogą zażądać dokładnego spisu technologii, zidentyfikować niewspierane produkty i zmapować kluczowe zależności.

Mogą również wymagać dowodów, że kopie zapasowe można prawidłowo odtworzyć, a nie jedynie potwierdzenia ich istnienia. Zespoły reagowania na incydenty powinny ćwiczyć świadczenie kluczowych usług bez swoich zwykłych systemów.

Deweloperzy i zespoły tworzące produkty AI mają równoległą odpowiedzialność. Agenci powinni otrzymywać wąskie uprawnienia, uwierzytelniony dostęp do narzędzi, pełne rejestrowanie działań oraz jasne ograniczenia dotyczące nieodwracalnych operacji.

Pracownicy umysłowi powinni spodziewać się bardziej przekonujących prób podszywania się pod inne osoby, ponieważ generowane głosy, dokumenty i wiadomości stają się coraz lepsze. Weryfikacja za pośrednictwem odrębnego kanału nabiera większego znaczenia, gdy prośba dotyczy pieniędzy, poświadczeń lub informacji wrażliwych.

Żadne pojedyncze działanie nie rozwiąże tego problemu. Wymiana starych systemów trwa latami, a możliwości AI będą nadal zmieniać się w trakcie tych prac.

Praktycznym celem jest ograniczanie przewagi atakujących na każdej warstwie. Oznacza to mniej wystawionych na atak urządzeń starszego typu, szybsze łatanie, ograniczone uprawnienia, lepsze monitorowanie oraz plany odzyskiwania oparte na kluczowych usługach.

Australia ma teraz jasną diagnozę od szefa wywiadu cybernetycznego. AI przyspiesza wykorzystywanie luk, podczas gdy organizacje pozostają związane z technologią, której nie mogą łatwo wyłączyć.

Decyzja dla liderów jest konkretna: który krytyczny system odizolują, wymienią lub przetestują, zanim zautomatyzowani atakujący ponownie go przeanalizują? Ostrzeżenie Australian Signals Directorate dotyczące AI będzie miało znaczenie tylko wtedy, gdy to pytanie przełoży się na finansowane terminy, jasno wskazanych właścicieli odpowiedzialności oraz bezpieczniejsze przejścia, a nie kolejną odłożoną modernizację.