Australian Signals Directorate AI 경고가 드러낸 상시 가동 레거시 시스템의 대가

11분 전

12분 분량

Australian Signals Directorate AI 경고는 호주 사이버 방어의 핵심 갈등을 정면으로 드러낸다. 끊임없는 가동에 대한 기대에도 불구하고, 노후 시스템은 교체해야 한다는 것이다. 기관장인 애비게일 브래드쇼는 AI가 취약한 기술을 더 쉽게 공격할 수 있게 만들면서 정부와 기업이 “막대한” 현대화 비용에 직면하고 있다고 말한다.

2026년 9월 14일 캔버라에서 열린 Sydney Dialogue에서 나온 그의 경고는 완전히 새로운 유형의 소프트웨어 결함에 관한 예측이 아니었다. 이는 조직들이 수정을 미뤄 온 취약점을 인공지능이 더 빠르게 발견하고 악용하게 만든다는 경고였다.

이 구분은 중요하다. 호주가 당면한 싸움은 단순히 방어자와 더 똑똑한 해커 간의 대결이 아니다. 핵심 서비스의 중단 없는 운영 요구와 보안 현대화 간의 경쟁이다.

호주는 이미 지속적인 범죄 조직 및 국가 지원 사이버 활동에 직면해 있다. Australian Signals Directorate, 즉 ASD는 2024~25 회계연도에 1,200건 이상의 사이버보안 사고에 대응했다. 이는 전년보다 11% 증가한 수치다.

이제 AI는 취약점 발견과 악용 사이의 시간을 단축할 위협이 되고 있다. 실질적인 문제는 정부, 인프라 운영자, 기업이 자동화된 공격자가 기계 속도로 이를 악용하기 전에 노출된 시스템을 교체할 수 있는지다.

Australian Signals Directorate AI 경고가 실제로 바꾼 것

호주의 사이버 당국은 AI 기반 공격을 미래 시나리오가 아닌 현재의 운영 계획 대상으로 옮겨 놓았다.

브래드쇼는 이미 온라인에서 활동 중인 AI 에이전트의 수를 ASD가 파악할 수 없다고 말했다. AI 에이전트는 제한적인 인간 지시만으로 여러 행동을 통해 목표를 추구할 수 있는 소프트웨어다.

그 수를 묻는 질문에 브래드쇼는 의도적으로 단순한 답을 내놓았다. “많다.” 그의 불확실성 자체가 중요했다. 소프트웨어 에이전트가 목표를 지속적으로 스캔하고, 시험하고, 다시 방문할 수 있는 상황에서 방어자는 식별 가능한 인간 공격자의 수를 세는 데 의존할 수 없다.

보도된 경고는 이처럼 확대되는 자동화 활동을 호주의 레거시 시스템과 연결했다. 브래드쇼는 이러한 시스템을 교체하려면 막대한 지출과 가동 중단 기간이 필요하다고 말했다.

레거시 정보기술에는 지원이 종료됐거나 업데이트가 비현실적이거나, 조직이 수용하는 위험 수준과 더는 호환되지 않는 하드웨어, 소프트웨어, 프로토콜, 서비스가 포함된다. 이러한 시스템은 교체 시 중요한 운영이 중단될 수 있기 때문에 계속 사용되는 경우가 많다.

따라서 이 경고는 어려운 운영상 균형 문제를 지적했다. 계획된 가동 중단을 가장 견디기 어려운 시스템이 계획되지 않은 장애를 겪을 가능성도 가장 높아질 수 있다.

병원, 공공 서비스 기업, 정부 부처, 금융기관, 교통망은 핵심 애플리케이션을 쉽게 끌 수 없다. 그러나 지속적인 가용성은 누적된 보안 부채를 감출 수 있다. 오래된 서버는 본래 기능을 계속 수행할 수 있지만, 현대적인 인증, 모니터링, 암호화 또는 패치 지원이 부족할 수 있다.

AI 해킹 공격은 이처럼 방치된 공백의 중요성을 키운다. ASD와 Australian Institute of Company Directors는 최신 모델이 취약점을 식별하고, 사소한 약점을 결합하며, 인간의 감독을 덜 받는 악성 활동을 지원할 수 있다고 말한다.

두 기관은 최첨단 모델이 일부 공격 작업에 필요한 전문성의 문턱도 낮춘다고 경고한다. 프런티어 AI는 고급 추론, 코딩, 언어 또는 멀티모달 능력을 갖춘 고성능 모델을 뜻한다.

그렇다고 자율 시스템이 모든 오래된 컴퓨터를 손쉽게 침해할 수 있다는 의미는 아니다. 성공적인 침입은 여전히 접근 권한, 구성, 방어 체계, 자격 증명, 공격자의 목표에 달려 있다.

하지만 자동화는 정찰 활동의 경제성을 바꾼다. 악의적 행위자는 더 많은 시스템을 조사하고, 더 맞춤화된 탐색을 생성하며, 실패한 시도를 더 낮은 한계비용으로 반복할 수 있다.

호주의 기존 노출 수준은 이러한 변화를 중대하게 만든다. ASD의 2024~25 위협 보고서에 따르면 국가 지원 행위자들은 계속해서 정부와 산업 네트워크를 첩보 활동 및 잠재적 교란 목적으로 겨냥하고 있다. 사이버 범죄자들도 데이터 절도, 사기, 갈취를 위해 조직을 공격한다.

같은 보고서는 보고된 핵심 인프라 사고의 55%에서 자산, 네트워크 또는 인프라가 침해됐다고 기록했다. 침해된 계정 또는 자격 증명은 추가로 19%를 차지했다.

이 수치는 브래드쇼의 최신 경고보다 앞선 것이지만, AI 가속화가 중요한 이유를 보여준다. 자동화된 공격은 첫 AI 사고를 기다리는 깨끗한 환경이 아니라, 방어자들이 이미 반복되는 침해에 대응하고 있는 환경으로 진입하게 된다.

정책 신호도 바뀌었다. 호주의 사이버보안 리더십은 더 이상 현대화를 일상적인 기술 유지보수로 취급하지 않는다. 레거시 시스템 교체를 국가 회복탄력성의 필수 요건으로 제시하고 있다.

이러한 프레이밍은 책임을 더 높은 수준으로 옮긴다. 지원이 종료된 시스템이 서비스 연속성, 공공 안전 또는 민감한 데이터에 영향을 미친다면, 이사회는 이를 기술 부서만의 좁은 문제로 취급할 수 없다.

브래드쇼의 개입은 인프라 방어를 고도 AI 감독을 둘러싼 더 폭넓은 논의와도 연결했다. 그는 국가안보 기관이 주요 모델에 대한 독립적 평가에 역할을 해야 한다고 지지했다.

이 입장은 사이버 정보기관을 모델 거버넌스에 더 가깝게 위치시킨다. 이들 기관은 공격자가 노리는 네트워크를 이해하지만, 동시에 비밀주의와 광범위한 국가안보 권한 아래에서 활동한다.

그 결과의 과제는 단순한 소프트웨어 교체보다 크다. 호주는 공급업체나 보안기관 어느 한쪽도 모든 규칙을 단독으로 정하지 못하게 하면서, 프런티어 모델을 시험하고 위협 정보를 공유하며 인프라를 현대화하는 방법을 결정해야 한다.

AI 해킹 공격은 오래된 취약점을 더 쉽게 확장한다

AI는 방어자들이 이미 존재한다는 사실을 아는 약점을 찾아 결합할 수 있다면, 새로운 취약점을 발명할 필요가 없다.

전통적인 자동화 스캐닝은 수십 년 전부터 존재했다. 공격자들은 이미 스크립트를 사용해 노출된 서비스를 발견하고, 흔한 비밀번호를 시험하며, 알려진 취약점을 식별한다.

새롭게 부상하는 차이는 적응 능력에 있다. 성능이 뛰어난 모델은 낯선 코드를 해석하고, 익스플로잇의 변형을 생성하고, 오류 메시지를 설명하거나, 여러 시스템에서 수집한 정보를 연결하는 데 도움을 줄 수 있다.

ASD의 프런티어 AI 지침은 특히 중요한 세 가지 능력을 제시한다. 모델은 취약점을 찾아 무기화하고, 심각도가 낮은 약점을 연결해 더 큰 침해로 이어지게 하며, 인간의 감독이 거의 없는 상태에서 공격을 지원할 수 있다.

지침에 따르면 취약점 발견 및 악용 기간은 며칠에서 몇 시간으로 줄어들 수 있다. 이러한 압축은 보안 절차가 여전히 월간 검토 주기나 느린 승인 체계에 의존하는 조직에 압박을 가한다.

오류 메시지에서 소프트웨어 버전을 드러내는 오래된 웹 애플리케이션을 상상해 보자. 이 애플리케이션은 오래된 암호화 프로토콜도 사용하며, 분리가 제대로 되지 않은 내부 네트워크에 연결돼 있다.

이 약점들 중 어느 하나도 그 자체로 중대한 침해를 보장하지는 않는다. 그러나 함께 존재할 경우 적응형 공격자에게 여러 경로를 시험할 기회를 제공한다.

AI 시스템은 노출된 세부 정보를 분석하고, 학습된 패턴에서 관련 공격 기법을 찾으며, 코드 변형을 생성할 수 있다. 이후 결과를 해석하고 다른 접근법을 권고할 수 있다.

모델에는 여전히 인프라, 접근 권한, 지시가 필요하다. 그 결과물도 틀릴 수 있다. 그러나 자동화된 테스트가 반복 시도를 저렴하게 만든다면, 공격자는 첫 시도부터 완벽한 코드를 갖출 필요가 없다.

레거시 시스템은 취약점이 잘 문서화돼 있는 경우가 많기 때문에 이 과정을 더 쉽게 만든다. 지원이 종료된 소프트웨어는 수년간의 공개 취약점 연구가 존재할 수 있지만 공급업체 패치는 없을 수 있다.

오래된 장비는 기본 자격 증명, 취약한 프로토콜 또는 다중 인증을 지원할 수 없는 애플리케이션에 의존할 수도 있다. 특수 산업 장비는 교체에 가동 중단, 인증 또는 여러 공급업체와의 조율이 필요하기 때문에 계속 연결된 상태로 남을 수 있다.

AI 해킹 공격은 잠재적 가해자의 범위도 넓힌다. 기술 지식이 제한된 사람도 모델을 사용해 피싱 메시지를 작성하고, 탈취한 정보를 분석하거나, 기존 악성 코드를 수정할 수 있다.

ASD의 사이버 위협 보고서에 따르면 범죄자들은 이미 생성형 AI를 사용해 탈취한 데이터셋에서 자격 증명과 갈취 자료를 검사하고 있다. 또한 가짜 음성, 동영상, 웹사이트, 신분증 문서, 스피어피싱 이메일을 만드는 데도 이를 활용한다.

이러한 활용에는 완전히 자율적인 초지능이 필요하지 않다. 노동을 줄이고 규모를 키움으로써 익숙한 범죄 작업 흐름을 개선한다.

이 현실은 AI 안전성을 둘러싼 공개 논의를 복잡하게 만든다. 시스템이 인간의 통제를 벗어나는 극적인 시나리오는 공격자들이 일반 상용 모델을 생산성 도구로 사용하는 현실에서 주의를 돌릴 수 있다.

호주는 두 가능성을 동일하게 취급하지 않으면서 모두에 대비해야 한다. 생성된 텍스트의 도움을 받는 피싱 작전은 에이전트가 독립적으로 인프라를 악용하는 경우와는 다른 기술적·규제적 질문을 낳는다.

브래드쇼가 활성 에이전트 수를 셀 수 없다고 한 점은 이러한 측정 문제를 부각한다. 인터넷 트래픽은 각 행동을 인간, 스크립트, 모델 중 무엇이 선택했는지를 신뢰성 있게 드러내지 않는다.

정의도 제각각이다. 일부 공급업체는 여러 단계의 자동화를 모두 에이전트라고 부르는 반면, 연구자들은 계획을 세우고 도구를 사용하며 행동을 수정하는 시스템에만 이 용어를 사용할 수 있다.

이러한 불확실성은 자율 사이버전쟁에 관한 과도한 주장을 제한해야 한다. 그러나 기본적인 방어 작업을 미루는 이유가 되어서는 안 된다.

조직이 불필요한 포트를 닫고, 오래된 시스템을 분리하며, 자격 증명을 교체하고, 로그를 중앙화한다면, 이러한 통제는 인간 주도 침입과 AI 지원 침입 모두에 도움이 된다. 공격자의 정확한 자동화 수준이 불분명해도 우수한 보안 기본 원칙은 여전히 유효하다.

이것이 Australian Signals Directorate AI 경고가 추측보다 실용적인 이유다. 자율 공격자가 모든 방어를 뚫을 수 있음을 증명하는 데 의존하지 않는다.

이 경고는 조직에 취약점 발견과 악용이 더 빨라질 것이라고 가정하라고 요구한다. 그 가정 아래에서 오래된 취약점은 더 높은 예상 비용을 수반한다.

진짜 경쟁은 현대화와 상시 가용성 사이에 있다

호주의 핵심 문제는 일상생활에 가장 중요한 시스템이 안전하게 교체하기도 가장 어려울 수 있다는 점이다.

조직은 오래된 기술이 여전히 작동하기 때문에 이를 유지하는 경우가 많다. 레거시 애플리케이션은 결제를 처리하고, 의료 기록을 저장하며, 산업 장비를 조율하거나, 매일 이용되는 정부 서비스를 지원할 수 있다.

이를 교체하려면 데이터 마이그레이션, 재교육, 통합 테스트, 규제 승인, 여러 공급업체와의 계약이 필요할 수 있다. 일부 조직은 더 이상 원래 시스템을 설계한 사람들을 고용하고 있지 않다.

그 결과 계획된 가동 중단은 정치적·상업적 위험이 된다. 고객들은 금융, 통신, 신원 확인, 교통, 공공 서비스가 지속적으로 이용 가능하기를 기대한다.

Bradshaw의 경고는 이러한 기대 자체를 보안 문제의 일부로 만든다. 현대화를 위해 시스템을 오프라인으로 전환하면 눈에 보이는 중단이 발생한다. 반대로 온라인 상태를 유지하면 누적되는 노출 위험의 기간이 눈에 덜 띄게 된다.

관리자들은 종종 눈에 보이는 비용을 미룬다. 사고가 더 길고 통제하기 어려운 중단을 강제하기 전까지는 그러한 선택이 합리적으로 보일 수 있다.

ASD의 레거시 기술 지침은 교체가 가장 효과적인 장기 대응책이라고 명시한다. 임시 통제 조치는 위험을 줄일 수 있지만 근본 문제를 제거하지는 못한다.

이 지침은 네트워크 세분화, 강화된 계정 통제, 중앙 집중식 모니터링, 제한된 가용성, 불필요한 서비스 제거를 권고한다. 네트워크 세분화는 시스템을 격리해 침해가 더 넓은 환경으로 쉽게 확산되지 못하도록 한다.

완전한 교체가 즉시 이뤄질 수 없기 때문에 이러한 조치는 중요하다. 자산 목록을 조사하면 공급업체나 내부 개발 애플리케이션과의 문서화되지 않은 연결을 포함해 수백 개의 종속성이 드러날 수 있다.

따라서 조직에는 단일 마이그레이션 날짜가 아니라 순서가 필요하다. 인터넷에 노출된 시스템, 민감한 데이터를 보유한 시스템, 그리고 장애 발생 시 가장 큰 피해를 초래할 지원 서비스를 식별해야 한다.

AI는 리더들이 이 순서의 우선순위를 정하는 방식을 바꾼다. 여러 작은 취약점을 가진 노출 시스템은 모델이 공격자가 이러한 취약점을 신속히 결합하도록 도울 수 있을 때 더 큰 주의를 받아야 한다.

가용성 역시 더 정직하게 측정해야 한다. 매일 운영되지만 침해를 견디거나 복구할 수 없는 시스템은 신뢰성 있게 가용한 시스템이 아니다.

진정한 가용성에는 공격을 억제하고, 신뢰할 수 있는 데이터를 복원하며, 대체 절차를 통해 필수 서비스를 계속 제공하는 능력이 포함된다. 이를 위해서는 검증된 백업, 사고 대응 훈련, 문서화된 종속성이 필요하다.

호주의 국가 사이버 전략은 이미 이러한 긴장을 인식하고 있다. 내무부 장관 Tony Burke는 2026년 6월 Horizon 2 출범 당시 레거시 IT 교체를 다섯 가지 지속 보안 우선순위 중 하나로 제시했다.

Burke의 Horizon 2 연설은 사이버 공격이 호주 경제에 매년 250억 달러의 비용을 초래한다고 추산했다. 이 가운데 120억 달러는 중소기업에, 24억 달러는 정부에 귀속된다고 밝혔다.

그는 또한 4주간 지속되는 파국적 공격이 경제에 약 350억 달러의 비용을 초래할 것이라고 말했다. 이는 정부의 추정치이며, 그러한 사건이 임박했다는 예측은 아니다.

이 수치는 선택의 대가를 분명히 한다. 계획된 현대화에는 비용이 들지만, 지속적인 노출 역시 경제적 비용을 초래한다. 침해 이후의 긴급 교체는 두 비용을 모두 결합할 수 있다.

Burke는 직전 12개월 동안 사이버 범죄의 평균 비용이 50% 증가해 8만 달러에 이르렀다고 말했다. 또한 데이터 침해의 60% 원인으로 인적 오류를 지목했다.

이 인적 요인은 노후 기술을 교체해야 한다는 근거를 약화시키지 않는다. 오히려 기술 현대화만으로는 충분하지 않은 이유를 보여준다.

직원에게 과도한 권한이 부여되거나, 공급업체가 불필요한 접근 권한을 유지하거나, 경고가 읽히지 않는다면 새 시스템도 취약한 상태로 남을 수 있다. 반대로, 보안 업데이트를 더 이상 받지 못하는 소프트웨어를 규율 있는 팀이 무기한 보완할 수도 없다.

따라서 주된 상대는 AI 그 자체가 아니다. 오늘의 중단 없는 서비스가 내일 더 큰 중단의 가능성을 줄이는 일보다 중요하다고 여기는 운영 모델이다.

이사회와 공직자들은 이러한 선택을 명시적으로 다뤄야 한다. 계획된 다운타임을 감당할 수 있는 서비스, 병행 교체가 필요한 서비스, 임시 격리가 필요한 서비스를 식별해야 한다.

또한 중단의 이유를 알려야 한다. 중요한 서비스가 명확한 공지나 대안 없이 이용 불가능해지면 시민들이 이의를 제기하는 것은 당연하다.

현대화 계획에는 취약한 이용자를 위한 서비스 수준의 보호 장치가 필요하다. 예를 들어 디지털 신원 이전은 더 새 기기가 없거나 새로운 인증 절차를 완료할 수 없는 사람들의 접근을 막아서는 안 된다.

교체 프로그램이 너무 빠르게 진행되면 보안과 접근성은 충돌할 수 있다. 이것이 긴급 상황이 통제된 전환이라는 선택지를 없애기 전에 계획해야 하는 또 다른 이유다.

AI 규제는 기본적인 사이버 방어를 대체할 수 없다

모델 테스트는 위험한 능력을 드러낼 수 있지만, 지원이 종료된 서버에 패치를 적용하거나 취약한 네트워크를 재설계할 수는 없다.

호주는 첨단 AI 규칙을 마련하는 한편, 업계 지도자들은 더 빠른 국제 공조를 요구하고 있다. Sydney Dialogue에서 보도된 발언에 따르면 정부는 2027년 초 AI 법안을 도입할 것으로 예상된다.

Anthropic 최고경영자 Dario Amodei는 독립 평가자가 선도 모델을 검토해야 한다고 촉구했다. Bradshaw는 국가안보 기관이 이러한 평가에 참여해야 한다고 주장했다.

이 제안은 실제 필요에 대응한다. 평가자는 모델이 취약점을 발견하고, 악성 코드를 개발하며, 안전장치를 우회하거나, 제한된 감독 아래 장기간의 작전을 수행할 수 있는지 시험해야 한다.

보안 기관은 위협 인텔리전스와 현실적인 공격 시나리오를 제공할 수 있다. 또한 어떤 능력이 국가 지원을 받는 집단이나 범죄 집단에 실질적인 우위를 제공하는지도 이해한다.

그러나 참여는 거버넌스 문제를 낳는다. 모델 기업이나 그 방법을 검증할 수 없는 기관에 전적으로 의존한다면 독립 평가는 신뢰를 잃는다.

테스트 기준, 단계적 대응 절차, 공개 보고 의무에는 명확한 경계가 필요하다. 정부는 민감한 정보를 보호하면서도 모든 중요한 발견을 비밀로 만들어서는 안 된다.

호주는 경쟁하는 이해관계의 압력에도 직면해 있다. Anthropic은 신속한 규칙과 법적 확실성을 원한다. OpenAI는 저작권 및 현지 모델 훈련 논의를 포함해 호주 정부와 더 폭넓은 협력을 추진해 왔다.

Australian Greens는 첨단 시스템에 대한 의무적 안전성 테스트와 투명성 의무를 요구했지만, Labor 상원의원들은 9월 14일 토론을 위한 이들의 동의안을 부결했다. 이 부결로 정부의 향후 규칙의 최종 설계가 확정된 것은 아니다.

기술부 차관 Andrew Charlton은 개별 경영진이 안전장치를 결정해서는 안 된다고 말했다. 그의 입장은 공급업체 영향력에 대한 중요한 견제 장치를 마련한다.

AI 기업은 규제기관에 필요한 기술 지식을 보유하고 있다. 동시에 정의, 테스트 기준, 공개 요건을 자신들에게 유리한 방향으로 만들 상업적 유인도 갖고 있다.

정부는 이들의 전문성을 활용하되 공공 정책을 외주화해서는 안 된다. 사이버 위험만이 관련된 가치가 아니기 때문에 국가안보 기관에도 유사한 한계가 필요하다.

더 중요한 점은 규제가 기존 레거시 기술 위험을 없애지 못한다는 것이다. 엄격한 안전 통제조차 모든 모델이 복제되거나, 수정되거나, 도난당하거나, 다른 관할권에서 운영되는 것을 막을 수는 없다.

공격자들은 여전히 널리 이용 가능한 기존 도구와 AI를 결합할 수도 있다. 방어 계획은 국내 규칙이 인터넷에서 공격 역량을 제거할 것이라고 가정해서는 안 된다.

이것이 일부 AI 정책 논의에서 빠져 있는 회의적인 관점이다. 모델 거버넌스는 최전선의 위험을 줄일 수 있지만, 인프라 소유자는 여전히 자신이 노출한 시스템에 책임이 있다.

그 반대도 마찬가지다. 현대화만으로는 모든 AI 기반 위협을 해결할 수 없다. 새 시스템에도 구성 오류, 안전하지 않은 종속성, 과도한 에이전트 권한이 있을 수 있다.

ASD는 조직이 사람, 서비스, AI 에이전트에 최소 권한 원칙을 적용하라고 조언한다. 최소 권한이란 정의된 작업에 필요한 접근 권한만 부여하는 것을 의미한다.

기업이 내부적으로 에이전트를 배포할 때 이 원칙은 결정적으로 중요해진다. 이메일, 클라우드 스토리지, 소스 코드, 금융 시스템에 연결된 에이전트는 새로운 권한 집중 지점을 만든다.

공격자가 에이전트를 조작하거나 자격 증명을 탈취하면 현대적 소프트웨어도 침해의 통로가 될 수 있다. 해답은 AI를 완전히 피하는 것이 아니라 권한을 제한하고 행동을 모니터링하는 데 있다.

방어 측도 AI를 활용해 경고를 분석하고, 이상 행동을 식별하며, 취약점의 우선순위를 정할 수 있다. Bradshaw는 호주 조직들이 역량을 적에게만 맡기지 말고 방어 목적으로 AI를 도입하라고 권고해 왔다.

이는 두 번째 선택의 문제를 만든다. 더 빠른 자동화 방어는 팀이 공격 속도에 맞춰 대응하도록 도울 수 있지만, 거버넌스가 부실한 자동화는 정상적인 활동을 차단하거나 오해의 소지가 있는 데이터에 따라 행동할 수 있다.

영향이 큰 결정에는 여전히 인간 감독이 필요하다. 조직은 어떤 자동화 조치가 서비스를 중단시킬 수 있는지, 그리고 직원이 이를 어떻게 되돌릴 수 있는지 알아야 한다.

따라서 가장 강력한 보안 프로그램은 모델 평가, 현대적 인프라, 제한된 접근, 훈련된 복구 절차를 결합한다. 어느 요소도 다른 요소를 대체할 수 없다.

세 가지 신호가 호주가 격차를 좁히고 있는지 보여줄 것이다

다음 시험대는 호주가 명확한 경고를 노출 시스템과 대응 시간의 측정 가능한 감소로 전환하는지 여부다.

첫 번째 신호는 2027년 초 예상되는 정부 AI 법안의 내용이다. 핵심 쟁점은 규칙이 독립적인 역량 테스트, 사고 공개, 자격 있는 평가자에게 의미 있는 접근권을 요구하는지 여부다.

신뢰할 수 있는 프레임워크는 일반 애플리케이션과 정교한 사이버 작전을 실질적으로 지원할 수 있는 모델을 구분해야 한다. 모든 개발자에게 광범위한 의무를 적용하면 가장 높은 위험에 집중하지 못한 채 집행 역량만 소진될 것이다.

법률은 국가안보 기관이 어떻게 참여할지도 정의해야 한다. 이들의 참여가 반복 가능한 테스트와 실행 가능한 지침을 낳는다면 Australian Signals Directorate의 AI 경고는 더 강해질 것이다.

반대로 평가가 공개 책임성이 없는 폐쇄적 절차가 된다면 그 경고는 약화될 것이다. 기업은 조달, 접근 통제, 사고 계획을 조정할 수 있을 만큼의 정보를 필요로 한다.

두 번째 신호는 측정 가능한 레거시 교체 프로그램이다. 정부 부처와 중요 인프라 운영자는 교체 대기 시스템의 자산 목록, 폐기 일정, 임시 보호 조치를 보고해야 한다.

현대화 프로젝트 수만으로는 충분하지 않다. 유용한 지표에는 지원이 종료된 인터넷 연결 소프트웨어의 감소, 강화된 네트워크 분리, 더 짧아진 시정 시간이 포함된다.

ASD의 최근 데이터는 더 넓은 위협 환경을 위한 기준선을 제공한다. 이 기관은 2024–25년에 1,200건이 넘는 사고에 대응했으며, 중요 인프라 기관에 잠재적 악성 활동을 190회 이상 통지했다.

탐지와 보고가 개선되면 보안이 향상되는 상황에서도 이러한 총계는 증가할 수 있다. 따라서 호주는 사고 건수와 함께 영향 및 복구 지표도 추적해야 한다.

조직은 무단 접근을 얼마나 빨리 탐지했는가? 공격자는 얼마나 멀리 이동했는가? 필수 서비스는 계속 운영됐는가? 복구에는 얼마나 오래 걸렸는가?

세 번째 신호는 실제 AI 기반 사고와 방어 훈련에서 나온 증거다. 호주는 모델이 공격에 실제로 무엇을 기여했는지 보여주는 상세 사례 연구가 필요하다.

AI는 피싱 메시지 생성, 탈취 데이터 조사, 취약점 발견, 다단계 침입 통제 중 어디에 사용됐는가? 이는 서로 다른 방어책이 필요한 서로 다른 능력이다.

공개 보고는 검증된 활동과 추측을 구분해야 한다. 모든 자동화 침입을 AI 공격이라고 부르면 투자가 왜곡되고 추세 측정도 더 어려워질 것이다.

대규모 사고가 발생하기 전에 훈련을 실시하면 도움이 될 수 있습니다. ASD는 2024–25년 동안 120개 이상의 조직이 참여한 17건의 사이버 보안 훈련을 주도했습니다. 향후 훈련에서는 더 짧은 의사결정 시간과 방어 체계가 바뀐 뒤 적응하는 공격을 검증해야 합니다.

이러한 훈련에는 제3자 공급업체도 포함돼야 합니다. 현대화된 조직이라도 소규모 제공업체가 지원이 종료된 장비나 취약한 자격 증명에 의존할 경우 서비스를 잃을 수 있습니다.

호주가 신뢰할 수 있는 모델 테스트를 구축하고, 노출된 시스템을 퇴출하며, 더 신속한 차단 역량을 입증한다면 이 세 가지 신호는 경고를 뒷받침할 것입니다. 반대로 현대화 기한이 계속 미뤄지는 가운데 정책만 포괄적인 수준에 머문다면 경고의 힘은 약화될 것입니다.

기업 리더에게 즉각적인 대응은 법 제정을 기다릴 필요가 없습니다. 정확한 기술 자산 목록을 요청하고, 지원이 종료된 제품을 파악하며, 핵심 의존 관계를 매핑할 수 있습니다.

또한 백업이 존재한다는 확인에 그치지 않고, 백업이 올바르게 복구되는 증거를 요구할 수 있습니다. 사고 대응팀은 평소 시스템 없이도 필수 서비스를 운영하는 훈련을 해야 합니다.

개발자와 AI 제품팀에도 그에 상응하는 책임이 있습니다. 에이전트에는 제한된 권한, 인증된 도구 접근, 완전한 로깅, 되돌릴 수 없는 작업에 대한 명확한 제한이 부여돼야 합니다.

지식 근로자는 생성된 음성, 문서, 메시지가 정교해짐에 따라 더욱 설득력 있는 사칭 시도를 예상해야 합니다. 요청이 금전, 자격 증명 또는 민감한 정보와 관련될 때는 별도 채널을 통한 확인이 더욱 중요해집니다.

단 하나의 조치로 이 문제를 해결할 수는 없습니다. 노후 시스템을 교체하는 데는 수년이 걸리며, 그 과정에서도 AI 역량은 계속 변화할 것입니다.

유용한 목표는 모든 계층에서 공격자의 우위를 줄이는 것입니다. 이는 노출된 레거시 장비를 줄이고, 패치를 더 신속히 적용하며, 권한을 제한하고, 모니터링을 개선하며, 필수 서비스를 중심으로 복구 계획을 수립하는 것을 뜻합니다.

호주는 이제 사이버 정보 책임자로부터 명확한 진단을 받았습니다. AI는 공격 악용을 가속하는 반면, 조직들은 쉽게 끌 수 없는 기술에 계속 묶여 있습니다.

리더들이 내려야 할 결정은 구체적입니다. 자동화된 공격자가 다시 이를 조사하기 전에 어떤 핵심 시스템을 격리하고, 교체하거나, 테스트할 것인가? Australian Signals Directorate의 AI 경고는 이 질문이 또 한 번 미뤄진 업그레이드가 아니라 예산이 확보된 기한, 책임 있는 담당자, 더 안전한 전환으로 이어질 때에만 의미를 가질 것입니다.