AI 사이버 위험, 금융사의 방어 역량을 앞지르다

Gigamon은 설문에 참여한 금융사 가운데 91%가 데이터 보호를 위해 AI 도구를 도입했음에도, 77%가 AI 관련 침해 사고를 경험했다고 밝혔다. 2026년 8월 Google News를 통해 확산된 이 조사 결과는 난감한 충돌을 드러낸다. 은행들은 보안 자동화를 더 빠르게 추진하고 있지만, 공격자들 역시 유사한 기술을 활용해 더 신속하게 움직이며 그로 인해 커진 복잡성을 악용하고 있다.

이 설문조사가 보고된 모든 사고의 원인이 AI였다는 사실을 입증하는 것은 아니다. 다만 금융기관이 공격 경로, 표적 시스템 또는 방어 대응의 어느 지점에서든 AI를 점점 더 자주 마주하고 있음을 보여준다. 침해를 경험한 응답자 중 98%는 금전적 손실, 데이터 손실, 보험료 인상 또는 규제상 결과를 포함한 중대한 사업 영향을 보고했다.

이러한 긴장은 이제 한 벤더가 후원한 설문조사를 넘어선 문제다. 영란은행, 금융감독청, 영국 재무부는 최첨단 모델이 취약점 발견과 악용을 가속할 수 있다고 경고했다. 따라서 금융사는 인프라를 방어하기 위해 AI를 도입하는 동시에, 자동화가 새로운 침투 경로를 만들지 않도록 막아야 하는 두 가지 경쟁에 동시에 대응해야 한다.

Google News 설문조사가 실제로 발견한 것

핵심은 은행에 보안 도구가 부족하다는 점이 아니다. 자동화와 투자를 늘려도 일관되게 더 나은 통제력으로 이어지지 않았다는 점이다.

Gigamon은 2026년 7월 8일 금융 서비스 부문 조사 결과를 공개했다. 결과는 호주, 프랑스, 독일, 싱가포르, 영국, 미국의 보안 및 IT 리더 139명을 대상으로 수집됐다. 이는 1,000명 이상의 응답자를 포괄하는 더 광범위한 연례 하이브리드 클라우드 보안 연구의 일부다.

회사는 금융 서비스 조직의 66%가 이미 사람의 개입 없이 AI가 보안 기능을 시작하도록 허용하고 있다고 보고했다. 전체 조사 산업군의 해당 비율은 53%였다. 이 차이는 금융 부문이 자율형 또는 반자율형 방어로 더 빠르게 이동하고 있음을 시사한다.

이러한 시스템은 경보 분류, 기기 격리, 정책 변경 또는 조사 시작과 같은 조치를 수행할 수 있다. 그 가치는 속도에서 나온다. 인간 분석가는 대형 은행의 엔드포인트, 클라우드 워크로드, ID 시스템, 애플리케이션, 네트워크 연결에서 발생하는 모든 신호를 살펴볼 수 없다.

그러나 같은 응답자들은 여전히 파악하고 통제하기 어려운 보안 환경을 묘사했다. 금융 부문 설문조사에 따르면, 77%는 AI가 관련된 침해를 경험했다. 또 54%는 피싱과 문자 메시지 사기를 포함한 AI 지원 사회공학 공격이 증가했다고 답했다.

47%는 AI 또는 대규모 언어 모델 배포를 겨냥한 공격이 증가했다고 말했다. 이 범주에는 탈취된 모델 자격 증명, 노출된 애플리케이션 프로그래밍 인터페이스, 조작된 입력, 안전하지 않은 플러그인 또는 연결된 데이터 저장소를 겨냥한 공격이 포함될 수 있다.

설문조사는 또한 94%가 탐지와 가시성 향상을 위해 새로운 보안 기술에 투자했다고 밝혔다. 그러나 42%는 침해 탐지에 더 오랜 시간이 걸리고 있다고 답했다. 이는 도구를 하나 더 구매하면 자동으로 대응 시간이 단축된다는 가정에 의문을 제기하는 결과다.

문제의 중심에는 파편화가 있는 것으로 보인다. 52%는 하이브리드 클라우드 인프라를 보호할 때 분리된 보안 도구를 가장 큰 과제로 꼽았다. 하이브리드 클라우드는 사설 시스템, 퍼블릭 클라우드 서비스, 그리고 흔히 기존 온프레미스 기술을 하나의 운영 환경 아래 결합한다.

각 구성 요소는 활동을 서로 다르게 기록할 수 있다. 한 도구는 ID 로그인을 보고, 다른 도구는 애플리케이션 요청을 보며, 또 다른 도구는 네트워크 트래픽을 확인한다. 이러한 신호를 신속히 연결할 수 없다면 자동화된 대응은 불완전한 상황 인식에 기반해 작동할 수 있다.

출처 역시 면밀히 살펴볼 필요가 있다. Gigamon은 네트워크 가시성 및 옵저버빌리티 제품을 판매하므로, 이 설문조사는 회사의 상업적 주장을 직접 뒷받침한다. 조사 결과는 독립적으로 감사된 침해 사고 목록이 아니라 응답자들이 보고한 경험을 나타낸다.

표본은 유용하지만 한계가 있다. 이는 전 세계 금융 시스템을 대표하는 전수조사가 아니라 6개국 금융 부문 리더 139명을 포괄한다. “AI가 관련된 침해”나 “중대한 영향” 같은 정의도 응답자마다 다를 수 있다.

그러한 한계가 신호 자체를 지우지는 않는다. 다만 이 비율은 보편적 측정치가 아니라 인지된 노출의 지표로 다뤄야 한다는 뜻이다. 중요한 결과는 답변 전반에 나타난 패턴이다. 도입은 늘고 있고, AI 연계 사고는 흔하며, 막대한 투자에도 탐지는 여전히 어렵다.

금융사는 기회와 노출을 동시에 자동화하고 있다

대응 속도를 높이는 동일한 자율성이 작동하고 연결되며 실패할 수 있는 시스템의 수를 늘리기 때문에, 은행은 압박을 받고 있다.

금융기관이 사이버 보안을 자동화할 강력한 이유는 충분하다. 이들은 상시 운영되며, 민감한 정보를 처리하고, 고객이 계속 이용할 수 있기를 기대하는 서비스를 지원한다. 탐지가 지연되면 하나의 손상된 계정이 더 광범위한 운영 중단으로 이어질 수 있다.

AI는 방어팀이 수동으로 처리할 수 없는 규모의 텔레메트리 데이터를 처리하도록 돕는다. 경보의 우선순위를 정하고, 비정상 행동을 탐지하며, 사고를 요약하고, 격리 조치를 권고할 수 있다. 성숙한 환경에서는 분석가가 개입하기 전 손상된 기기를 제거하거나 의심스러운 접근 권한을 취소할 수도 있다.

압박은 이러한 시스템이 실제 인프라 전반에서 행동하도록 허용하는 데서 비롯된다. AI 보안 에이전트는 ID 통제, 엔드포인트 소프트웨어, 티켓 시스템, 클라우드 콘솔 또는 네트워크 정책에 접근해야 할 수 있다. 각각의 권한은 대응 능력을 높이지만, 오류나 침해가 발생했을 때의 결과도 키운다.

에이전틱 AI는 이러한 긴장을 더욱 선명하게 만든다. 에이전틱 시스템은 정해진 목표를 향해 일련의 조치를 계획하고 실행할 수 있다. 단순히 조언을 생성하는 것 이상을 수행하므로, 조직은 해당 시스템이 무엇에 접근하고, 무엇을 변경하며, 무엇을 전송할 수 있는지 관리해야 한다.

2026년 Cambridge Centre for Alternative Finance 연구에 따르면 응답자의 52%가 에이전틱 AI를 배포하고 있었다. 이 글로벌 금융 보고서는 업계 참여자 352명, AI 벤더 144곳, 규제기관 130곳을 조사했다.

이 연구는 소프트웨어 엔지니어링을 금융 업계에서 가장 성숙한 AI 적용 분야로 꼽았다. 42%가 완전 배포를 보고했고, 33%는 시스템을 개발 중이었다. 이는 소프트웨어 엔지니어링이 AI를 코드, 리포지토리, 개발 도구, 프로덕션 인프라에 직접 연결하기 때문에 중요하다.

AI가 생성한 코드는 정당한 업무를 가속할 수 있다. 동시에 안전하지 않은 패턴을 재현하거나, 팀이 평가하지 않은 종속성을 도입하거나, 검토자가 면밀히 확인할 수 있는 범위를 넘어서는 변경을 생성할 수 있다. 보고서는 생성 코드의 양과 속도가 기존의 수동 검토 효율을 떨어뜨리고 있다고 밝혔다.

인적 감독의 상실은 이해관계자 그룹 전반 응답자의 51%가 지적한 주요 우려 사항으로 꼽혔다. 그렇다고 기업이 모든 일상적 조치에 대해 수동 승인 절차를 유지해야 한다는 의미는 아니다. 기계 속도에서도 효과를 유지하는 통제가 필요하다는 뜻이다.

이러한 통제에는 제한된 권한, 완전한 활동 로그, 검증된 롤백 절차, 권고와 자율 실행 사이의 명확한 경계가 포함된다. 기관은 각 결정에 어떤 모델, 데이터 소스, 플러그인, 시스템 계정이 참여했는지도 파악할 수 있어야 한다.

그렇지 않으면 책임성 없는 자동화가 된다. 보안팀은 AI 도구가 방화벽 규칙을 변경했다는 사실은 알지만, 왜 그렇게 했는지를 규명할 충분한 맥락은 확보하지 못할 수 있다. 그러면 공격이 계속되는 동안 조사관들은 해당 조치를 재구성하는 데 귀중한 시간을 소비하게 된다.

직원이 승인되지 않은 AI 서비스를 배포할 때 과제는 더 커진다. 직원이 고객 정보를 공개형 어시스턴트에 붙여넣거나, AI 플러그인을 공유 드라이브에 연결하거나, 리포지토리 접근 권한이 있는 코딩 도구를 설치할 수 있다. 이러한 행동은 통상적인 조달 및 보안 절차 밖에서 데이터 노출을 만들 수 있다.

공격자 역시 낮아진 진입 장벽의 혜택을 본다. 생성형 모델은 그럴듯한 피싱 메시지를 만들고, 미끼 문구를 번역하며, 어조를 바꾸고, 탈취한 정보를 활용해 사기를 개인화할 수 있다. 음성과 이미지 생성은 사칭 시도를 더 설득력 있게 만들 수 있다.

AI가 공격자 접근, 인프라, 실행의 필요성을 없애는 것은 아니다. 다만 작전의 일부 단계에 필요한 시간과 숙련도를 줄인다. 이 변화는 더 많은 캠페인을 동시에 운영하게 하고, 방어자가 반복되는 패턴을 식별할 시간을 줄인다.

따라서 금융사는 사실상 강제된 대응에 직면한다. 기계 속도의 위협에 맞서기 위해 충분히 자동화해야 하는 동시에, 어떤 자동화 시스템도 과도한 권한을 받지 않도록 제한해야 한다. 너무 느리게 움직이면 분석가는 과부하에 빠진다. 통제 없이 움직이면 네트워크 내부에 새로운 특권 행위자가 생긴다.

진짜 경쟁은 자동화와 통제 사이에 있다

핵심 충돌은 은행과 특정 공격자 집단 사이의 대결이 아니다. 더 느린 통제 주기를 중심으로 구축된 기관과 기계 속도 자동화 사이의 경쟁이다.

전통적인 금융 통제는 중요한 변경이 정해진 단계를 거친다고 전제한다. 한 사람이 접근 권한을 요청하고, 다른 사람이 이를 승인하며, 시스템은 그 결정을 기록한다. 소프트웨어 배포는 테스트, 검토, 예정된 배포 과정을 거친다.

AI는 이러한 주기를 압축한다. 방어 에이전트는 신호를 평가하고 수초 내에 조치를 취할 수 있다. 공격 모델은 기존 보안 워크플로가 패치를 승인하는 속도보다 더 빠르게 소프트웨어를 스캔하고, 익스플로잇을 제안하거나, 단계를 조율할 수 있다.

영란은행의 2026년 7월 금융안정성 보고서는 이러한 가속을 잠재적인 시스템 수준의 우려로 설명했다. 이 안정성 평가는 최첨단 AI가 기관과 시장 인프라를 겨냥한 공격의 정교함과 영향을 키울 수 있다고 밝혔다.

보고서는 최근 모델이 제한적인 인간 개입만으로 취약한 시스템에 대한 다단계 공격을 수행할 수 있다는 증거를 인용했다. 한 통제된 리버스 엔지니어링 과제에서 최첨단 모델은 10분 22초 만에 작업을 완료했다. 인간 전문가는 약 12시간이 필요했다.

통제된 평가는 방어가 잘 갖춰진 은행에 대한 성공적인 공격으로 직접 이어지지는 않는다. 다만 속도 격차가 운영상 의미를 갖기 시작하고 있음을 보여준다. 주간 단위 우선순위 설정을 중심으로 설계된 대응 프로세스는 취약점 발견이 수시간 안에 확대될 때 실패할 수 있다.

보고서는 주요 소프트웨어 공급업체에서 취약점 발견이 급증했다고도 설명했다. 공급업체가 이를 안전하게 평가하고 수정할 수 있다면, 정당한 발견의 증가는 방어자에게 도움이 된다. 그러나 그 규모가 테스트와 배포 역량을 압도하면 부담이 된다.

패치 자체에도 위험이 따른다. 은행은 결제, ID, 거래, 고객 서비스, 보고를 처리하는 대규모 상호연결 애플리케이션에 의존한다. 실제 보안 약점을 차단하는 업데이트라도 성급하게 적용하면 중요한 비즈니스 서비스를 중단시킬 수 있다.

이는 불편한 상충 관계를 만든다. 더 느린 패치 주기는 알려진 약점을 노출된 상태로 둔다. 더 빠른 주기는 공유 시스템 전반의 오류, 장애 또는 호환되지 않는 변경 위험을 높인다.

일반적인 기술 공급업체는 그 결과를 증폭시킬 수 있다. 많은 기관이 동일한 클라우드 플랫폼, ID 서비스, 소프트웨어 라이브러리, 파운데이션 모델 제공업체에 의존한다. 따라서 각 조직이 자신의 노출을 파악하기도 전에 단일 취약점이 여러 기업에 영향을 미칠 수 있다.

Cambridge 보고서는 파운데이션 모델 공급업체 사이에서 두드러진 집중 현상을 발견했다. 관련 응답 중 OpenAI는 68.8%, Google은 46.8%, Anthropic은 32%에 등장했다. 이 수치는 보고된 사용 현황을 반영하며, 응답자는 둘 이상의 제공업체를 식별할 수 있었다.

집중도가 그 서비스들을 본질적으로 안전하지 않게 만드는 것은 아니다. 이는 상관된 의존성을 만든다. 많은 기관이 동일한 서비스, 인터페이스 또는 모델 계열에 의존하면 장애나 침해가 한 기업을 넘어 확산될 수 있다.

규제당국은 특히 이러한 공동 노출을 우려한다. Cambridge 연구는 공급업체, 기관, 규제당국 간에 서로 다른 우선순위가 있음을 확인했다. 규제당국의 57%는 적대적 AI 위협을 우선시했으며, 이는 업계 응답자의 50%, 공급업체의 35%와 비교된다.

사이버 및 운영 복원력에서도 비슷한 격차가 나타났다. 규제당국의 59%가 이를 우선시한 반면, 업계 응답자는 46%, 공급업체는 32%였다. 이러한 차이는 공급업체가 성능을 강조하는 반면, 규제를 받는 고객사는 하류의 복원력 부담을 더 많이 떠안을 수 있음을 시사한다.

은행은 이러한 책임성을 외주화할 수 없다. 계약은 의무를 배분할 수 있지만, 장애 발생 후 결제, 고객 접근 또는 시장 기능을 즉시 복구할 수는 없다. 금융기관은 중요한 운영을 뒷받침하는 서비스를 이해할 책임을 계속 진다.

이 때문에 가시성이 중요하지만, 가시성만으로 해답이 되지는 않는다. 네트워크에서 파생된 텔레메트리는 데이터가 사용자, 애플리케이션, 클라우드, 모델 간에 어떻게 이동하는지 보여줄 수 있다. 또한 개별 보안 제품이 따로 보는 신호들을 연결하는 데 도움이 될 수 있다.

그러나 더 많은 텔레메트리를 수집하면 또 다른 과부하 문제가 생길 수 있다. 데이터는 팀이 이를 해석하고, 적절히 보존하며, 사고 발생 시 활용할 수 있을 때만 가치가 있다. 서로 연결되지 않은 경보의 흐름이 커지면 대기열만 늘어난다.

따라서 효과적인 통제에는 완전한 사슬이 필요하다. 기업에는 정확한 자산 목록, 관찰 가능한 데이터 이동, 제한된 에이전트 권한, 상관 분석된 경보, 신속한 수정, 검증된 복구가 필요하다. 한 단계의 취약점이 나머지 전체를 약화시킬 수 있다.

Gigamon 조사 결과는 많은 기업이 그 사슬을 완성하지 못한 채 방어 구성요소의 수를 늘렸음을 시사한다. 응답자의 95%는 보안이 이동 중인 데이터 전반의 가시성에 의존한다고 답했다. 더 긴 탐지 시간은 그러한 인식이 아직 일관된 운영 통제로 전환되지 않았음을 보여준다.

설문 수치가 입증하지 않는 것

우려스러운 비율은 거버넌스 문제를 보여주지만, 자율형 AI가 모든 금융기관의 보안을 약화시키고 있음을 입증하지는 않는다.

“AI가 관련된 침해”라는 표현은 여러 가능한 사건을 포괄한다. 공격자는 AI를 이용해 유인책을 만들 수 있다. 피해 조직은 영향을 받은 시스템 가운데 AI 애플리케이션을 보유했을 수 있다. 사고는 모델, 플러그인, 데이터 파이프라인 또는 주변 클라우드 서비스를 겨냥했을 수도 있다.

이러한 사건들은 원인이 서로 다르며, 서로 다른 통제가 필요하다. 피싱 이메일에는 ID 보호와 사용자 검증이 필요하다. 침해된 모델 엔드포인트에는 자격 증명 관리, 모니터링, 애플리케이션 격리가 요구된다. 이를 하나의 비율로 묶으면 이러한 차이가 가려질 수 있다.

자기보고식 설문 데이터에는 또 다른 한계가 있다. 응답자들은 사고가 중대한 피해를 초래했는지 판단할 때 서로 다른 기준을 적용할 수 있다. 금전적 손실, 데이터 손실, 보험료 인상, 규제상 결과는 모두 심각한 결과이지만, 운영 측면에서 동일한 무게를 갖지는 않는다.

침해를 보고한 기업의 98%가 중대한 영향을 경험했다는 주장은 설문에서 침해를 보고한 조직에만 적용된다. 이는 모든 금융기관의 98%가 피해를 주는 사고를 겪었다는 뜻은 아니다.

이 연구는 AI 투자가 결과를 개선했는지도 분리해낼 수 없다. 고도화된 탐지 역량을 갖춘 기업은 덜 성숙한 조직이 놓치는 사고를 식별할 수 있다. 이는 보고된 침해 건수를 늘릴 수 있지만, 동시에 더 나은 가시성을 보여주는 것일 수도 있다.

대형 기관은 공격 표적도 더 많다. 더 많은 애플리케이션을 운영하고, 더 많은 인력을 고용하며, 더 많은 공급업체를 통합할 수 있다. 이들의 높은 사고 규모는 통제의 약화가 아니라 더 큰 노출을 반영할 수 있다.

따라서 Google News의 프레이밍은 업계 전반의 실패라는 주장보다 더 좁게 유지되어야 한다. 증거는 AI 관련 위험이 조사 대상 리더들 사이에서 널리 퍼져 있으며, 기존 가시성 조치가 자주 불충분하게 느껴진다는 결론을 뒷받침한다. 보편적인 침해율을 확립하지는 않는다.

독립적인 규제 조사 결과는 그럼에도 더 광범위한 우려를 강화한다. Bank of England와 FCA가 공동으로 실시한 영국 금융서비스 설문은 사이버보안을 가장 크게 인식된 AI 위험으로 꼽았다. 2024 AI survey에 따르면, 참여 기업 중 AI 사용 현황을 완전히 이해하고 있다고 보고한 곳은 34%에 불과했다.

또 다른 46%는 이해가 부분적이라고 답했다. 84%는 AI 책임자를 지정했으며, 이는 거버넌스 구조가 일반화되고 있음을 보여준다. 그러나 문서상의 책임성만으로는 모델, 데이터 연결, 제3자 의존성에 대한 최신 자산 목록이 보장되지 않는다.

은행이 일반 소프트웨어를 통해 AI를 구매할 때 이 구분은 중요하다. 공급업체는 별도 배포를 요구하지 않고 기존 제품에 모델 기능을 추가할 수 있다. 내장형 모델은 중앙 보안팀이 모든 사용을 기록하기 전에 워크플로 전반으로 확산될 수 있다.

AI의 방어적 가치 역시 인정할 필요가 있다. 영국 National Cyber Security Centre는 AI가 시간이 지나면서 사이버 방어를 개선할 것으로 예상한다. frontier AI guidance는 기본적인 보안 보호를 유지하면서 방어자가 이 기술을 활용해 취약점을 식별하고 수정할 수 있다고 설명한다.

현재 시스템에는 여전히 의미 있는 한계가 있다. 모델은 장기간의 작업 과정에서 맥락을 잃을 수 있고, 일관되지 않은 결과를 낼 수 있으며, 암호화나 복잡한 악성코드 개발과 같은 전문 단계에서 어려움을 겪을 수 있다. 이러한 약점은 신뢰할 수 있는 엔드투엔드 자동화를 제한한다.

공격자 역시 표적 네트워크의 현실적 제약에 직면한다. 접근 권한, 사용할 수 있는 자격 증명, 도달 가능한 시스템, 탐지를 피할 방법이 필요하다. AI가 생성한 계획이 이러한 조건을 자동으로 제공하는 것은 아니다.

따라서 단기적 위험은 덜 극적이지만 더 실질적이다. AI는 기존 취약점을 둘러싼 활동의 규모, 개인화, 속도를 높인다. 불완전한 자산 목록, 과도한 접근 권한, 지연된 패치, 분절된 모니터링을 가진 기관은 더 쉽게 압박을 받게 된다.

이 해석은 모든 AI 제품을 동일한 위험으로 취급하는 것도 피한다. 격리된 환경에서 경보를 요약하는 모델은 프로덕션 접근 권한을 변경하도록 승인된 에이전트와 다르다. 거버넌스는 기능, 데이터 민감도, 잠재적 영향에 따라야 한다.

금융기업에는 현실적인 조건에서 통제가 작동한다는 증거가 필요하다. 유용한 지표에는 탐지 시간, 차단 시간, 오탐률, 롤백 성공률, 무단 모델 사용, 검증된 모니터링으로 포괄되는 핵심 시스템의 비율이 포함된다.

이러한 운영 지표는 구매한 AI 도구의 수보다 더 중요하다. 자동화가 복원력을 개선하는지, 아니면 팀이 감독해야 하는 또 하나의 계층을 추가할 뿐인지를 보여준다.

규제당국은 원칙에서 운영 압박으로 전환했다

영국 당국은 더 이상 프런티어 AI를 먼 정책 과제로 다루지 않는다. 이제 기업들에 더 빠른 공격에 대비해 기존 방어 체계를 준비하라고 요구하고 있다.

2026년 5월 15일, Bank of England, FCA, HM Treasury는 프런티어 모델과 사이버 복원력에 관한 공동 성명을 발표했다. 이 성명은 현재의 프런티어 역량이 일부 과업에서 숙련된 실무자가 달성할 수 있는 수준을 이미 넘어섰으며, 더 빠르고 더 낮은 비용으로 수행될 수 있다고 밝혔다.

이 성명은 새로운 규칙을 만들지는 않았다. 대신 AI 위협을 기존의 운영 복원력 기대치와 연결했다. 규제를 받는 기업은 이미 중요한 서비스를 보호하고, 제3자를 관리하며, 사고에 대응하고, 장애로부터 복구할 책임이 있다.

joint AI statement는 이사회와 고위 관리자에게 새롭게 부상하는 위험을 이해하라고 요구했다. 또한 더 빠른 취약점 분류, 강화된 접근 통제, 소프트웨어 공급망에 대한 더 면밀한 관리를 촉구했다.

이는 AI 사이버 위험을 일반적인 책임성 구조 안에 위치시킨다는 점에서 중요하다. 은행은 이 문제를 혁신팀만 소유하는 실험적 기술 프로젝트로 취급할 수 없다. 보안, 위험 관리, 컴플라이언스, 조달, 사업 리더십 모두가 역할을 맡아야 한다.

당국은 기업들이 AI 지원 공격에 필적하는 속도로 작동할 수 있는 자동화 및 AI 기반 방어책도 고려해야 한다고 밝혔다. 이 권고는 핵심적인 상충관계를 포착한다. 규제당국은 수동 프로세스만으로는 확장할 수 없음을 인정하지만, 자동화는 계속 거버넌스 아래 있어야 한다.

제3자 위험은 특별한 주목을 받는다. 금융기관은 네트워크에 연결된 외부 애플리케이션, 라이브러리, 서비스를 식별해야 한다. 또한 공급업체가 발견한 대규모 취약점을 수정할 준비도 해야 한다.

이 기대는 파운데이션 모델 기업을 넘어선다. AI 애플리케이션은 흔히 클라우드 호스팅, ID 서비스, 벡터 데이터베이스, 플러그인, 모니터링 도구, 일반 소프트웨어 구성요소에 의존한다. 각 계층은 의존성 또는 접근 경로를 만들 수 있다.

FCA의 7월 소매 금융서비스 검토는 소비자 차원을 더했다. 이 보고서는 2030년 이후까지 시장을 형성할 것으로 예상되는 네 가지 주요 AI 주도 변화 중 하나로 증폭된 사기 및 사이버 위험을 지목했다.

규제당국의 소비자 조사에서는 에이전틱 금융서비스에 대한 관심이 확인됐다. 영국 성인 약 1,100만 명으로 추정되는 응답자의 5분의 1은 미리 설정된 목표 안에서 자율적으로 행동하는 AI를 사용할 가능성이 있는 것으로 나타났다.

이러한 수요는 기업들이 고객을 위해 추천을 하거나 이를 실행하는 서비스로 나아가도록 압박할 수 있다. 또한 ID, 조작, 무단 행동 또는 오해를 불러일으키는 모델 출력과 관련된 실패의 비용도 높인다.

소비자 대상 에이전트는 보안 에이전트와 다른 위험을 만들지만, 둘 다 통제된 접근과 신뢰할 수 있는 데이터에 의존한다. 침해된 금융 어시스턴트는 개인 정보를 노출하거나 해로운 행동을 개시할 수 있다. 침해된 보안 에이전트는 보호 기능을 비활성화하거나 의심스러운 활동을 숨길 수 있다.

운영 복원력은 이 사례들을 연결하는 다리가 된다. 모델, 공급업체, 애플리케이션 또는 통제가 예기치 않게 작동할 때에도 기관은 중요한 서비스를 계속 제공해야 한다. 모든 실패를 막는 것은 비현실적이므로, 기업은 실패를 차단하고 복구할 수 있어야 한다.

이러한 규제 방향은 이사회에 증거를 요구하라는 압박을 가한다. 리더에게는 AI 시스템이 조달 검토를 통과했다는 진술만으로는 충분하지 않다. 권한, 실패 모드, 의존성, 모니터링 범위, 복구 경로를 알아야 한다.

이는 공급업체에도 압박을 가한다. 규제를 받는 금융 분야에 서비스를 제공하는 업체는 모델 업데이트, 사고 통지, 감사 기록, 데이터 보존, 하도급업체, 서비스 연속성에 관한 더 많은 질문을 받게 될 것이다.

즉각적인 결과는 금융 AI에 대한 일률적 제한이 아니다. 영국 당국은 더 나은 사기 탐지, 고객 서비스, 운영 효율성을 포함한 상당한 이점을 계속 언급하고 있다. 이들의 입장은 도입과 복원력이 함께 진전되어야 한다는 것이다.

그렇다고 Gigamon의 결과가 단순한 마케팅용 스냅샷에 그치는 것은 아니다. 규제당국이 기업들이 보안 지출을 측정 가능한 통제로 전환할 수 있는지 묻는 시점에 나온 결과이기 때문이다. 높은 도입률과 더 길어진 탐지 시간의 공존은 감독당국이 정확히 들여다볼 불일치다.

금융 AI 보안이 개선되고 있는지 보여줄 세 가지 신호

다음 단계는 더 빠른 복구, 자율 시스템에 대한 더 엄격한 통제, 그리고 공동 공급업체에 관한 더 명확한 증거로 평가받게 될 것이다.

첫 번째 신호는 더 큰 장애를 일으키지 않으면서 취약점 관리가 가속되는지 여부다. 프런티어 모델은 취약점을 더 빠르게 식별할 수 있지만, 발견은 시작에 불과하다. 기업은 심각도를 평가하고, 영향을 받는 자산을 식별하며, 수정 사항을 테스트·배포하고, 중요한 서비스가 여전히 정상 작동하는지 확인해야 한다.

규제당국과 대형 금융기관이 패치 소요 시간 및 복구 테스트에 관한 증거를 공개하는지 지켜볼 필요가 있다. 노출 기간이 지속적으로 줄어든다면 방어 자동화가 보조를 맞추고 있다는 주장이 더 설득력을 얻게 된다. 반대로 성급한 복구 조치와 연결된 장애가 늘어난다면 그 주장은 약화될 것이다.

두 번째 신호는 기업들이 에이전틱 AI에 집행 가능한 경계를 설정하는지 여부다. 정책만으로는 과도한 권한을 가진 에이전트를 막을 수 없다. 기관에는 행동을 제한하고, 민감한 환경을 분리하며, 감사 추적을 보존하고, 영향이 큰 변경에는 승인을 요구하는 기술적 통제가 필요하다.

유의미한 증거로는 관리되지 않는 모델의 감소, 완전한 AI 인벤토리, 그리고 적대적 입력 환경에서 에이전트의 행동을 정기적으로 테스트하는 사례를 들 수 있다. 은행들이 자율적 행동을 추적하고 되돌릴 수 있음을 보여줄 수 있다면, 균형은 통제된 도입 쪽으로 이동할 것이다.

승인되지 않은 행동, 노출된 모델 자격 증명, 또는 설명되지 않는 변경이 증가한다면 반대 방향을 가리킬 것이다. 이는 배포 속도가 계속해서 거버넌스 역량을 앞지르고 있음을 시사한다.

세 번째 신호는 규제당국이 집중된 기술 의존성에 어떻게 대응하는지다. 많은 기관이 동일한 클라우드 제공업체, 모델 개발사, 소프트웨어 라이브러리에 의존한다. 감독당국은 하나의 공급업체 사고가 여러 기업에 영향을 미치기 전에 상관된 노출을 식별할 수 있을 만큼 충분한 정보를 확보해야 한다.

Bank of England의 향후 사이버 및 정보기술 위험 관리 관련 작업은 이 지점에서 중요할 것이다. 책임 있는 AI 도입과 제3자 감독을 다루는 국제 지침도 마찬가지다.

핵심 AI 서비스에 관한 더 상세한 보고는 금융 시스템이 공통된 장애에 대비할 역량을 강화할 것이다. 공급업체와 규제당국의 우선순위 사이에 계속 공백이 남는다면, 기관들은 완전히 파악할 수 없는 위험을 떠안게 된다.

이러한 신호는 또 하나의 헤드라인 수치보다 더 중요하다. 설문조사는 압박 요인을 파악할 수 있지만, 방어 체계가 개선되고 있는지는 운영 데이터가 결정한다. 탐지 시간, 격리 속도, 검증된 복구, 권한 적용 범위, 공급업체 집중도는 이사회가 추적해야 할 지표가 되어야 한다.

Gigamon 설문조사는 신뢰할 만한 경고를 제시했다. 금융 기업들은 보안을 자동화하는 동시에 광범위한 AI 연계 사고와 지속적인 가시성 격차를 보고하고 있다. 개별 설문조사의 정의에는 여전히 불완전한 부분이 있을 수 있지만, 규제 연구는 그 근본적인 우려를 뒷받침한다.

Google News 독자들은 AI가 은행을 무너뜨리고 있거나 구하고 있다는 가장 단순한 해석을 경계해야 한다. 더 어려운 현실은 두 과정이 동시에 일어나고 있다는 점이다. 자동화는 방어 담당자의 대응 범위를 넓히는 한편, 이들이 통제해야 할 속도, 복잡성, 연결성도 높인다.

금융기관은 이제 AI 기반 방어가 더 많은 경보와 더 빠른 조치가 아니라 더 나은 결과를 낸다는 점을 입증해야 한다. 보안 리더는 모든 새로운 자율 시스템에 하나의 구체적인 질문을 던져야 한다. 조직은 그것이 수행하는 일을 볼 수 있고, 제한할 수 있으며, 설명하고 되돌릴 수 있는가?