Anthropic은 프롬프트 인젝션이 거의 해결됐다고 말하지만, ‘제로’에는 맥락이 필요하다
Anthropic은 최신 방어 체계로 성공적인 프롬프트 인젝션 공격을 거의 0에 가깝게 줄였다고 밝혔다. 이는 많은 연구자가 AI 에이전트의 근본적 위험으로 여겨온 문제에 도전하는 주장이다.
Claude Code를 이끄는 Boris Cherny는 이러한 변화가 주로 더 강력해진 모델 학습 덕분이라고 설명했다. 그는 다층 보호 장치가 측정된 성공률을 한층 더 낮췄다고 말했다. 여기에는 프롬프트 인젝션 탐지기와, 도구 작업을 진행 전에 분류하는 Claude Code의 자동 모드가 포함된다.
이 주장이 중요한 이유는 프롬프트 인젝션이 에이전트의 웹 탐색, 리포지터리 읽기, 이메일 처리, 연결된 도구 운영을 얼마나 안전하게 수행할 수 있는지를 제한해 왔기 때문이다. OpenAI는 이 문제를 온라인 사기와 비슷한 것으로 설명하며 완전히 사라질 가능성은 낮다고 밝혔다. Anthropic은 최신 평가에서 이례적으로 낮은 결과를 근거로 더 낙관적인 답을 내놓고 있다.
하지만 관측된 공격 성공률이 0이라는 사실이 보편적 면역성을 입증하는 것은 아니다. 이는 정의된 공격 집합, 환경, 도구, 채점 규칙에 대한 성능을 의미한다. 새로운 공격, 더 넓은 권한, 또는 다른 배포 설정에서는 결과가 달라질 수 있다.
Anthropic이 자동 모드를 Claude Code의 표준 경험으로 만들면서 이 구분은 더욱 중요해질 것이다. 회사는 주요 보안 개선을 주장하는 바로 그 시점에, 보수적인 권한 요청 방식에서 자동화된 판단으로 이동하고 있다.
Anthropic의 프롬프트 인젝션 주장은 다층 테스트에 기반한다
중요한 변화는 Anthropic이 또 하나의 필터를 추가했다는 점이 아니다. 필터가 개입하기 전부터 기반 모델 자체가 조작에 상당히 더 강해진 것으로 보인다.
프롬프트 인젝션은 신뢰할 수 없는 콘텐츠에 사용자 대신 AI를 겨냥한 지시가 포함될 때 발생한다. 에이전트는 웹페이지, 리포지터리, 도구 응답, 이미지 또는 다운로드한 문서에서 이런 지시를 마주할 수 있다.
이 공격이 가능한 이유는 에이전트가 작업 맥락 안에서 신뢰된 명령과 신뢰되지 않은 데이터를 모두 해석해야 하기 때문이다. 악성 문서는 지시를 흉내 내어 에이전트에게 작업을 무시하거나, 정보를 공개하거나, 위험한 도구를 호출하라고 요구할 수 있다.
Cherny의 다층 방어 주장은 세 가지 별도 보호 장치를 가리킨다. 첫 번째는 모델 정렬로, Claude가 사용자의 목표와 외부 콘텐츠에 삽입된 명령을 구분하도록 가르치는 학습을 뜻한다.
두 번째 계층은 프롬프트 인젝션 탐지기다. 이 서버 측 보호 장치는 도구가 반환한 자료가 에이전트의 맥락에 들어가기 전에 이를 검사한다. 파일, 셸 출력, 웹사이트 또는 외부 서비스에 숨겨진 의심스러운 지시를 표시할 수 있다.
세 번째 계층은 자동 모드의 의도 분류기다. 자동 모드는 Claude에 무제한 권한을 부여하지 않는다. 제안된 작업을 평가하고 파괴적이거나, 되돌릴 수 없거나, 의도된 환경을 벗어나는 것으로 분류된 활동을 차단한다.
Anthropic이 공개한 결과는 각 계층이 서로 다른 실패 지점을 다룬다는 점을 시사한다. 학습은 모델이 적대적 지시를 따를 가능성을 줄인다. 탐지기는 모델이 이에 따라 행동하기 전에 적대적 콘텐츠를 식별하려 한다. 작업 분류기는 모델이 영향을 받은 뒤 공격자가 달성할 수 있는 일을 제한한다.
이러한 분리는 중요하다. 탐지기는 교묘하게 위장된 콘텐츠를 놓칠 수 있고, 정렬된 모델도 모호한 지시를 오해할 수 있다. 도구 분류기는 그 결과로 이어지는 작업을 막을 또 한 번의 기회를 제공한다.
Anthropic은 이전에 브라우저 인젝션 방어에 관한 연구에서 이 전략을 설명했다. 학습 과정에서 Claude는 악성 지시가 포함된 시뮬레이션 웹페이지를 접한다. 모델은 이러한 지시를 식별하고 거부하면서도 정당한 작업을 계속 수행할 때 보상을 받는다.
이 학습 목표는 모델이 명백히 악의적인 텍스트를 거부하도록 가르치는 것보다 어렵다. 유용한 브라우저 에이전트는 여전히 정당한 사이트의 지시를 읽고, 사용자가 제공한 절차를 따르며, 익숙하지 않은 인터페이스와 상호작용해야 한다. 지나친 경계는 보안을 강화할 수 있지만 효과성을 떨어뜨릴 수 있다.
새로운 결과는 Anthropic이 보안성과 유용성 간의 균형을 개선했음을 시사한다. 모든 가능한 인젝션이 제거됐다는 뜻은 아니다.
거의 0에 가까운 결과에는 하나 이상의 숫자가 있다
“대략 0”이라는 표현은 여러 평가 설정을 결합한 것이며, 이 설정들을 완전한 보안의 상호 교환 가능한 증거로 취급해서는 안 된다.
Claude Opus 5 시스템 카드에 따르면, 이 모델은 브라우저 및 컴퓨터 사용 환경에서 간접 프롬프트 인젝션을 상대로 평가됐다. 간접 공격은 사용자의 직접 요청이 아니라 에이전트가 가져오는 콘텐츠에 악성 지시를 삽입한다.
시스템 카드 결과의 요약에 따르면, 프롬프트 인젝션 탐지기를 추가하면 테스트된 두 구성에서 공격 성공률이 0.18%로 낮아졌다. 또 다른 브라우저 평가는 학습에 사용되지 않은 129개 환경을 다룬 것으로 전해진다.
자동 모드를 스택에 추가했을 때, 평가된 브라우저 시나리오 전반에서 성공한 공격은 없었다. 이것이 관측된 비율을 대략 0이라고 표현하는 근거다. 특히 공격이 이전에 보지 못한 환경을 겨냥했다는 점에서 주목할 만한 테스트 결과다.
그러나 성공 사례가 0건이라는 것과 근본 위험이 0이라는 것은 서로 다른 주장이다. 벤치마크에서 성공한 공격이 기록되지 않으면, 해당 표본 내에서 상한을 설정할 수 있다. 이는 모든 미래 공격에 걸친 실제 비율이 정확히 0임을 입증할 수 없다.
분모도 중요하다. 수백 또는 수천 건의 시도에 대해 테스트한 시스템은 소규모 집합만 테스트한 시스템보다 더 강한 증거를 제공한다. 동일한 환경에 대한 반복 공격이 배포 후 나타나는 공격의 다양성을 반드시 대표하는 것도 아니다.
평가의 위협 모델도 마찬가지로 중요하다. 쇼핑 작업을 변경하도록 설계된 브라우저 공격은 소스 주석에 명령을 숨긴 리포지터리 공격과 다르다. 둘 다 간접 프롬프트 인젝션에 해당하지만, 노출되는 도구, 권한, 피해 기회는 서로 다르다.
독립 연구도 이러한 신중함을 뒷받침한다. LivePI 벤치마크는 웹페이지, 파일, 리포지터리, 이메일, 그룹 채팅 콘텐츠를 포함한 실제 운영과 유사한 워크플로에서 에이전트를 테스트한다. 저자들은 테스트 구성에서 5개 최전선 시스템 전체의 총 공격 성공률이 10.7%에서 29.6% 사이였다고 보고했다.
이러한 현실적 에이전트 테스트는 Anthropic의 수치와 직접 모순되지 않는다. 서로 다른 모델, 하니스, 공격, 권한, 채점 기준을 사용하기 때문이다. 대신 벤치마크에 따라 측정된 보안 수준이 얼마나 크게 달라질 수 있는지를 보여준다.
NetInjectBench는 좁은 결론에 대한 또 다른 경고를 제공한다. 네트워크 운영 시나리오에서 신뢰할 수 없는 아티팩트와 신뢰된 정책 메타데이터를 분리하고, 안전하지 않은 도구 사용을 측정한다. 단순 실행은 240개 공격 사례에서 82.5%의 안전하지 않은 작업 비율을 보였다.
이 네트워크 에이전트 벤치마크는 Claude Code의 정확한 프로덕션 스택이 아니라 특수한 환경을 겨냥한다. 그럼에도 영향력 있는 도구를 가진 에이전트에는 모델의 거부 행동을 넘어서는 시스템 수준 제어가 필요한 이유를 보여준다.
따라서 Anthropic의 가장 강력한 증거는 비교적 성격의 것이다. Opus 5는 Anthropic의 평가에서 이전 Claude 모델보다 상당히 더 높은 저항성을 보이는 것으로 나타난다. 회사는 탐지기와 작업 분류기가 남은 실패 사례도 추가로 줄인다고 보고한다.
이는 의미 있는 진전이라는 주장을 뒷받침한다. 하지만 고영향 워크플로에서 격리, 접근 제어, 감사 로그 또는 사람의 검토를 제거해도 된다는 주장을 뒷받침하지는 않는다.
Claude의 프롬프트 인젝션 방어는 학습에서 시작된다
핵심 기술적 변화는 Anthropic이 프롬프트 인젝션 저항성을 단지 경계 보안 문제가 아니라 학습된 모델 역량으로 취급하기로 한 결정이다.
초기 방어책은 흔히 에이전트와 에이전트가 소비하는 콘텐츠 사이에 필터를 배치했다. 이 필터는 명백한 문구, 인코딩된 지시, 의심스러운 형식 또는 알려진 공격 패턴을 찾았다.
이 접근법은 이메일 스팸 필터와 닮았다. 익숙한 공격에는 잘 작동하지만, 공격자가 표현을 바꾸거나 여러 페이지에 지시를 분산하거나 정당한 데이터 안에 의도를 숨기면 실패할 수 있다.
OpenAI는 이 한계를 직접 제기했다. 에이전트 보안 설계에 관한 연구는 고도화된 공격이 점점 사회공학과 비슷해지고 있다고 설명한다. 이전 지시를 무시하라는 명백한 명령을 제시하기보다, 에이전트의 추론을 조작하는 그럴듯한 이야기를 만든다는 것이다.
탐지기는 텍스트가 데이터인지, 정당한 절차인지, 공격인지 판단해야 한다. 이 범주는 겹칠 수 있다. 리포지터리는 개발자에게 설정 명령 실행을 올바르게 지시할 수 있는 반면, 손상된 의존성은 악성 파일에 거의 동일한 지시를 넣을 수 있다.
모델 수준의 학습은 에이전트에 또 다른 맥락의 원천을 제공한다. Claude는 지시가 사용자가 밝힌 목표를 뒷받침하는지, 그 출처에 권한이 있는지, 이를 따르려면 설명되지 않은 계획 변경이 필요한지를 평가할 수 있다.
Anthropic은 이러한 지시 계층과 정렬 작업을 모델 방어의 일부라고 부른다. 모델은 환경에서 가져온 콘텐츠가 사용자나 시스템의 권한을 자동으로 승계해서는 안 된다는 점을 학습한다.
이 관점은 프롬프트 인젝션에 대한 흔한 설명인 역할 혼동을 다룬다. 언어 모델은 지시 속 단어를 이해하면서도 누가 이를 발행할 자격이 있는지 식별하지 못할 수 있다.
최근 연구는 모델이 서로 다른 지시 뒤의 화자를 어떻게 표현하는지 측정해 이 이론을 시험했다. 한 연구는 사용자 프롬프트나 도구 출력에 삽입된 위장된 추론이 여러 시스템에서 높은 공격 성공률을 만들어낼 수 있음을 발견했다.
학습은 모델을 적대적 예시에 노출해 이러한 혼동을 줄일 수 있다. Anthropic은 유용한 정보와 악성 지시가 섞인 시뮬레이션 콘텐츠를 만들고, 의도된 작업을 안전하게 완료한 모델에 보상한다.
장점은 일반화다. 탐지기가 정확한 문구를 본 적이 없더라도, 모델은 새로운 공격과 사용자의 목표 사이의 관계를 통해 이를 인식할 가능성이 있다.
한계는 학습 데이터가 모든 미래 환경을 대표할 수 없다는 점이다. 공격은 이례적인 도구, 개별적으로는 무해한 요청의 긴 연쇄, 또는 악성 행위를 정당하게 보이게 만드는 맥락적 세부 사항을 악용할 수 있다.
공격자는 배포된 모델을 상대로 최적화할 수도 있다. 어떤 패턴이 거부를 유발하는지 알게 되면, 유해한 의도는 유지하면서 그 패턴을 피하는 입력을 찾을 수 있다.
더 강력한 모델에도 불구하고 Anthropic이 여전히 탐지기와 분류기를 사용하는 이유가 여기에 있다. 회사의 아키텍처는 모든 계층이 실패할 수 있다고 가정한다.
개발자에게 이것이 Anthropic의 프롬프트 인젝션 결과에서 가장 널리 적용할 수 있는 교훈이다. 학습은 더 강한 토대를 제공하지만, 안전한 배포는 여전히 주변 시스템에 달려 있다.
코딩 에이전트에는 작업에 필요한 자격 증명, 네트워크 접근, 파일 시스템 권한만 제공해야 한다. 팀은 신뢰할 수 없는 입력을 실행 가능한 지시와 분리하고, 중요한 도구 호출을 기록해야 한다.
이 원칙은 에이전트가 기업의 기술 지식 베이스를 검색할 때도 적용된다. 검색된 문서는 에이전트의 작업을 개선할 수 있지만, 검색 경로는 공격자가 영향을 미칠 수 있는 콘텐츠도 확장한다.
자동 모드는 보안 주장을 제품 전략으로 전환한다
Anthropic은 강화된 방어 체계를 활용해 권한 확인 과정의 마찰을 줄이고, 보안 성과를 Claude Code의 핵심 제품 설계에 포함하고 있다.
Claude Code는 전통적으로 많은 명령을 실행하거나 파일을 수정하거나 더 광범위한 영향을 미칠 수 있는 작업을 수행하기 전에 확인을 요청한다. 이러한 프롬프트는 사람이 과정에 참여하도록 하지만, 장시간 작업을 중단시키기도 한다.
일부 개발자는 광범위한 권한을 부여하거나 반복 확인을 우회하는 구성을 사용한다. 이 선택은 생산성을 높이는 대신, 조작된 에이전트와 주변 시스템 사이의 경계를 약화시킨다.
Auto mode는 Anthropic이 제안하는 중간 경로다. 각 작업을 수동 응답 없이 진행할 수 있는지 판단하는 분류기를 통해 작업을 처리한다.
Anthropic의 auto mode architecture는 여러 지점의 제어 장치를 설명한다. 서버 측 프로브는 도구 출력을 검사해 인젝션 시도를 탐지한다. 별도의 분류기는 제안된 작업을 검토하고 안전하지 않다고 판단되는 작업을 차단한다.
이 분류기는 고정된 명령 목록이 아니라 의도에 초점을 맞춘다. 생성된 임시 파일 하나를 삭제하는 것은 합리적일 수 있지만, 대규모 프로젝트 디렉터리를 삭제하려 하면 차단이 이뤄져야 한다. 익숙하지 않은 엔드포인트로 데이터를 전송하는 일은 공개 문서를 가져오는 일과는 다른 위험을 제시한다.
시스템이 작업을 차단하면 Claude는 더 안전한 접근 방식을 시도할 수 있다. 반복 시도나 불확실한 경우에는 제어권이 사용자에게 돌아갈 수 있다.
이 구조는 편의성을 무제한 접근과 동일시하지 않으면서 중단을 줄인다. 동시에 새로운 의존성도 만든다. 개발자는 작업과 명령 모두에 대한 분류기의 해석을 신뢰해야 한다.
명백한 위험은 거짓 음성이다. 악의적인 지시가, 예를 들어 일상적인 요청을 보내기 전에 구성 파일을 읽는 것처럼 개별적으로는 평범해 보이는 작업을 유발할 수 있다.
거짓 양성은 더 조용한 문제를 만든다. Auto mode가 정당한 작업을 너무 자주 차단하면 개발자는 작업을 끝내기 위해 안전장치를 비활성화할 수 있다. 정상 작업을 반복적으로 방해하는 보안 통제는 더 위험한 행동을 부추길 수 있다.
Anthropic이 Auto mode를 기본으로 활성화하기로 한 결정은 어떤 출시 전 벤치마크보다 훨씬 큰 시험대를 제공할 것이다. 개발자들은 특이한 빌드 시스템, 내부 명령줄 도구, 원격 서비스, 복잡한 자동화가 포함된 리포지토리를 사용한다.
이러한 다양성은 분류기가 Anthropic이 정제한 환경 밖에서도 정확성을 유지하는지 보여줄 것이다. 또한 프롬프트 인젝션 프로브가 플러그인, model context protocol 서버, 패키지 관리자, 이슈 트래커, 생성된 빌드 로그의 콘텐츠를 처리하는 방식도 드러낼 것이다.
이 제품 전략은 Claude Code를 넘어선다. 브라우저 에이전트, 리서치 어시스턴트, 엔터프라이즈 워크플로 도구 모두 자율성과 승인 사이에서 비슷한 균형 문제에 직면한다.
모든 단계에서 권한을 요청하는 에이전트는 상당한 작업을 무인으로 완료할 수 없다. 광범위하고 지속적인 권한을 가진 에이전트는 한 번의 성공적인 인젝션으로 데이터 탈취나 파괴적 작업으로 이어질 수 있다.
Auto mode는 모든 일상 작업에서의 사람 검토를 실질적 위험이 따르는 더 작은 작업 집합으로 옮기려 한다. 이것이 대규모로 작동한다면 다른 에이전트 공급업체도 유사한 자동화를 제공해야 한다는 압력을 받게 될 것이다.
눈에 띄게 실패한다면, 빈번한 권한 프롬프트는 필요한 보안 경계로 다시 돌아올 수 있다.
Anthropic과 OpenAI는 이제 위험을 다르게 규정한다
Anthropic의 결과는 프롬프트 인젝션에 대한 비관적 관점에 도전하지만, OpenAI의 입장은 고정된 벤치마크 너머의 불확실성을 더 잘 포착한다.
OpenAI는 프롬프트 인젝션을 사기와 사회공학에 비유해 왔다. OpenAI의 공개 가이드는 공격자가 배포된 방어 체계에 지속적으로 적응하기 때문에 이 문제가 완전히 해결될 가능성은 낮다고 말한다.
그렇다고 모델 학습이 효과 없다는 뜻은 아니다. OpenAI 역시 특화된 학습, 자동화된 모니터, 사용자 확인, 네트워크 제한, 민감한 맥락을 위한 감독을 사용한다.
견해 차이는 “해결됐다”는 말이 무엇을 의미해야 하는지에 관한 것이다. Anthropic은 여러 방어 체계를 결합한 뒤 측정된 공격 저항성을 강조한다. OpenAI는 공격자와 배포된 에이전트 사이의 열린 경쟁을 강조한다.
두 입장은 각자의 의도된 범위 안에서 모두 사실일 수 있다. Anthropic은 어려운 평가에서 관측된 성공 사례를 0건으로 만들 수 있지만, 프롬프트 인젝션은 여전히 해결되지 않은 보안 범주로 남을 수 있다.
이 구분은 전통적인 소프트웨어 보안과 닮았다. 제품은 침투 테스트를 통과하면서도 무적이 되지는 않는다. 테스트는 알려진 위협과 시험된 공격 표면에 대한 증거를 제공할 뿐, 미래의 모든 익스플로잇을 다루지는 않는다.
프롬프트 인젝션은 정당한 콘텐츠와 악의적인 콘텐츠가 자연어라는 동일한 인터페이스를 사용하기 때문에 특히 어렵다. 에이전트가 무엇을 할지 결정하려면 텍스트를 해석해야 하므로, 실행 코드와 일반 텍스트를 구분하는 것에 해당하는 단순한 방법은 없다.
공격자는 방어 스택을 통과하는 경로 하나만 찾으면 된다. 모델, 프로브, 분류기, 권한 시스템, 연결된 서비스, 인간 운영자는 각각 결과에 기여한다.
Anthropic의 스택은 공격을 막을 여러 기회를 제공한다. 동시에 상호작용을 함께 시험해야 하는 여러 구성요소도 만들어 낸다.
예를 들어 모델이 의심스러운 콘텐츠를 올바르게 표시하더라도, 이후 악의적인 지시를 보존하는 방식으로 이를 요약할 수 있다. 분류기는 직접적인 데이터 전송을 차단하면서도 같은 결과를 달성하는 여러 정상적으로 보이는 단계를 허용할 수 있다.
공격은 모델이 아니라 사용자를 겨냥할 수도 있다. 손상된 페이지가 오해를 부르는 설명을 사용해 에이전트가 승인을 요청하도록 설득할 수 있다. 그러면 사용자는 공격 경로의 일부가 된다.
벤치마크는 모든 조직적 조건을 거의 포착하지 못한다. 엔터프라이즈 배포 환경에는 공유 자격 증명, 맞춤형 도구, 오래된 리포지토리, 내부 프록시, 일관되지 않은 권한 정책, 서로 다른 수준의 보안 인식을 가진 사용자가 포함된다.
그래서 헤드라인은 “제거됐다”가 아니라 “거의 해결됐다”로 유지돼야 한다. Anthropic은 시험 조건에서 크게 감소했다는 증거를 공개했다. 실제 환경에서의 보증에는 독립적인 재현과 지속적인 배포 데이터가 필요하다.
신뢰할 수 있는 Claude 프롬프트 인젝션 방어는 공격 저항성과 함께 유용성도 보고해야 한다. 익숙하지 않은 작업을 거부하는 시스템은 뛰어난 보안 점수를 얻을 수 있지만, 에이전트로서는 실패할 수 있다.
Anthropic의 공개 연구는 이러한 균형을 인정하지만, 워크로드 전반의 상세한 비교도 여전히 중요하다. 구매자는 안전장치가 공격을 얼마나 자주 막는지뿐 아니라 안전한 작업을 얼마나 자주 차단하는지도 알아야 한다.
Anthropic이 Auto mode를 기본값으로 만들며 주목할 점
다음 증거는 배포, 독립 테스트, 그리고 방어 체계가 공개된 뒤 설계된 공격에 대한 Anthropic의 대응에서 나올 것이다.
첫 번째 신호는 Auto mode의 기본 롤아웃이다. Anthropic이 이를 모델, 계정 유형, 환경 또는 조직 정책에 따라 제한하는지 지켜봐야 한다. 신중한 롤아웃은 회사가 배포 설정 간에 여전히 의미 있는 차이가 있다고 본다는 의미일 것이다.
사용자에게 표시되는 차단 비율도 주목해야 한다. 거부가 빈번하다면 분류기가 정상 활동을 제한하는 방식으로 안전성을 일부 유지하고 있음을 시사한다. 거부가 매우 적다면 좋은 보정일 수도, 충분하지 않은 주의일 수도 있다.
두 번째 신호는 완전한 Claude Code 스택을 대상으로 한 독립적 적응형 테스트다. 기존 공개 벤치마크는 유용한 기준선을 제공하지만, 다수는 Opus 5, 프로브, Auto mode, 도구, 권한으로 구성된 Anthropic의 정확한 조합을 재현하지 않는다.
가장 강력한 독립 테스트는 연구자들이 공개된 시스템을 분석한 뒤 만든 공격을 사용할 것이다. 여기에는 오염된 리포지토리, 기만적인 도구 출력, 이미지 기반 지시, 다단계 유출, 장기 세션 전반에 분산된 공격이 포함돼야 한다.
연구자들은 공격 성공률과 작업 완료율을 모두 보고해야 한다. 에이전트가 어떤 접근 권한을 받았는지, 어떤 안전장치가 활성화됐는지, 학습 중 해당 공격이 알려져 있었는지를 문서화해야 한다.
이러한 조건에서 0건이라는 결과가 나온다면 Anthropic의 주장을 강화할 것이다. 성공적인 적응형 공격이 진전을 지우지는 않겠지만, 현재 방어 체계의 경계를 규정하게 될 것이다.
세 번째 신호는 회사가 실제 사고를 얼마나 신속하게 처리하는지다. 프롬프트 인젝션 방어는 일회성 모델 특성이 아니다. 이는 탐지, 조사, 업데이트된 학습, 새로운 안전장치의 신속한 배포를 포함하는 운영 프로세스다.
Anthropic은 고객이 영향을 받은 표면을 이해할 수 있도록 충분한 사고 정보를 공개해야 한다. 보안팀은 실패가 모델, 프로브, 작업 분류기, 권한 규칙, 연결된 도구 중 어디에서 비롯됐는지 알아야 한다.
개발자들은 그러한 증거가 나오기를 기다렸다가 기본적인 예방조치를 도입해서는 안 된다. 가능하다면 자율형 코딩 에이전트를 격리된 환경에서 실행하라. 시크릿, 네트워크 대상, 프로덕션 자격 증명을 제한하라. 배포 전에 변경 사항을 검토하고 파괴적 작업은 복구 가능하게 유지하라.
리포지토리 텍스트, 도구 출력, 다운로드한 파일은 익숙해 보여도 신뢰할 수 없는 것으로 취급하라. 오염된 의존성이나 복사한 지원 응답에는 어떤 개발자도 의도적으로 승인하지 않은 지시가 담길 수 있다.
가장 중요한 점은 Anthropic의 근사치 0을 에이전트에 무제한 권한을 부여해도 된다는 허가로 해석하지 않는 것이다. 이를 지속적인 수동 승인 없이도 계층형 방어가 심각한 위험을 줄일 수 있다는 증거로 해석해야 한다.
이는 의미 있는 변화다. 남은 질문은 이것이 수백만 개의 리포지토리, 새로운 공격 전략, 그리고 감독 없이도 Auto mode가 계속 작동하기를 기대하는 개발자들과 맞닥뜨린 뒤에도 유지되는지다.
Anthropic은 이 논의를 위한 측정 가능한 기준을 제시했다. 이제 독립 연구자와 실제 사용자들이 이를 시험해야 한다. 결과가 유지된다면 프롬프트 인젝션은 피할 수 없는 장벽이라기보다 관리 가능한 보안 문제로 보이게 될 것이다. 그렇지 않다면 실패는 다음 방어 계층이 어디에 추가돼야 하는지를 보여줄 것이다.



