Anthropic Claude의 자기 개선은 가속되고 있지만, 목적지는 여전히 인간이 정한다

6일 전

12분 분량

Anthropic은 Claude가 현재 자사의 모델 연구개발 업무 중 26%를 주도하고 있다고 밝혔다. 2026년 2월에는 해당 업무를 전혀 주도하지 않았다는 점을 고려하면 큰 폭의 상승이다. 이 같은 급격한 변화는 Anthropic Claude의 자기 개선이 단순히 도발적인 구호에 그치지 않음을 보여준다. Anthropic은 인간이 여전히 작업을 감독하지만, 자사 모델이 고수준 프롬프트만으로도 대규모 과제를 완수할 수 있다고 설명한다.

이 공개는 익숙한 코딩 트렌드를 더 중대한 영역으로 확장한다. Claude는 더 이상 엔지니어의 애플리케이션 개발을 돕는 데만 머물지 않는다. 미래의 Claude 모델 개발에 활용되는 인프라를 작성하고, 실험을 수행하며, 결과를 분석하고, 변경 사항을 검토하는 역할을 점점 더 많이 맡고 있다.

Anthropic은 이를 AI 시스템이 더 유능한 후속 모델 구축에 기여하는 재귀적 자기 개선을 향한 진전이라고 부른다. 다만 그 근거는 남아 있는 장벽도 드러낸다. Claude는 정의된 작업을 빠르게 실행하지만, 어떤 문제가 중요한지와 결과가 신뢰할 만한지를 판단하는 일은 여전히 사람이 맡는다.

이 구분은 Anthropic의 주장을 상반된 두 해석 사이에 위치시킨다. 하나는 모델 세대가 거듭될수록 가속되는 복리식 개발 루프라는 해석이다. 다른 하나는 인간이 여전히 통제하는 연구 의제 안에서 작동하는 고도화된 자동화라는 해석이다.

Anthropic Claude의 자기 개선, 이제 모델 R&D까지 확장

중요한 변화는 Claude가 코드를 작성한다는 사실이 아니다. Claude가 이제 자신의 후속 모델을 만드는 작업의 상당 부분을 주도한다는 점이다.

Anthropic은 2026년 9월 17일 26%라는 수치를 공개했다. 회사는 “주도”를 인간의 감독 아래 고수준 프롬프트에서 출발해 과업의 대부분을 완수하는 것으로 정의한다. 회사에 따르면 Claude는 2월 당시 측정된 연구개발 업무 중 어떤 것도 주도하지 않았다.

8월에는 그 비중이 약 4분의 1에 도달했다. Anthropic은 자사의 모델 연구개발 업무 약 90%가 현재 Claude와의 협업을 포함한다고도 밝혔다. 이 더 넓은 범주에서 모델은 인간의 긴밀한 지시 아래 작업의 상당 부분을 수행한다.

두 수치는 서로 다른 위임 수준을 나타낸다. 90% 수치에는 사람이 긴밀히 관여하는 작업도 포함된다. 반면 26% 수치는 Claude가 목표를 받은 뒤 실행에 더 큰 책임을 지는 과제를 뜻한다.

이 구분은 어느 수치도 Claude가 독립적으로 작동한다는 의미가 아니라는 점에서 중요하다. 모델은 Anthropic의 기업 목표를 선택하지 않으며, 자체 배포를 승인하거나 전체 학습 과정을 통제하지도 않는다. 인간 연구자는 여전히 문제를 정의하고, 자원을 배분하며, 결과를 검토하고, 중요한 결정을 승인한다.

그럼에도 보고된 변화의 속도는 이례적으로 빠르다. 초기 공개에 따르면 Claude는 6개월 만에 주도 비중 0%에서 26%로 이동했다. 현재 비율만이 아니라 이 궤적이 관심을 끄는 이유다.

Anthropic은 프런티어 모델 개발을 엔지니어링과 연구로 나눈다. 엔지니어링에는 소프트웨어 작성, 인프라 유지보수, 학습 시스템 관리가 포함된다. 연구에는 실험 선정, 결과 해석, 추가 검증이 필요한 아이디어 판단이 포함된다.

Claude는 두 범주 모두에 깊이 관여하게 됐다. 엔지니어링 과제에서 Anthropic은 사람들이 모든 구현 단계를 지시하지 않고 목표만 제시하는 경우가 늘고 있다고 설명한다. 연구 과제에서는 Claude가 명확히 정의된 실험을 수행하고 다음 조치를 제안할 수 있다.

한 구체적 사례는 일반적인 코드 완성과 위임된 엔지니어링의 차이를 보여준다. 일상적인 업그레이드가 수만 건의 학습 작업을 충돌시키기 시작했다. 한 엔지니어는 Claude에 상황 설명과 영향을 받은 클러스터에 대한 접근 권한을 제공했다.

Claude는 환경 설정을 시험하고, 잘 알려지지 않은 디버깅 플래그를 분리해냈으며, 실패를 재현하고, 수정 사항을 확인했다. Anthropic에 따르면 이 조사에는 약 2시간이 걸렸다. 회사는 인간 엔지니어라면 보통 2~3일이 필요했을 것으로 추정한다.

이는 자율적인 모델 생성은 아니다. 그럼에도 학습 인프라는 연구소가 모델을 시험하고 개선할 수 있는 속도에 직접 영향을 미치기 때문에 중요하다. 며칠 걸리던 디버깅을 몇 시간으로 단축하면 연구자는 더 많은 실험을 수행하고 실패를 바로잡을 기회를 얻는다.

따라서 회사의 연구 설명은 인간 역할의 소멸이 아니라 축소를 묘사한다. Claude는 구현과 실험을 점점 더 많이 담당하고, 사람은 방향 설정·평가·출시 결정의 권한을 유지한다.

이 경계가 핵심 긴장을 규정한다. Anthropic은 AI 개발 내부에서 빠르게 진행되는 자동화의 근거를 제시하는 한편, 그 과정이 자기 주도적으로 변하는 것을 막는 인간의 판단도 함께 기록했다.

코딩 수치가 Anthropic이 경고음을 내는 이유를 보여준다

코드 생성과 검토, 실험이 서로를 강화하기 시작하면 Claude의 기여는 더 큰 의미를 갖는다.

Anthropic에 따르면 2026년 5월 기준 Claude는 자사 코드베이스에 병합된 코드의 80% 이상을 작성했다. Claude Code가 2025년 2월 연구 프리뷰에 들어가기 전까지 이 비중은 한 자릿수 초반에 머물렀다.

회사는 엔지니어링 산출량도 크게 증가했다고 보고했다. 2026년 2분기 일반적인 엔지니어는 2024년보다 매일 8배 많은 코드를 병합했다. Anthropic은 이 증가의 상당 부분을 엔지니어들이 모든 변경 사항을 직접 입력하는 대신 Claude를 지시하고 검토하게 된 데서 찾는다.

코드 줄 수는 불완전한 생산성 지표다. 더 많은 코드는 유지보수 비용을 늘리거나, 기존 기능을 중복시키거나, 부실한 설계를 감출 수 있다. Anthropic도 8배 증가는 실제 생산성 향상을 거의 확실히 과장했을 것이라고 명시적으로 인정한다.

그러나 산출량은 회사 주장의 한 부분일 뿐이다. Anthropic은 Claude Code 세션 전반에서 개입 비율이 낮아졌다고 말한다. 엔지니어들은 1년 전보다 모델을 수정하거나, 방향을 재설정하거나, 작업을 대신 수행하는 일이 줄었다고 전해진다.

Anthropic의 가장 개방형 엔지니어링 과제에서 Claude의 보고된 성공률은 2026년 5월 76%에 이르렀다. 이는 6개월 사이 50%포인트 증가한 수치다. Claude 기반 평가기가 수정 없이 세션이 할당된 과제를 완료했는지를 판단했다.

이 방법론에는 주의가 필요하다. 내부 모델이 다른 모델을 평가한다고 해서 독립적인 평가와 같은 수준의 보장을 제공하는 것은 아니다. 과제 구성도 시간이 지나며 바뀔 수 있어 월별 성공률 비교를 복잡하게 만든다.

그럼에도 Anthropic은 2026년 동안 회사 내부에서 Claude가 작성한 코드의 품질이 사람이 작성한 코드에 근접했다고 보고한다. 직원들의 견해가 일치했던 것은 아니다. 회사는 많은 직원이 2025년 말 Claude의 코드를 더 낮게 평가했지만, 2026년 중반에는 대체로 비슷한 수준으로 보게 됐다고 밝혔다.

자동화된 검토는 이 루프에 또 다른 층을 더한다. Anthropic은 이제 Claude를 사용해 제안된 코드 변경 사항에서 결함과 보안 취약점을 점검한다. 회사의 사후 분석에 따르면, 이러한 검토는 과거 운영 장애의 원인이 된 버그 중 약 3분의 1을 발견할 수 있었을 것이다.

이로써 개발 주기의 양쪽에 AI가 배치된다. 한 Claude 세션은 코드를 작성하거나 수정하고, 다른 세션은 제안된 변경 사항을 검토한다. 인간은 결과를 살피고 이를 운영 환경에 반영할지 결정하며, 자동화된 검사 결과가 엇갈리는 경우를 조사한다.

이 패턴은 프로그래밍을 넘어선다. Anthropic은 소규모 AI 시스템을 학습시키는 코드와 관련된 최적화 과제에서 모델을 시험했다. 목표는 사전에 정해진 정확성 검사를 통과하면서 속도를 높이는 것이었다.

Anthropic에 따르면 Claude Opus 4는 2025년 5월 평균 3배의 속도 향상을 냈다. Mythos Preview라는 내부 모델은 2026년 4월까지 약 52배의 속도 향상을 달성했다. 회사는 숙련된 인간 연구자라면 보통 4배 개선에 4~8시간이 필요했다고 말한다.

이 수치들은 Anthropic이 이 추세를 단순 자동화가 아니라 가속으로 규정하는 이유를 보여준다. 더 빠른 구현은 더 많은 실험을 가능하게 한다. 더 많은 실험은 추가 증거를 만들고, 이는 이후 모델과 도구 설계에 활용될 수 있다.

이러한 주장의 주요 출처는 여전히 회사 자체 데이터다. 외부 감사 기관이 내부 과제 분류, 성공 판단, 생산성 계산을 재현한 사례는 없다. 독자는 보고된 추세를 독립적으로 확립된 진보 법칙이 아니라 의미 있는 증거로 받아들여야 한다.

이 한계에도 방향성은 쉽게 무시하기 어렵다. Claude는 코드 조각을 제안하는 단계에서 리포지터리 편집, 도구 운용, 실제 시스템 디버깅, 실험 루프 실행으로 옮겨갔다. 각 단계는 AI 개발의 또 다른 일부를 수동 실행에서 감독된 위임으로 전환한다.

진짜 병목은 실행에서 판단으로 이동하고 있다

Claude는 연구 수행 비용을 낮추고 있지만, 어떤 연구가 이루어질 가치가 있는지를 결정할 필요까지 없애지는 못했다.

Anthropic의 가장 강력한 근거는 실행에 관한 것이다. Claude에 측정 가능한 목표, 관련 도구에 대한 접근 권한, 결과를 시험할 방법을 제공하면 모델은 많은 가능한 해법을 탐색할 수 있다. 이는 연구 구현을 더 빠른 반복 과정으로 바꾼다.

더 어려운 문제는 방향 설정이다. 연구자는 역량을 발전시키고, 안전성을 개선하며, 중요한 불확실성을 해소하는 질문을 선택해야 한다. 또한 오해를 부르는 벤치마크, 오염된 평가, 좁은 조건에서만 작동하는 해법도 알아차려야 한다.

Anthropic은 연구 감각을 인간의 지속적인 강점으로 설명한다. 여기에는 가치 있는 문제를 선택하고, 어떤 증거가 신뢰할 수 있는지 판단하며, 막다른 길에 도달한 접근법을 포기하는 일이 포함된다. 이러한 선택은 전체 개발 과정을 형성한다.

회사는 Claude가 현실적인 조사 과정에서 더 나은 다음 단계를 권고할 수 있는지 시험했다. 연구자들은 이전 작업에서 인간이 비생산적인 우회를 했던 129개 시점을 선정했다. 이후 여러 Claude 모델이 다음에 무엇을 해야 하는지 제안했다.

별도의 Claude 모델이 이러한 권고를 최종 결과와 비교했다. Anthropic의 Opus 4.5는 2025년 11월 원래 인간의 선택을 51%의 사례에서 앞섰다고 전해진다. Mythos Preview는 2026년 4월 64%에 도달했다.

이 결과는 전술적 판단의 개선을 시사하지만, 독립적인 연구 주도권을 입증하지는 않는다. Anthropic은 원래 인간의 결정에 개선 여지가 있었던 시점들을 의도적으로 선택했다. 완료된 세션에 접근할 수 있는 모델도 평가자로 활용됐다.

따라서 이 실험은 Claude가 선별된 의사결정 지점을 탐색할 수 있는지를 측정한다. Claude가 연구 프로그램을 정의하거나, 더 광범위한 결과를 인식하거나, 새 모델을 언제 배포해야 하는지 결정할 수 있음을 보여주지는 않는다.

별도 프로젝트는 AI 안전성 연구에서 더 넓은 자율성을 시험했다. 여러 Claude 에이전트는 더 약한 모델이 더 강한 모델을 감독할 수 있는지 조사했다. 이들은 가설을 만들고, 실험을 수행하며, 발견을 공유하고, 접근 방식을 조정했다.

Anthropic은 두 명의 인간 연구자가 약 1주일 동안 약한 감독과 강한 감독 사이의 격차 중 약 23%를 해소했다고 밝혔다. 에이전트들은 누적 800시간의 작업과 상당한 컴퓨팅 자원을 통해 97%를 해소했다.

그러나 회사는 중요한 제약도 확인했다. 인간이 질문을 선택하고 채점 시스템을 설계했다. 결과는 운영 규모의 모델에 깔끔하게 이전되지 않았다. 이러한 단서는 인상적인 실험 루프와 자율적인 과학적 발견을 구분한다.

일상적인 Claude Code 사용에서도 같은 패턴이 나타난다. Anthropic의 사용 분석에 따르면, 일반적인 세션에서 사용자가 약 70%의 계획 결정들을 내린다. Claude는 약 80%의 실행 결정을 내린다.

이러한 분업은 “AI가 스스로를 만든다”는 표현보다 더 명확한 설명을 제공한다. 사람들은 대체로 무엇이 이루어져야 하는지를 결정한다. Claude는 파일 읽기, 코드 수정, 테스트, 명령 실행으로 이어지는 긴 과정 속에서 지시를 어떻게 수행할지 점점 더 많이 결정한다.

그럴듯하지만 잘못된 결과를 알아차릴 사람이 필요하기 때문에 도메인 전문성은 여전히 중요하다. 회계사는 회계 규칙을 이해함으로써 조정 스크립트를 지휘할 수 있다. 인프라 엔지니어는 제안된 수정이 용납할 수 없는 운영 위험을 초래하는지 판단할 수 있다.

실행 비용이 낮아질수록 판단의 가치는 높아진다. 연구자들은 더 많은 실험을 감독할 수 있지만, 동시에 평가가 필요한 산출물도 더 많이 마주한다. 병목은 사라지는 것이 아니라 이동한다.

이 변화는 기술 팀이 업무를 조직하는 방식에 영향을 미친다. 코드 작성은 업무에서 차지하는 비중이 작아진다. 명세화, 검토, 시스템 설계, 검증, 책임 소재가 더 큰 비중을 차지한다.

Anthropic 자체의 채용 평가에서도 이러한 전환이 나타났다. 회사는 Claude가 일반적인 코딩 테스트를 해결하더라도 성능 엔지니어들은 여전히 어려운 디버깅과 설계 결정을 맡는다고 말한다. Anthropic의 평가 결과는 AI가 기계적인 부분을 처리할 수 있게 되면 대표성 있는 평가를 설계하기가 더 어려워진다는 점을 보여준다.

실질적인 과제는 사람들이 직접 구현을 덜 수행하게 될 때 전문성을 유지하는 것이다. 검토자는 숨겨진 오류를 포착할 만큼 충분히 이해해야 한다. 그러나 지속적인 위임은 그러한 이해를 길러 주는 실무 경험을 줄일 수 있다.

이것이 Anthropic Claude 자기개선의 아직 해결되지 않은 인간적 측면이다. 더 빠른 모델은 각 연구자가 감독할 수 있는 범위를 넓힐 수 있다. 동시에 연구 시스템 전체를 한 사람이 완전히 이해하기 어렵게 만들 수도 있다.

Anthropic의 주장은 모든 프런티어 AI 연구소에 압박을 가한다

Anthropic의 측정이 방향성 면에서 맞다면, 경쟁 연구소들은 가속 자체뿐 아니라 그 주변의 투명성까지 맞춰야 한다.

OpenAI, Google DeepMind, Meta 및 다른 프런티어 개발사들은 내부적으로 AI 코딩 도구를 사용한다. 정확한 방식과 위임 수준은 다르지만, 모두 같은 경쟁 유인에 직면해 있다. 더 유용한 실험을 수행하는 연구소는 모델을 더 빠르게 개선할 수 있다.

Claude의 보고된 기여는 Anthropic에 잠재적인 피드백 우위를 제공한다. 더 나은 모델은 더 많은 엔지니어링 작업을 수행한다. 그 작업은 인프라와 실험을 개선하고, 이는 다음 모델을 만드는 데 도움이 된다.

이 과정은 경쟁적으로 의미를 가지기 위해 완전한 자율성을 갖출 필요가 없다. 인간 연구자들이 목표를 계속 선택하는 동안 AI가 실행 역량을 증폭할 수 있다. Anthropic은 완전히 폐쇄된 자기개선 루프가 없더라도 이를 복리식 가속이라고 부른다.

이러한 역학은 경쟁사들이 에이전트를 더 공격적으로 배포하도록 압박한다. 다른 회사가 더 많은 아이디어를 시험하고, 인프라를 더 빠르게 복구하며, 모델 세대 간 시간을 단축할 수 있는 상황에서 완벽한 신뢰성을 기다리는 데에는 기회비용이 따른다.

그 결과로 나타나는 경쟁은 거버넌스 문제를 만든다. 각 연구소는 모델 개발이 얼마나 자동화되었는지를 보여주는 내부 증거를 통제한다. 외부인은 기업 간 “협업”, “리더십”, 작업 성공, 코드 품질 또는 연구자 생산성을 쉽게 비교할 수 없다.

Anthropic은 다른 개발사들에게 비교 가능한 측정치를 공개하라고 촉구해 왔다. 공통된 방법론이 연구소들이 재귀적 자기개선에 얼마나 가까워졌는지 대중이 이해하는 데 도움이 될 것이라고 주장한다. 정기적인 보고는 현재의 성장 곡선이 지속되는지 또는 완만해지는지도 드러낼 수 있다.

보도된 발표는 Anthropic 경영진이 프런티어 개발의 속도를 늦춰야 한다고 촉구하던 시기에 나왔다. 이 조합은 피할 수 없는 모순을 만든다.

Anthropic은 가속이 통제하기 어려워질 수 있다고 경고하면서도 Claude로 자체 연구를 가속하고 있다. 경쟁 압력은 회사가 단순히 이 기술의 사용을 중단하지 않는 이유를 설명하는 데 도움이 된다.

일방적인 자제는 전반적인 분야의 속도를 늦추지 못한 채 신중한 연구소만 뒤처지게 할 수 있다. 조율된 기준은 그러한 불이익을 줄일 수 있지만, 서로 다른 경제적·전략적 이해관계를 가진 기업과 정부 간 합의가 필요하다.

따라서 이 공개에는 여러 목적이 있다. 대중에게 정보를 제공하고, Anthropic의 안전성 주장을 강화하며, Claude의 역량을 홍보한다. 이 목표들은 공존할 수 있지만, 독자들은 각각을 인식해야 한다.

경쟁사들도 Anthropic의 프레임에 이의를 제기할 이유가 있다. AI가 작성한 코드의 높은 비중은 모델 지능을 직접 측정하지 않는다. 코드 양은 Claude가 가치 있는 연구 아이디어를 처음 제시했는지, 아니면 상세한 명세를 구현했을 뿐인지를 거의 말해주지 않는다.

연구소마다 업무를 다르게 분류할 수 있다. 한 회사는 에이전트가 주도한 디버깅 세션을 연구 리더십으로 분류할 수 있다. 다른 회사는 같은 작업을 인간 연구자가 사용하는 엔지니어링 도구로 집계할 수 있다.

공유된 측정 기준은 계획, 실행, 검증, 승인 권한을 분리해야 한다. 또한 독립적인 감사가 필요하다. 이러한 통제가 없다면, 기업들은 비교가 불가능한 인상적인 비율을 공개할 수 있다.

더 광범위한 압력은 모델 연구소를 넘어선다. 기업 엔지니어링 리더들은 Anthropic의 내부 워크플로가 자신들에게도 적용되는지 물을 것이다. 많은 조직이 코딩 에이전트를 리포지터리, 테스트, 배포 도구, 운영 데이터와 연결하는 유사한 시스템을 추진할 것이다.

그 답은 검증 품질에 달려 있다. Anthropic은 모델을 개발하고 이례적인 실패를 검토할 수 있는 전문가들을 고용한다. 비슷한 전문성이 없는 기업은 코드 평가 능력을 개선하는 속도보다 더 빠르게 코드 생산을 자동화할 수 있다.

따라서 AI 생성 산출물은 조직 간 격차를 넓힐 수 있다. 강력한 테스트, 문서화, 관측 가능성, 검토 관행을 갖춘 팀은 더 안전하게 위임할 수 있다. 기반이 약한 팀은 더 빠른 속도로 오류를 만들어 낼 위험이 있다.

검색 가능한 조직 맥락이 중요한 이유도 여기에 있다. 에이전트는 요구사항, 과거 결정, 기술적 제약에 접근할 수 있어야 한다. 잘 관리되는 AI 지식 기반은 위임된 업무를 둘러싼 추론을 사람들이 검토하는 데 도움이 될 수 있지만, 기술적 검증을 대체할 수는 없다.

기업 구매자에게 Anthropic의 발표는 모든 것을 자동화하라는 지시가 아니다. 이는 AI 지원 개발이 개인 단위의 제안에서 감독된 워크플로로 이동하고 있다는 증거다. 경쟁상의 핵심 질문은 조직이 얼마나 많이 위임할 수 있는지가 아니라, 얼마나 많은 책임을 검증할 수 있는지에 관한 것이다.

Anthropic의 수치가 여전히 증명하지 못하는 것

Anthropic은 빠르게 확대되는 지원을 보여주었지만, 모델이 독립적으로 후속 모델을 설계하고, 학습시키고, 승인했다는 점은 보여주지 못했다.

“스스로를 만든다”는 표현은 여러 가지 별개의 활동을 하나로 압축한다. 애플리케이션 코드를 작성하는 일은 모델 아키텍처를 선택하는 일과 다르다. 실험을 실행하는 일은 그 결과가 대규모 학습 투자에 대한 근거가 되는지 결정하는 일과 다르다.

Anthropic에 따르면 Claude는 그 범위 전반에서 의미 있는 작업을 수행한다. 그러나 사람들은 여전히 목표, 평가 기준, 인프라 접근 권한, 출시 권한을 제공한다. 이러한 통제는 현재 과정을 완전한 재귀적 자기개선으로 분류하지 못하게 한다.

측정 품질도 또 다른 우려 사항이다. 핵심 수치 대부분은 Anthropic의 내부 시스템에서 나온다. 회사가 작업 범주를 만들고, 세션을 수집했으며, Claude 기반 심사 시스템으로 많은 결과를 평가했다.

모델 심사 시스템은 대규모 데이터셋을 일관되게 처리할 수 있지만, 평가 대상 시스템의 사각지대를 물려받을 수 있다. 테스트 범위를 벗어난 유지보수, 보안 또는 아키텍처 문제를 초래했는데도 테스트가 통과했다는 이유로 세션이 성공적으로 보일 수 있다.

8배 생산량 수치 역시 검증된 경제적 가치가 아니라 병합된 코드를 측정한다. 더 많은 코드를 생성하는 엔지니어는 더 많은 문제를 해결할 수 있다. 같은 엔지니어가 더 많은 검토 작업과 유지 비용이 큰 시스템을 만들 수도 있다.

독립 연구는 Anthropic의 내부 주장을 해결하지는 않지만 유용한 맥락을 제공한다. 2026년 한 워킹 페이퍼는 Claude가 공동 작성한 780만 개의 커밋과 5,838명의 개발자 패널을 조사했다. 이 연구는 도입이 더 많은 리포지터리와 기술 전반에 걸친 작업과 연관된다고 분석했다.

이 개발자 연구는 코딩 에이전트가 사람들이 시도하는 작업의 범위를 확장할 수 있음을 시사한다. 그러나 공개 GitHub 활동은 Anthropic의 내부 모델 연구를 측정하지 않으며 재귀적 개선을 증명하지도 않는다.

신뢰성 역시 작업에 따라 다르다. 명확한 테스트가 있는 구조화된 문제는 자동화된 반복에 유리하다. 개방형 연구 질문에는 객관적 점수가 없는 경우가 많아, 그럴듯하지만 취약한 결론이 더 오래 남을 수 있다.

컴퓨팅과 물리적 인프라는 추가적인 한계를 부과한다. 더 빠른 에이전트는 더 많은 실험을 제안하고 실행할 수 있지만, 프런티어 모델을 학습하려면 칩, 에너지, 네트워킹 용량, 그리고 신중하게 관리된 데이터가 필요하다. 지능만이 유일한 희소 자원은 아니다.

산출물이 증가하면 인간 검토가 병목이 될 수 있다. Claude가 전문가들이 검토할 수 있는 속도보다 빠르게 변경 사항을 생성한다면, Anthropic은 배포 속도를 늦추거나 자동화된 평가에 더 크게 의존해야 한다.

이는 순환적 검증 문제를 만든다. Claude가 코드를 작성하고, 다른 Claude가 이를 검토하며, Claude 기반 시스템이 작업 성공 여부를 판단한다. 인간 전문가는 최종 안전장치로 남지만, 자동화된 사슬이 길어질수록 이들의 가시성은 줄어들 수 있다.

보안은 위험도를 높인다. 리포지터리, 클러스터, 명령 접근 권한을 가진 에이전트는 어려운 운영 문제를 해결할 수 있다. 같은 접근 권한은 잘못된 추론, 손상된 맥락, 조작된 지시가 초래하는 결과도 키운다.

유사한 워크플로를 도입하는 조직에는 제한된 권한, 완전한 로그, 재현 가능한 테스트, 명확한 에스컬레이션 경로가 필요하다. 또한 코드를 누가 생성했는지와 무관하게 프로덕션 변경에 책임을 지는 사람들이 필요하다.

Anthropic 자체도 Claude가 자율성의 임계점을 넘었다고 주장하지 않는다. 더 방어 가능한 주장은 그 거리가 줄어들고 있다는 것이다. 엔지니어링 실행은 고도로 자동화됐고, 연구 판단은 초기 단계이지만 제한적인 개선을 보인다.

이 주장은 과장 없이도 충분히 중요하다. 시스템이 독립적인 과학자가 되지 않더라도 AI 개발의 속도와 경제성을 바꿀 수 있다.

루프가 실제로 닫히는지 보여줄 세 가지 신호

다음 단계는 연구 리더십, 독립적 검증, 결과가 중대한 결정에 대한 인간의 통제에서 측정 가능한 변화에 달려 있다.

첫 번째 신호는 모델 연구개발 리더십에서 Claude가 차지하는 비중이다. Anthropic은 2026년 2월의 0%에서 8월의 26%로 상승했다고 보고했다. 향후 공개 자료는 이 곡선이 계속되는지, 정체되는지, 또는 반전되는지를 보여줘야 한다.

지속적인 증가는 특히 작업의 명세가 덜 구체적일 경우 복리식 가속 사례를 강화할 것이다. 정체는 구현 능력이 연구 판단보다 더 빠르게 개선됐음을 시사할 것이다. 감소는 측정 방식 변화, 더 어려운 과제, 또는 신뢰성 문제를 나타낼 수 있다.

리더십의 정의는 안정적으로 유지되어야 한다. 그렇지 않으면 더 높은 비율이 더 큰 독립성이 아니라 업무의 재분류를 반영할 수 있다. Anthropic은 엔지니어링, 실험, 해석, 전략적 계획 전반의 사례를 공개해야 한다.

두 번째 신호는 독립적인 재현이다. 외부 평가자는 민감한 모델 개발 비밀을 제공받지 않으면서도 대표적인 과제, 채점 기준, 결과에 접근할 수 있어야 한다. 연구소 간 비교 가능한 테스트는 개별 기업의 비율보다 더 많은 정보를 제공할 것이다.

재현은 과제 완료 여부뿐 아니라 시간에 따른 코드 품질도 살펴봐야 한다. 결함, 보안 문제, 유지보수 부담, 인간 개입의 빈도를 측정해야 한다. 연구 과제에서는 에이전트가 최종 결과를 보기 전에 생산적인 방향을 선택하는지도 검증해야 한다.

독립적 증거는 Anthropic의 설명을 뒷받침하거나 약화할 것이다. 서로 다른 평가자와 환경에서 유사한 결과가 나온다면 광범위한 역량 변화라는 주장을 지지할 수 있다. 큰 격차가 나타난다면 내부 워크플로 또는 평가 선택이 보고된 성과의 상당 부분을 좌우한다는 뜻일 것이다.

세 번째 신호는 Anthropic이 산출물이 증가함에 따라 인간 감독을 어떻게 다루는가다. 회사는 이미 검토가 잠재적 병목이 될 수 있다고 지적했다. 이에 대한 대응은 사람들이 의미 있는 통제권을 유지하는지, 아니면 자동화된 요약을 통해 점차 결정을 승인하게 되는지를 보여줄 것이다.

검토 요건, 접근 제어, 배포 절차, 사고 보고의 변화를 주시해야 한다. 또한 Claude가 단지 연구 목표를 구현하는 데 그치지 않고 직접 선택하기 시작하는지도 살펴봐야 한다.

진정한 루프의 완성에는 더 높은 코드 저작 비율 이상이 필요하다. Claude는 가치 있는 연구 방향을 제안하고, 신뢰할 수 있는 평가를 설계하며, 모호한 증거를 해석하고, 제한적인 인간 지침 아래 후속 모델을 개선할 수 있어야 한다.

그렇더라도 권한 부여는 역량과 별개다. 모델이 기술적으로 더 많은 연구를 지휘할 수 있게 되더라도 Anthropic은 의도적으로 인간 승인을 유지할 수 있다. 잠재적 자율성이 운영상의 자율성이 될지는 거버넌스 선택에 따라 결정된다.

개발자에게 당장의 교훈은 실용적이다. 코딩은 명세화, 오케스트레이션, 테스트, 검토 중심으로 이동하고 있다. 시스템을 깊이 이해하는 엔지니어는 에이전트의 자신감 있는 산출물이 틀린 경우를 알아차리면서 더 많은 일을 위임할 수 있다.

기업 구매자는 공급업체가 자율 작업을 주장할 때 무엇을 측정하는지 물어야 한다. 완료율만으로는 충분하지 않다. 구매자에게는 감독, 되돌림, 결함, 감사 가능성, 실패 이후의 책임에 관한 증거가 필요하다.

지식 노동자도 비슷한 전환을 맞고 있다. AI는 더 많은 실행을 수행할 수 있지만, 사람들은 여전히 신뢰할 수 있는 맥락과 중요한 결정의 기록이 필요하다. 지식 블렌딩을 위한 도구는 단지 또 하나의 답변을 생성하는 대신 사용자가 증거를 추적하도록 도울 때 유용해진다.

따라서 Anthropic Claude의 자기 개선은 제한적이지만 중요한 의미에서 실제다. Claude는 이미 이후의 Claude 모델을 만들어 내는 엔지니어링 및 실험 작업을 가속하고 있다. 회사는 독립적으로 후속 모델을 구축하는 자율 시스템을 보여주지는 않았다.

이 두 진술 사이의 간극에서 다음 장이 전개될 것이다. 리더십 비율을 추적하고, 독립적 검증을 요구하며, 누가 여전히 되돌릴 수 없는 결정을 내리는지 살펴봐야 한다. 이 세 가지 신호가 함께 움직인다면 “AI가 AI를 구축한다”는 말은 헤드라인이 아니라 운영 체계를 설명하게 될 것이다.

모든 조직이 마주한 질문은 더 이상 AI가 더 많은 일을 생산할 수 있는지가 아니다. 사람들은 그 작업을 검증하고, 이에 이의를 제기하는 데 필요한 전문성을 보존하며, 자동화된 사슬이 확장되는 가운데도 책임을 유지할 수 있는가가 문제다.