Microsoft Lazarus 백도어 연구, AI 에이전트 모델 신뢰에 의문 제기
Microsoft Research는 재훈련 없이도 10개 미만의 재프로그래밍된 뉴런으로 AI 에이전트의 기반 모델에 숨겨진 백도어를 심을 수 있다고 밝혔다. 2026년 11월 10일 공개된 Microsoft Lazarus 백도어 연구는 평가 중 정상적으로 작동한다는 사실이 모델이 운영 환경에서 신뢰받을 자격이 있음을 입증한다는 익숙한 가정에 의문을 제기한다.
이 결론에는 경계가 필요하다. 이 공격은 배포에 사용되는 저장된 모델 파라미터인 체크포인트에 대한 쓰기 권한을 요구한다. 모든 호스팅형 어시스턴트에 프롬프트만으로 침투할 수 있는 경로가 존재한다는 뜻은 아니다. 핵심 쟁점은 행동 테스트와 아티팩트 무결성의 충돌이다. 즉, 유용한 답변이 배포된 모델이 게시자가 의도한 모델 그대로임을 입증하는지에 관한 문제다.
Anthropic의 앞선 sleeper-agent 연구는 일반적인 점검을 벗어나는 조건부 행동에 대한 역사적 기준점을 제공한다. Lazarus는 모델 변조와 배포를 둘러싼 권한으로 관심을 옮긴다. 개발자와 기업 구매자에게 남는 실질적인 질문은 하나다. 소프트웨어가 모델에게 행동 권한을 부여하기 전에 누가 그 모델을 검증하는가?
Microsoft Lazarus 백도어 연구가 신뢰의 경계를 옮기다
Microsoft의 휴면 뉴런 연구는 휴면 뉴런을 거의 활성화되지 않는 내부 단위로 설명한다. 이를 재프로그래밍하면 트리거가 나타날 때 에이전트가 다르게 행동하도록 만들 수 있다. 공격자는 먼저 모델 행동을 결정하는 수치 파라미터인 모델 가중치를 변경해야 한다.
보안팀은 권한 없는 행동을 찾기 위해 결정적인 변화가 일어나는 지점을 살펴야 한다.
서비스를 테스트하는 일과 그 내용을 검증하는 일의 차이를 생각해 보자. 테스트는 선택된 조건에서 서비스가 허용 가능한 방식으로 작동하는지 묻는다. 무결성 검사는 누군가 배포된 아티팩트를 변경했는지 묻는다. 두 질문은 겹치지만, 전자에 대한 긍정적 답변이 후자를 해결할 수는 없다.
기업은 대표적인 업무를 기준으로 어시스턴트를 평가하고 응답이 유용하다고 판단할 수 있다. 이는 테스트한 업무에 관한 근거를 제공한다. 그러나 해당 어시스턴트의 기반 모델이 승인된 릴리스 절차를 거쳤는지에 대해서는 별도의 질문이 남는다. 이 두 판단을 서로 대체 가능한 것으로 취급하면 피할 수 있는 공백이 생긴다.
모델 업데이트가 겉보기 품질을 유지하는 경우에도 같은 구분이 적용된다. 익숙한 질문에 올바르게 답하는 릴리스라도 책임 있는 출처가 필요하다. 그렇지 않으면 승인 절차는 배포 전에 의심스러운 행동을 포착하는 데 의존하게 된다. 조사 대상 행동이 조건부일 때 이는 까다로운 기대다.
구매자에게 이는 안심을 주는 평가 요약의 의미를 바꾼다. 공급업체는 무엇을 테스트했는지, 어떤 아티팩트를 테스트했는지, 그리고 그 아티팩트가 운영 환경과 어떤 관계에 있는지를 설명해야 한다. 그 연결이 없다면 평가 근거는 구매자가 자신 있게 식별할 수 없는 대상을 설명할 뿐이다.
개발자에게 이 문제는 모델 이름 선택을 넘어선다. 이름은 제품군이나 릴리스 명칭을 식별한다. 배포에는 실제 아티팩트에 대한 더 정확한 기록이 필요하다. 누군가 예상치 못한 행동을 조사하거나 업데이트를 검토할 때도 이 기록은 이용 가능해야 한다.
취약점을 발견하는 일과 그 유병률을 측정하는 일 사이에도 차이가 있다. 이 연구는 배포 가정을 검토해야 할 이유를 제공한다. 침해된 기업용 에이전트의 수를 제시하지는 않는다. 책임 있는 대응은 실험실 결과를 실제 발생한 확산 사례로 제시하지 않으면서 통제를 강화해야 한다.
따라서 즉각적인 분석적 결과는 구체적이다. 모델 승인에는 행동과 관리 연속성 모두가 포함되어야 한다. 팀은 모델이 허용 가능한 수준으로 작동한다는 근거와 함께, 승인된 아티팩트가 권한 있는 경로를 통해 배포에 도달했다는 근거를 확보해야 한다.
이 요구사항이 일반적인 평가를 쓸모없게 만드는 것은 아니다. 오히려 그 역할을 더 명확히 한다. 평가는 적용 범위 안에서 행동을 평가하고, 무결성 통제는 평가 중인 시스템이 변경되었는지를 다룬다.
에이전트 운영자는 모델의 신뢰 문제를 함께 떠안는다
실질적인 영향은 에이전트가 답변을 생성한 뒤 무엇을 하도록 권한을 받았는지에 달려 있다.
AI 에이전트는 연결된 도구를 통해 모델 출력을 활용해 행동을 선택하는 소프트웨어다. 제안된 배포 환경에서 코딩 어시스턴트는 파일을 수정할 수 있고, 리서치 어시스턴트는 문서를 검색할 수 있다. 두 시스템이 동일한 기반 모델을 사용하더라도 이는 서로 다른 권한 결정이다.
기업 구매자에게 관련 질문은 어시스턴트가 일반적으로 안전한지보다 더 구체적이다. 어떤 리소스에 접근할 수 있는가? 어떤 행동에 승인이 필요한가? 업무 중 어떤 자격 증명이 사용 가능한가? 이 질문에 답해야 부정확하거나 악의적인 행동을 받아들였을 때의 결과를 파악할 수 있다.
내부 프로젝트를 검토하는 가상의 어시스턴트를 생각해 보자. 질문에 답하려면 프로젝트 문서에 접근해야 한다. 그렇다고 저장소 수정, 변경 사항 게시, 관련 없는 직원 파일 열람 권한까지 자동으로 정당화되지는 않는다. 각각의 추가 기능에는 별도의 비즈니스 근거가 필요하다.
이는 지식 워크플로에서 특히 중요하다. 검색 가능한 지식 기반은 연결된 모든 행동을 똑같이 필요하게 만들지 않고도 유용한 검색을 지원할 수 있다. 기술 자료를 읽는 일과 그 안에 설명된 시스템을 변경하는 일에는 별개의 권한 결정이 필요하다.
압박은 모델 출력과 행동을 연결하는 방식을 통제하는 애플리케이션 팀에 가해진다. 모델 공급업체는 릴리스 절차에 관한 근거를 제공할 수 있다. 그러나 생성된 지침이 터미널, 문서 편집기 또는 승인 대기열로 전달되는지를 결정하는 것은 여전히 애플리케이션이다.
보안 책임도 이러한 구분을 따라야 한다. 모델을 확보하는 팀은 그 출처를 문서화해야 한다. 통합을 담당하는 팀은 사용하는 도구를 문서화해야 한다. 운영을 책임지는 담당자는 어느 가정이 바뀌더라도 활동을 중단하는 방법을 알아야 한다.
구매자는 설명과 집행 메커니즘도 구분해야 한다. 어시스턴트에게 민감한 작업을 피하라고 지시하는 문장은 의도를 표현한다. 권한 경계는 해당 작업이 실제로 가능한지를 결정한다. 공급업체가 실제 경계를 설명할 때 조달 논의는 더 유용해진다.
그렇다고 모든 작업에 수동 검토가 필요하다는 뜻은 아니다. 검토는 결과에 집중해야 한다는 의미다. 허용된 문서를 읽는 일과 접근 정책을 변경하는 일은 서로 다른 위험을 수반한다. 승인 절차는 모든 곳에 동일한 마찰을 적용하기보다 그 차이를 반영해야 한다.
운영 로그에도 비슷한 수준의 정확성이 필요하다. 대화 기록은 어시스턴트가 무엇을 말했는지 설명하는 데 도움이 될 수 있다. 행동 기록은 주변 애플리케이션이 실제로 무엇을 실행했는지를 입증해야 한다. 생성된 응답과 최종 효과가 다를 때 조사자는 두 가지 모두를 필요로 한다.
Microsoft 에이전트 보안 논의에서 이는 모델 연구와 기업 운영을 잇는 유용한 연결고리다. 모델에 대한 신뢰는 배포에 영향을 미치지만, 배포 자체도 고유한 의무를 만든다. 조직은 권한 결정을 벤치마크 점수에 위임할 수 없다.
단기적인 대응은 이러한 결정을 식별하는 데 초점을 맞춰야 한다. 사고가 질문을 강제하기 전에 팀은 어시스턴트가 각 기능을 가진 이유를 설명할 수 있어야 한다.
Lazarus 공격 설명: 작은 수정은 다른 보안 질문이다
가중치 편집 연구는 Nemotron-Terminal-8B에서 수정된 뉴런 7개와 피팅 궤적 23개로 최소 98.8%의 트리거 성공률을 보고했다. 이는 기록된 맥락에서의 페이로드 예측을 측정한 것이지, 보편적인 엔드투엔드 침해를 의미하지는 않는다. 저자들은 선택적 정제를 수반하는 직접 편집을 설명하며, 단순화된 “훈련 없음”이라는 헤드라인에 조건을 단다.
이 메커니즘은 위험한 변조가 일상적인 기능의 명백한 저하를 반드시 초래해야 한다는 가정에 도전한다.
뉴런 수는 모델 내부 개입의 범위를 설명한다. 접근 권한 획득의 난이도, 아티팩트 전달, 또는 특정 배포 환경에서의 성공 가능성을 독립적으로 설명하지는 않는다. 이러한 질문은 헤드라인 결과와 함께 보안 평가에 포함되어야 한다.
따라서 Microsoft Lazarus 백도어 이야기는 노력의 정도에 관해 신중한 표현을 요구한다. 작은 규모의 변조도 관리 연속성에 대한 상당한 사전 침해에 의존할 수 있다. 반대로 조직은 변조의 범위가 작아 보인다는 이유만으로 이를 가볍게 여겨서는 안 된다. 규모와 권한은 별개의 속성이다.
검토자에게 유용한 질문은 변경 사항에 승인된 설명이 있는지다. 책임 주체가 없는 작은 변경은 조사가 필요하다. 정당한 업데이트에 수반되는 큰 변경도 문서화가 필요하다. 기준은 규모에 대한 직관이 아니라 권한과 근거에 관한 것이어야 한다.
같은 논리는 모델 행동에도 적용된다. 설명되지 않는 아티팩트 변경 이후에도 유용하게 작동하는 어시스턴트는 조사가 필요할 수 있다. 지속적인 유용성은 평가에 반영되어야 하지만, 조사를 끝내는 근거가 되어서는 안 된다.
Anthropic의 sleeper-agent 실험은 익숙한 역사적 기준점이다. 2024년 1월 공개된 이 연구는 훈련을 통해 조건부 백도어를 구성했으며, 표준 안전성 훈련이 이를 안정적으로 제거하지 못한다는 점을 발견했다. 이는 Lazarus를 독립적으로 검증한 것이 아니라, 숨겨진 행동으로 이어지는 다른 경로를 연구한 것이다.
이 비교가 중요한 이유는 공통된 우려와 공통된 방법을 구분하기 때문이다. 조건부 행동은 여러 연구 프로그램 전반의 조사를 촉발할 수 있다. 그렇다고 실험 절차, 가정 또는 측정 결과가 서로 대체 가능한 것은 아니다.
기업 독자에게 이 구분은 오해를 부르는 공급업체 경쟁 구도를 막아 준다. 질문은 어느 기업이 가장 우려스러운 시연을 했는지가 아니다. 유용한 비교는 각 연구가 무엇을 측정했고 어떤 배포 가정을 검증하는지에 관한 것이다.
또한 이를 접근 가능한 모델 가중치 전반에 반대하는 주장으로 확대해서는 안 된다. 배포를 평가하는 조직은 누가 해당 아티팩트를 변경할 수 있는지 식별해야 한다. 배포를 제한하는 일과 내부 쓰기 권한을 통제하는 일은 이 문제의 서로 다른 부분을 다룬다.
따라서 독점적 배포 환경도 외부에서 확보한 모델과 동일한 관리 연속성 질문에 답해야 한다. 누가 변경을 승인하는가? 운영 환경은 승인된 릴리스를 어떻게 식별하는가? 배포 후 어떤 근거가 남는가? 이러한 질문은 상업적 계약 방식과 무관하게 의미가 있다.
이 메커니즘의 더 넓은 의의는 비공식적인 안심 논리에 대한 도전이다. “여전히 작동한다”는 말은 유용성에 관한 근거다. “변경되지 않았다”는 말은 무결성에 관한 주장이다. 승인 절차는 두 주장 모두에 대해 방어 가능한 근거를 갖춰야 한다.
탐지 결과는 근거와 보증 사이에 공백을 남긴다
Lazarus 논문은 편집된 테스트 체크포인트를 91.4% 탐지했으며, 오탐률은 9.7%라고 보고합니다. 한계 섹션에서는 더 폭넓은 편집 계열 테스트와 자유 행동형 공격 평가의 필요성을 제기합니다. 이는 범위가 한정된 실험 결과일 뿐, 일반적인 안전성 인증서는 아닙니다.
탐지기가 신뢰를 얻는 이유는 AI를 사용한다는 사실이 아니라, 측정된 적용 범위와 오류율에 있습니다.
연구 결과가 구매 요건으로 제안될 때 이 구분은 중요합니다. “모델이 스캔을 통과했다”는 말에는 답하지 못한 질문이 여럿 남습니다. 스캐너는 어떤 변화를 식별하도록 설계되었는가? 적용 범위를 뒷받침하는 근거는 무엇인가? 경보가 발생하면 어떻게 되는가?
경보는 정의된 검토 절차를 시작해야 합니다. 공급업체가 악의적으로 행동했다는 사실을 자동으로 확정해서는 안 됩니다. 마찬가지로 경보가 없다고 해서 릴리스 기록의 다른 설명되지 않은 변경까지 사라져서는 안 됩니다. 탐지는 운영상 해석이 필요합니다.
유용한 비유는 문서 검토에서 찾을 수 있습니다. 불일치를 발견하면 문서 전체의 진위를 확정하지 않더라도 추가 조사를 정당화할 수 있습니다. 불일치를 찾지 못했다고 해서 모든 진술이 사실임이 입증되는 것도 아닙니다. 결론의 질은 검토 범위에 달려 있습니다.
Anthropic의 이탈 탐침 연구는 관련된 연구 관점을 제시합니다. 이 초기 단계 연구는 구성된 슬리퍼 에이전트에서 조건부 유해 행동을 예측하기 위해 내부 모델 활동을 활용하는 분류기를 검토했습니다. 이는 내부 신호를 조사할 근거가 되지만, 각 방법은 여전히 자체 검증에 대한 책임을 집니다.
이 비교는 상호 대체 가능한 주장이 아니라 신중한 실험을 장려해야 합니다. 의도적으로 구성된 모델에 대한 결과는 유망한 신호를 식별할 수 있습니다. 배포 결정에는 그 신호가 검토 중인 아티팩트 및 위협과 어떻게 관련되는지에 대한 설명이 필요합니다.
구매자는 압축된 대시보드 문구에 특히 주의해야 합니다. 녹색 상태 표시는 자동화된 점검, 분석가 검토, 검증된 릴리스 이력 간의 중요한 차이를 숨길 수 있습니다. 이 활동들은 서로 다른 형태의 증거를 만들어내므로 각자의 명칭을 유지해야 합니다.
오탐 역시 운영상의 부담을 만듭니다. 팀에는 경고를 가볍게 무시하지 않고 플래그가 지정된 아티팩트를 조사할 경로가 필요합니다. 그렇지 않으면 예외가 일상화되고 원래의 통제가 의미를 잃는 절차를 구축할 위험이 있습니다.
누락 탐지는 또 다른 문제를 만듭니다. 운영자는 깨끗한 스캔이 유일한 방어선이 되지 않도록 보완 증거가 필요합니다. 보관 이력, 권한 확인, 작업 제한은 탐지기만으로는 해결할 수 없는 질문에 답합니다.
이것이 Microsoft Lazarus 백도어 연구 결과에 필요한 회의적 관점입니다. 이 연구는 가중치 무결성을 중요하게 다뤄야 한다는 점을 뒷받침합니다. 그렇다고 새로운 스캐너가 모델 신뢰 문제를 해결했다거나, 설명되지 않는 모든 모델 행동이 숨겨진 백도어를 드러낸다고 발표할 근거가 되지는 않습니다.
신뢰할 수 있는 보증 문구는 감사를 받을 수 있을 만큼 범위를 좁게 유지해야 합니다. 검토한 아티팩트, 적용한 방법, 발견 사항, 해결되지 않은 한계를 식별해야 합니다. 더 광범위한 약속은 조달 논의를 쉽게 만들지만 이후 조사를 더 어렵게 만듭니다.
Microsoft의 기존 통제와 계획된 방어책에는 별도의 라벨이 필요합니다
Microsoft는 Foundry가 현재 게시자 소싱 통제를 사용하고 모델이 실행되는 패키지형 소프트웨어 환경인 주변 컨테이너를 스캔한다고 말합니다. 추가 가중치 스캔, 레드팀 도구, 모델 서명은 개발 또는 탐색 중인 작업으로 설명합니다. Microsoft의 에이전트 보안을 평가할 때 이 범주는 구분되어야 합니다.
계획된 방어책에 배포된 통제와 같은 증거 가중치를 부여해서는 안 됩니다.
이 구분은 이번 발표를 넘어 유용합니다. 구매자는 현재 기능, 제한된 시험, 미래 계획을 결합한 보안 설명을 자주 접합니다. 의미 있는 평가는 이러한 상태를 먼저 분리한 뒤 조직의 요구사항을 충족하는지 논의해야 합니다.
현재 통제의 경우 질문은 운영에 관한 것입니다. 어디에 적용되는가? 실행되었다는 것을 보여주는 증거는 무엇인가? 실패는 누가 처리하는가? 계획된 통제의 경우 질문은 약속과 검증에 관한 것입니다. 고객이 이에 의존하기 전에 무엇이 이루어져야 하는가?
서명에도 정확한 해석이 필요합니다. 디지털 서명은 아티팩트를 서명 주체와 연결하고 이후 변경 여부를 확인하는 데 도움이 됩니다. 서명자가 안전한 무언가를 승인했는지는 독립적으로 판단하지 않습니다. 구매자는 서명 뒤에 어떤 조직적 검토가 있는지 물어야 합니다.
신뢰할 수 있는 게시자 지정에도 같은 원칙이 적용됩니다. 신뢰에는 정의된 범위가 필요합니다. 승인된 관계는 소싱 결정을 뒷받침할 수 있지만, 구매자는 어떤 릴리스가 도착했고 어떤 절차가 이를 승인했는지 여전히 이해해야 합니다. 공급업체의 평판은 아티팩트 식별을 대체할 수 없습니다.
내부 팀에 해당하는 조달상의 개념은 릴리스 거버넌스입니다. 조직 내부에서 준비된 모델에는 책임 있는 소유자와 승인된 배포 경로가 있어야 합니다. 내부 모델이라고 부르는 것만으로 프로덕션에 어떻게 도달했는지 설명할 필요가 사라지지는 않습니다.
이러한 관찰은 에이전트 플랫폼에 대한 더 폭넓은 경쟁 기준을 시사합니다. 구매자는 증거의 명확성, 경계의 정밀성, 불확실성에 대한 대응을 비교해야 합니다. 배포 상태가 모호한 긴 보안 기능 목록은 유용성이 떨어집니다.
행동 모니터링도 별도의 범주로 다뤄야 합니다. 2025년 6월에 공개된 Anthropic의 에이전트 사보타주 평가는 유해한 부수 작업과 에이전트 모니터링의 어려움을 검토합니다. 이는 행동 수준의 평가를 다루며, 아티팩트 검토와 런타임 감독이 별개의 책임을 가져야 하는 이유에 맥락을 제공합니다.
모니터링 주장은 관찰자가 무엇을 볼 수 있는지 설명해야 합니다. 생성된 텍스트를 검토하는 것, 제안된 작업을 조사하는 것, 실행된 작업을 기록하는 것은 서로 다른 체계입니다. 조직은 자신이 어떤 체계를 구매했으며 어떤 결정이 관찰자의 시야 밖에 남는지 알아야 합니다.
공급업체에게 실질적인 기회는 더 높은 구체성에 있습니다. 현재 통제, 그 범위, 증거, 한계를 설명하십시오. 그런 다음 계획된 추가 사항을 별도로 기술하십시오. 그러면 고객은 연구 발표를 암묵적 보증으로 바꾸지 않고도 평가할 수 있습니다.
고객에게 이에 대응하는 과제는 계약과 내부 승인에서 이러한 구체성을 유지하는 것입니다. 요구사항은 수용에 필요한 증거를 기술해야 합니다. 일반적인 약속은 모든 사람이 서로 다르게 해석할 때 집행하기 어렵습니다.
다음 증거는 배포, 탐지, 보관 이력을 검증해야 합니다
가장 강력한 후속 조치는 어느 한쪽도 과장하지 않으면서 실험실 결과를 반복 가능한 운영 증거와 연결하는 것입니다.
첫 번째로 주시할 신호는 자유 행동형 에이전트 환경에서의 독립 테스트입니다. 유용한 재현 연구는 모델, 허용된 도구, 트리거 조건, 완료된 결과를 설명할 것입니다. 이는 페이로드 생성과 운영상 결과를 만들기 위해 필요한 전체 순서를 구분하는 데 도움이 됩니다.
현실적이고 명확히 문서화된 조건에서 성공한다면 이러한 결과는 이 공격 경로의 우선순위를 높여야 한다는 근거를 강화할 것입니다. 더 제한적인 결과는 주장을 좁힐 것입니다. 어느 결과든 모호한 표현을 식별 가능한 실험 경계로 대체함으로써 의사결정을 개선할 것입니다.
두 번째 신호는 원래 평가 계열 밖의 수정 사항을 대상으로 한 탐지 테스트입니다. 유용한 평가는 누락된 편집과 오탐을 모두 보고할 것입니다. 탐지는 정보뿐 아니라 업무도 만들어내므로, 조사자가 플래그가 지정된 사례를 어떻게 해결했는지도 설명해야 합니다.
더 폭넓은 성공은 릴리스 검토에 스캔을 포함할 근거를 강화할 것입니다. 전이 가능성이 약하다면 다른 증거가 계속 필요하다는 지점을 보여줄 것입니다. 구매자는 테스트 대상 집단과 분리된 성공률이 아니라 비교 가능한 적용 범위 설명을 찾아야 합니다.
세 번째 신호는 추가 보관 이력 통제의 문서화된 출시입니다. Microsoft와 다른 플랫폼의 경우 관련 증거는 제공 여부, 지원되는 아티팩트, 검증 동작, 실패 처리 방식을 식별해야 합니다. 의도 발표는 고객이 접근할 수 있는 강제 적용과는 다른 이정표로 남습니다.
고객이 승인된 아티팩트를 식별하고 무단 교체를 탐지할 수 있다면 운영 세부사항은 신뢰를 강화할 것입니다. 모호한 제공 가능성 문구는 핵심 신뢰 질문을 해결하지 못한 채 남길 것입니다. 기능이 매력적인 보안 라벨을 달고 있더라도 이 구분은 분명하게 유지되어야 합니다.
이러한 신호 전반에서 중요한 발전은 책임성입니다. 독립 연구자는 다른 이들이 검토할 수 있는 주장을 해야 합니다. 공급업체는 자신의 통제가 현재 무엇을 하는지 식별해야 합니다. 고객은 성숙도에 대한 일반적 인상이 아니라 증거와 수용 결정을 연결해야 합니다.
대응에는 유용한 한계도 있습니다. 조직은 승인 절차를 개선하기 위해 모든 어시스턴트가 침해되었다고 가정할 필요가 없습니다. 어떤 주장이 배포를 뒷받침하고 어떤 가정이 검증되지 않은 상태로 남는지 식별하면 됩니다.
따라서 검토 회의는 구체적인 책임 소재를 만들어야 합니다. 누군가는 모델의 출처를 알고 있어야 하고, 누군가는 그 권한을 이해해야 하며, 누군가는 그 행동을 중단할 수 있어야 합니다. 이러한 책임이 불분명하다면 또 다른 벤치마크 결과도 운영상 공백을 해결하지 못할 것입니다.
Microsoft Lazarus 백도어 연구를 평가하는 팀이라면, 이미 눈앞에 있는 배포 결정에서 시작하십시오. 공급업체에 정확한 모델 아티팩트를 식별하고 그 보관 이력을 설명하며, 사용 가능한 통제와 계획된 방어책을 구분하도록 요청하십시오. 그런 다음 애플리케이션이 추가 결정 없이 허용하는 작업을 검토하십시오. 다음 업데이트도 같은 기준을 적용받도록 증거를 릴리스 승인에 연결해 두십시오. 목표는 신뢰 가정을 점검하고 이의를 제기할 수 있는 배포입니다. 어시스턴트의 권한을 확대하기 전에, 팀은 어떤 증거가 그 확대를 정당화하는지와 증거가 바뀔 때 누가 조치할지를 설명할 수 있습니까?



