Microsoft MAI 행동 강령, Satya Nadella의 초지능 추진을 검증 가능한 약속으로 바꾸다

Satya Nadella는 업계의 경쟁적인 초지능 계획을 조율하기 위한 신중한 속도 조절을 환영하면서 Microsoft MAI 행동 강령을 발표했다. Microsoft CEO는 향후 개발을 두 가지 조건과 연결했다. 고도화된 AI는 인류에 도움이 되어야 하며, 사람들은 계속 통제권을 유지해야 한다는 것이다.

이 입장은 Microsoft를 점점 더 뚜렷해지는 두 진영 사이에 놓는다. 한쪽은 시스템의 자율성이 더 커지기 전에 더 강력한 점검이 필요하다고 본다. 다른 한쪽은 고도화된 AI를 광범위하게 배포하는 것이 권력 집중에 대한 최선의 방어책이라고 주장한다.

Nadella는 두 입장을 모두 유지하려 한다. Microsoft는 최전선 모델 개발을 계속하면서 인간의 통제를 진보의 장애물이 아니라 진보의 조건으로 제시하고자 한다. 이 균형은 합리적으로 들리지만, 회사가 집행 가능한 규칙, 평가, 출시 경계를 공개할 때에만 의미를 갖는다.

이번 발표는 AI 업계 리더들이 안전 시스템이 모델 역량의 발전 속도를 따라가고 있는지 논의하던 가운데 나왔다. Anthropic CEO Dario Amodei는 안전장치가 따라잡을 수 있을 만큼 개발 속도를 늦춰야 한다고 촉구했다. 한편 Meta는 개인의 힘을 보존하는 방법으로 광범위하게 배포되는 개인용 초지능을 옹호했다.

Microsoft의 답은 중단도, 제한 없는 경쟁도 아니다. 회사가 배포하지 않을 것을 정의해야 하는 행동 강령을 전제로 개발을 계속하겠다는 약속이다. 핵심 질문은 이 약속이 모델 개발 자체를 바꾸는지, 아니면 Microsoft가 이를 설명하는 방식만 바꾸는지다.

Satya Nadella가 실제로 발표한 내용

Microsoft는 초지능 철학을 거버넌스 약속으로 전환했지만, 운영 세부 사항은 아직 불완전하다.

Nadella의 발표에서 강조된 9월 13일 성명에서 CEO는 정렬을 달성하는 데 필요한 신중한 속도 조절을 Microsoft가 환영한다고 밝혔다. 정렬이란 특히 AI의 역량이 높아질수록 그 행동을 인간의 목표와 한계에 부합하도록 유지하는 것을 의미한다.

Nadella는 초지능을 추구하기 위한 기준선으로 인간의 통제를 제시했다. 시스템이 인류에 도움이 되지 않고 인간의 지시에 따라 움직이지 않는다면, 구축할 가치가 없다는 주장이다. 그는 또한 AI의 혜택이 국가와 공동체 전반으로 확산돼야 한다고 강조했다.

이 조합은 중요하다. 통제 요구는 더 엄격한 제한을 뒷받침할 수 있는 반면, 광범위한 배포 요구는 더 빠른 도입을 뒷받침할 수 있다. Microsoft는 두 목표가 동일한 전략에 속한다고 주장하고 있다.

함께 발표된 Microsoft MAI 행동 강령은 회사의 자체 모델 제품군을 규율하기 위한 것이다. MAI는 OpenAI나 Anthropic 같은 파트너가 제공하는 모델이 아니라 Microsoft AI가 개발한 모델을 가리킨다.

Microsoft는 이미 MAI를 제품 로드맵의 핵심으로 삼았다. Build 2026에서 회사는 첫 자체 추론 모델인 MAI-Thinking-1을 앞세운 7개 모델 MAI 제품군을 공개했다. 이 제품군은 이미지 생성, 전사, 음성, 코딩도 아우른다.

Microsoft는 MAI-Thinking-1이 350억 개의 활성 파라미터를 사용하며 256,000토큰 컨텍스트 윈도를 지원한다고 밝혔다. 활성 파라미터는 특정 추론 과정에서 사용되는 모델 구성 요소이며, 컨텍스트 윈도는 모델이 고려할 수 있는 입력량을 뜻한다.

이러한 사양은 행동 강령 발표가 추상적인 논의가 아님을 보여준다. Microsoft는 이미 MAI 모델을 Foundry, GitHub Copilot, PowerPoint, OneDrive 및 기타 널리 사용되는 제품에 탑재하고 있다.

그러나 현재 공개된 발표만으로는 준수 여부를 평가하는 데 필요한 모든 규칙이 확립된 것은 아니다. 아직 완전한 공개 테스트 프로토콜, 집행 절차, 배포 기준 또는 모델별 위험 분류는 제공되지 않았다.

이 차이는 중요하다. 강령을 발표하면 기대가 생긴다. 측정 가능한 의무를 공개하면 책임성이 생긴다.

현재 확인된 발전은 Nadella가 Microsoft의 초지능 프로그램을 명시적인 인간 통제 원칙과 연결했다는 점이다. 해결되지 않은 문제는 이 원칙이 실제 출시 결정에 어떻게 적용될 것인지다.

Microsoft MAI 행동 강령이 지금 등장한 이유

이 강령은 Microsoft 자체 모델의 중요성이 커지면서 파트너 정책으로는 포괄할 수 없는 위험을 만들고 있기 때문에 등장했다.

Microsoft의 초기 생성형 AI 확장은 OpenAI에 크게 의존했다. 이 관계는 회사가 Azure, Microsoft 365, GitHub 및 소비자 제품을 위한 최전선 모델에 빠르게 접근할 수 있게 했다.

이제 Microsoft의 위치는 더 복잡해졌다. Microsoft는 여전히 OpenAI 모델을 제공하지만, 플랫폼을 통해 Anthropic, Mistral, Meta, DeepSeek, xAI 및 기타 모델 제품군도 배포한다. 동시에 MAI를 자사 대안으로 구축하고 있다.

이러한 다양성은 상업적·기술적 목표에 기여한다. 범용 최전선 모델이 특정 작업의 요구를 초과할 때, 특화 모델은 지연 시간, 토큰 사용량 또는 운영 비용을 줄일 수 있다. 또한 Microsoft가 학습, 배포 및 제품 통합에 대해 더 큰 통제력을 갖게 한다.

Nadella는 기업이 모든 작업에서 하나의 모델에 의존하는 일을 피해야 한다고 주장해 왔다. 그는 7월에 조직이 데이터, 메모리, 도구 및 에이전트 하니스를 개별 모델과 분리해야 한다고 말했다.

에이전트 하니스는 지침, 메모리, 도구 및 피드백을 제공하는 주변 소프트웨어다. 이 계층을 분리하면 기업은 전체 워크플로를 다시 구축하지 않고도 모델을 교체할 수 있다.

이 모델 독립성 주장은 OpenAI와 다른 최전선 연구소에 압박을 가한다. Microsoft는 이들의 투자자, 클라우드 파트너, 유통업체, 고객이면서 점점 더 직접적인 경쟁자가 되고 있다.

MAI 확장은 Microsoft의 책임도 바꾼다. 더는 모델 수준의 안전을 주로 외부 제공업체가 처리하는 문제로 볼 수 없다. Microsoft가 모델을 학습시키고, 출시 조건을 정하며, 제품에 배포할 때 회사는 위험의 더 큰 부분을 책임진다.

Microsoft는 이미 AI 서비스를 사용하는 고객을 위한 기업 AI 행동 강령을 유지하고 있다. 이 문서는 입력 및 출력 통제, 합성 콘텐츠 공개, 지속적 테스트, 피드백 채널, 보안 조치, 적절한 인간 감독을 요구한다.

또한 유해한 사용, 기만적 조작, 특정 생체 인식 추론, 적절한 인간 개입 없이 이뤄지는 중대한 결정을 제한한다. 자율 시스템에는 모니터링, 개입 통제, 실패 경고 및 한계에 대한 문서화가 포함돼야 한다.

이러한 고객 의무는 관련성이 있지만 모델 개발 강령과 동일하지는 않다. 서비스 계약은 고객이 시스템을 어떻게 사용할 수 있는지 알려준다. 모델 강령은 Microsoft가 무엇을 학습하고, 테스트하고, 보류하고, 수정하거나, 출시를 거부할 것인지도 설명해야 한다.

이 차이는 Microsoft MAI 행동 강령이 또 하나의 허용 사용 정책보다 더 큰 비중을 갖는 이유를 설명한다. 이는 모델이 고객에게 도달하기 전에 Microsoft를 규율해야 하며, 배포 후 고객만 규율해서는 안 된다.

시점은 회사의 5개년 초지능 계획도 반영한다. Microsoft는 2026년 3월 AI 리더십을 재편해 Mustafa Suleyman이 최전선 모델과 기업 맞춤형 모델 계보에 더 직접 집중할 수 있도록 했다.

회사가 인재, 컴퓨팅 자원, 제품 전략을 이 목표에 투입하면 비공식적인 안전 보장만으로는 충분하지 않다. 문서화된 강령은 연구자, 경영진, 제품팀 및 배포 파트너 전반에 공통 경계를 만들 수 있다.

또한 Microsoft가 벤치마크 성능만으로 진보를 정의하는지도 드러낼 수 있다. 진지한 강령이라면 역량과 함께 통제 가능성, 오용 저항성, 모니터링 및 실제 영향도 출시 기준으로 다뤄야 한다.

Microsoft의 진짜 상대는 출시 경계 없는 경쟁이다

주된 갈등은 Microsoft와 특정 경쟁사 간의 대결이 아니라, Microsoft의 통제 약속과 점점 더 자율적인 시스템을 출시하려는 경쟁 압력 간의 충돌이다.

모든 주요 AI 연구소는 빠르게 움직일 유인을 갖고 있다. 더 나은 모델은 개발자, 기업 계약, 인재, 투자 및 가치 있는 사용 데이터를 끌어들인다. 안전성을 높이는 지연이라 해도 회사가 뒤처지게 할 수 있다.

경쟁사들이 초지능을 현재의 의사결정에 영향을 줄 만큼 가까운 일로 묘사할 때 압박은 더 커진다. 기업들은 플랫폼 전환을 놓칠까 우려해 더 많은 비용을 지출하고, 실험을 가속하며, 야심 찬 일정을 발표한다.

Anthropic의 Dario Amodei는 안전장치가 따라잡는 데 시간이 필요하다고 주장하며 이러한 긴장을 선명하게 드러냈다. Associated Press가 보도한 AI 안전 경고에 따르면, 그는 역량이 커지는 시스템 주변의 점검을 강화할 수 있도록 개발 속도를 충분히 늦추는 데 찬성했다.

해당 보도에 따르면 Amodei는 고도화된 AI가 곧 인터넷 전반에서 작동할 수 있는 대규모 에이전트 집단을 조율할 수 있다고 경고했다. 정확한 시점은 독립적으로 확립된 사실이 아니라 전망이다.

그럼에도 근본적인 우려는 구체적이다. AI 에이전트는 다단계 작업을 수행하고, 도구를 호출하며, 코드를 작성·실행하고, 다른 시스템과 통신하며, 제한된 감독 아래 계속 작업할 수 있다.

유해한 답변을 생성하는 모델은 한 종류의 위험을 만든다. 그 답변을 실행하는 에이전트는 또 다른 위험을 만든다. 후자는 오류, 기만 또는 악용된 지시를 외부 행동으로 전환할 수 있다.

Nadella가 신중한 속도 조절을 지지한 것은 역량과 거버넌스가 항상 함께 발전하지는 않는다는 점을 인정하는 것이다. 동시에 이는 무기한 중단을 지지하는 것은 아니다. Microsoft는 여전히 고도화된 시스템을 개발하고 배포하려 한다.

Meta는 다른 강조점을 대표한다. 개인용 초지능에 대한 Meta의 주장은 개인에게 폭넓게 역량을 부여하면 정부나 소수 기업 내부에 과도한 통제가 집중되는 것을 막을 수 있다고 본다.

Meta 역시 스스로 개선하거나 의미 있는 인간 감독을 넘어선 목표를 추구하는 시스템의 위험을 인정한다. Meta가 제시한 해법은 유해한 행동이 나타날 때 점검, 개인정보 보호, 분산된 권한 및 조율을 강조한다.

Microsoft의 입장은 두 주장 일부와 겹친다. Anthropic처럼 정렬과 통제를 개발 속도를 조절해야 하는 이유로 본다. Meta처럼 고도화된 AI의 혜택이 널리 분배돼야 한다고 말한다.

어려운 부분은 이러한 원칙이 충돌할 때 무엇이 일어나는지 결정하는 것이다. 광범위한 배포는 접근성을 높일 수 있지만, 역량 있는 시스템을 오용할 수 있는 사람의 수도 늘릴 수 있다. 제한적인 배포는 오용을 줄일 수 있지만, 제공업체 내부에 권력을 집중시킬 수 있다.

유용한 강령은 누가 이 충돌을 해결하는지 명시해야 한다. 안전팀이 출시를 차단할 수 있는지, 제품 경영진이 그 결정을 무효화할 수 있는지, 외부 검토자가 의미 있는 증거를 받는지를 설명해야 한다.

또한 인간 통제를 운영상으로 정의해야 한다. 운영자가 시스템의 행동을 이해하지 못하거나, 실패를 감지하지 못하거나, 돌이킬 수 없는 결과가 발생하기 전에 개입할 수 없다면 정지 버튼만으로는 충분하지 않다.

기업 구매자에게 통제란 모델 선택권, 데이터 경계, 감사 로그, 역할 기반 접근 제어, 평가 기록, 롤백 절차 및 자율적 행동의 한계를 포함한다. 또한 단일 제공업체 외부에 조직적 맥락을 유지하는 것도 포함한다.

그 아키텍처는 출처와 사용자 통제권을 지우지 않으면서 관련 소스를 연결할 때 시스템의 유용성이 커진다는 더 넓은 knowledge blending 원칙과 닮아 있다. 엔터프라이즈 에이전트에서는 출처 정보가 어떤 행동을 신뢰하고, 검토하고, 거부할지를 결정할 수 있다.

따라서 Microsoft의 코드는 수사가 아니라 제품을 통해 평가받게 될 것이다. 가장 강력한 증거는 모델이 명시된 기준을 충족하지 못했다는 이유로 회사가 출시를 연기하거나, 범위를 축소하거나, 취소한 가시적인 사례다.

코드는 테스트와 집행만큼 강력하다

가장 큰 불확실성은 Microsoft의 원칙이 독립적으로 검증 가능한 의사결정으로 이어질지 여부다.

Microsoft는 수년간 책임 있는 AI 프로그램을 발전시켜 왔다. 공개된 responsible AI program은 투명성, 책임성, 공정성, 포용성, 신뢰성, 안전, 개인정보 보호, 보안을 중심으로 구성되어 있다.

회사는 위험을 매핑하고, 측정하고, 관리하는 절차도 설명한다. 이러한 관행은 모델 거버넌스의 기반을 마련하지만, 초지능 행동강령에는 더 높은 기준이 요구된다.

첫째, Microsoft는 강령의 적용 대상 시스템을 정의해야 한다. MAI 제품군에는 추론, 코딩, 음성, 전사, 이미지용 모델이 포함된다. 이들 시스템은 서로 다른 실패 양상을 보이며, 각기 다른 평가가 필요하다.

음성 모델은 동의, 사칭, 사기, 고지와 관련한 우려를 낳는다. 코딩 모델은 사이버보안, 의존성, 실행, 소프트웨어 무결성과 관련한 우려를 제기한다. 도구와 연결된 추론 모델은 계획 수립과 자율적 행동에 관한 더 폭넓은 질문을 불러일으킨다.

하나의 보편적 원칙으로는 이러한 모델별 통제를 대체할 수 없다. 이 강령에는 공통 기반과 더불어 각 기능 및 배포 맥락별 별도 요구사항이 필요하다.

둘째, 평가는 실제 제품 사용 환경을 닮아야 한다. 고립된 벤치마크 작업만으로 테스트된 코딩 모델은 리포지터리를 수정하고, 명령을 실행하며, 자격 증명에 접근하는 에이전트 안에서는 다르게 작동할 수 있다.

Microsoft는 MAI 모델이 제품별 작업을 중심으로 학습되고 최적화된다고 밝혔다. 따라서 제품 수준의 평가는 특히 중요하다. 관련 평가 단위는 흔히 하니스, 도구, 메모리, 정책, 인간 승인 흐름을 포함한 완전한 시스템이다.

셋째, 결과에는 명확한 보고가 필요하다. 외부인이 테스트 정의, 비교 조건, 모델 버전, 도구 접근 권한, 실패 범주를 볼 수 없다면 점수의 가치는 제한적이다.

Microsoft는 유용한 증거를 제공하기 위해 민감한 모델 가중치나 보안 세부 정보를 공개할 필요는 없다. 평가 방법, 요약 결과, 알려진 한계, 배포 제한, 주요 완화 조치에 대한 설명을 공개할 수 있다.

넷째, 집행은 내부 팀까지 닿아야 한다. 고객 제한은 Microsoft가 서비스 접근을 중단할 수 있으므로 관찰하기가 더 쉽다. 내부 집행은 제품 출시 기한과 매출 목표가 같은 회사 안에서 작동하기 때문에 더 어렵다.

신뢰할 수 있는 거버넌스 구조는 위험 검토를 출시 속도로 보상받는 팀과 분리한다. 문서화된 에스컬레이션 경로를 만들고, 안전과 상업적 목표가 충돌할 때 누가 권한을 갖는지 정의한다.

다섯째, 강령은 출시 이후의 변경도 다뤄야 한다. 모델은 새로운 공개 이름을 받지 않은 채 새 도구, 더 긴 컨텍스트, 업데이트된 시스템 지침, 더 넓은 권한을 부여받을 수 있다.

이러한 변경은 기존 모델 업데이트보다 위험을 더 크게 바꿀 수 있다. 따라서 거버넌스는 학습 종료 시 생성된 체크포인트뿐 아니라 전체 배포 구성을 포괄해야 한다.

독립 연구자들도 통제 상실 위험은 측정하기 어렵다는 점을 강조해 왔다. 2026 Singapore Consensus를 통해 발표된 global research priorities는 중대한 예측 불확실성을 인정하면서도 이 분야가 점차 테스트 가능한 영역이 되고 있다고 설명한다.

이 불확실성은 양방향으로 작용한다. 그것이 재앙적 결과가 임박했다는 증거는 아니다. 그렇다고 관측된 실패가 없다는 사실을 시스템이 안전하다는 증거로 취급할 근거도 되지 않는다.

Microsoft는 서면 강령이 정렬 문제를 해결한다는 인상을 주지 말아야 한다. 정렬은 논쟁적인 가치와 불완전한 측정을 수반하는 기술적, 조직적, 정치적 문제로 남아 있다.

비판자들도 반대편의 과장을 피해야 한다. 자발적 강령이 자동으로 무의미해지는 것은 아니다. 구체적인 테스트, 명시된 의사결정권자, 출시 게이트, 문서화된 결과를 포함한다면 엔지니어링 의사결정에 영향을 미칠 수 있다.

적절한 기준은 증거다. 이 강령이 무엇을 학습시키는지, 어떻게 테스트하는지, 어떤 기능을 계속 제한하는지, 언제 배포를 중단하는지를 바꾸는가?

개발자와 엔터프라이즈 구매자가 물어야 할 것

고객은 MAI 모델에 중요한 업무를 맡기기 전에 Microsoft의 인간 통제 약속을 조달 질문으로 전환해야 한다.

첫 번째 질문은 적용 범위다. 구매자는 Microsoft MAI Code of Conduct가 공개 모델에만 적용되는지, 아니면 Microsoft 제품 안에서 사용되는 내부 버전에도 적용되는지 알아야 한다.

Copilot에 내장된 모델은 사용자가 직접 선택하지 않아도 영향을 미칠 수 있다. Microsoft는 어떤 모델이 작업을 수행하는지, 언제 라우팅이 일어나는지, 관리자가 특정 모델 제품군을 제한할 수 있는지를 공개해야 한다.

두 번째 질문은 평가다. 조직은 모델이 높은 일반 벤치마크 점수를 받았는지가 아니라, 자사의 사용 사례에 어떤 안전 및 품질 테스트가 적용되는지를 물어야 한다.

고객 서비스 어시스턴트에는 근거 없는 주장, 에스컬레이션, 개인정보 보호, 기록 처리에 관한 테스트가 필요하다. 코딩 에이전트에는 안전하지 않은 명령, 취약한 코드, 비밀 정보 노출, 패키지 무결성, 무단 변경에 관한 테스트가 필요하다.

의료 또는 금융 워크플로에는 실수가 권리, 기회, 신체적 안녕에 영향을 줄 수 있으므로 더 엄격한 인간 검토가 요구된다. Microsoft의 기존 엔터프라이즈 강령도 중요한 의사결정에는 적절한 감독이 필요하다고 본다.

세 번째 질문은 자율성이다. 구매자는 에이전트가 취할 수 있는 행동, 승인이 필요한 행동, 어떤 상황에서도 금지되는 행동을 문서화해야 한다.

인간 통제는 실패 후에만이 아니라 중요한 행동 이전에 존재해야 한다. 검토 화면, 권한 경계, 거래 한도, 되돌릴 수 있는 스테이징 환경은 안전하게 행동하라는 일반적인 지침보다 더 큰 보호를 제공한다.

네 번째 질문은 모니터링이다. 팀에는 입력값, 검색된 컨텍스트, 도구 호출, 모델 출력, 정책 개입, 승인, 최종 행동을 보여 주는 로그가 필요하다.

워크플로가 여러 모델을 사용할 때도 이러한 기록은 이해 가능해야 한다. 플랫폼이 각 단계를 조용히 라우팅하고 사용할 수 있는 의사결정 추적 기록을 남기지 않는다면, 기업은 사고를 조사할 수 없다.

다섯 번째 질문은 모델 변경이다. Microsoft가 MAI 모델을 업데이트하거나 라우팅 계층을 변경할 때, 엔터프라이즈 배포 환경은 사전 통지 기간, 회귀 테스트, 롤백 옵션, 버전 통제를 정의해야 한다.

자동 개선은 매력적이지만, 업데이트된 모델은 검증된 워크플로의 행동을 바꿀 수 있다. 규제 대상 팀은 새 버전을 채택하기 전에 테스트를 반복해야 할 수 있다.

여섯 번째 질문은 데이터다. Nadella는 기업이 직원과 시스템이 업무를 수행할 때 생성되는 정보, 즉 자체 학습 루프에 대한 통제권을 보존해야 한다고 주장해 왔다.

구매자는 프롬프트, 출력, 피드백, 도구 추적 정보가 Microsoft 모델 학습에 사용되는지 명확히 해야 한다. 또한 이러한 기록이 어디에 저장되는지, 어떻게 내보내거나 삭제할 수 있는지도 확인해야 한다.

일곱 번째 질문은 사고 대응이다. 강령에는 보고 채널이 필요하지만, 엔터프라이즈에는 대응 시간, 에스컬레이션 담당자, 격리 절차, 사고 후 설명도 필요하다.

개발자에게도 실질적인 책임이 있다. 주변 시스템이 검증하기 전까지 모델 출력을 신뢰할 수 없는 것으로 다뤄야 한다. 이는 에이전트가 코드를 작성하고, 데이터를 수정하거나, 외부와 소통할 때 특히 중요하다.

이 질문들 가운데 어느 것도 초지능을 기다릴 필요가 없다. 이미 언어 모델을 도구 및 조직 데이터와 결합하는 현재 시스템에 적용된다.

Nadella의 발표가 중요한 이유는 고객이 인용할 수 있는 기준을 제공하기 때문이다. Microsoft가 AI가 인간의 통제 아래에 있어야 한다고 말한다면, 구매자는 그 통제가 어디에 존재하는지 회사에 보여 달라고 요구할 수 있다.

Microsoft가 진심인지 보여 줄 세 가지 신호

다음 시험대는 실행이며, 세 가지 관찰 가능한 신호가 이 강령이 Microsoft의 행동을 바꾸는지 드러낼 것이다.

첫 번째 신호는 모델별 요구사항과 평가 결과의 공개다. Microsoft는 이 강령을 일반적인 선언으로 남겨 두지 말고 개별 MAI 모델과 연결해야 한다.

MAI-Thinking-1의 경우 추론 신뢰성, 기만 테스트, 도구 사용 경계, 사이버보안 평가, 에이전트 통제 결과 등이 포함될 수 있다. 음성 및 이미지 모델의 경우 사칭, 출처 정보, 동의, 유해 콘텐츠 보호장치를 다뤄야 한다.

결정적인 세부 사항은 모든 점수가 우호적으로 보이느냐가 아니다. 고도화된 어떤 모델도 모든 환경에서 신뢰성 있게 작동하지 않기 때문에, 한계를 투명하게 밝히는 편이 프레임워크의 신뢰성을 높일 것이다.

Microsoft가 재현 가능한 방법, 버전별 결과, 명확한 배포 제한을 공개한다면 Nadella의 약속은 더 강해진다. 원칙만 공개한다면 이 발표는 여전히 감사하기 어렵다.

두 번째 신호는 출시 게이트가 실제 결과를 낳는다는 증거다. 테스트에서 해결되지 않은 위험이 드러난 뒤 Microsoft가 연기하거나, 제한하거나, 프리뷰 상태로 유지하는 MAI 기능을 주목해야 한다.

그러한 결정은 신중한 속도 조절이 상업적 압력을 이길 수 있음을 보여 줄 것이다. 또한 이후 출시를 평가하는 직원과 파트너에게 선례를 마련할 것이다.

지연만으로 좋은 거버넌스를 입증할 수는 없다. 기업은 기술적, 재정적, 전략적 이유로 제품을 지연시킨다. Microsoft는 민감한 보안 세부 정보를 노출하지 않는 범위에서 언제 강령이 결정에 영향을 미쳤는지 설명하고 관련 기준을 밝혀야 한다.

강령 때문에 변경되는 출시가 한 번도 없다면, 관찰자들은 이 프레임워크가 개발을 통제하는지 아니면 기존 의도를 문서화할 뿐인지 의문을 제기해야 한다.

세 번째 신호는 Microsoft가 Foundry, Copilot, Microsoft 365 전반에서 자율 에이전트를 어떻게 다루는지다. 모델이 도구와 행동 권한을 받게 되면 모델 안전과 에이전트 안전은 분리된 채로 남을 수 없다.

더 강력한 관리자 통제, 세분화된 권한, 승인 요건, 모니터링, 롤백, 일관된 모델 식별을 살펴봐야 한다. 이러한 기능은 인간 통제를 제품의 속성으로 바꿀 것이다.

Microsoft가 자사 플랫폼을 통해 배포되는 파트너 모델에도 동등한 기준을 적용하는지도 주목해야 한다. 기반 모델이 다른 연구소에서 왔더라도 고객은 완전한 Microsoft 서비스를 경험한다.

MAI에만 한정된 강령은 Microsoft 내부 관행을 개선할 수 있지만, 더 광범위한 카탈로그 전반에는 일관되지 않은 보호장치를 남길 수 있다. 플랫폼 수준의 통제 계층은 그 격차를 줄일 수 있다.

따라서 Microsoft MAI Code of Conduct는 회사의 초지능 전략을 시험하는 유용한 기준을 만든다. Microsoft는 최전선의 진전, 저비용 특화 모델, 광범위한 배포, 의미 있는 인간 통제를 동시에 원한다.

이 목표들이 자동으로 양립하는 것은 아니다. 그 충돌은 출시 회의, 제품 권한, 평가 보고서, 사고 대응에서 드러날 것이다.

개발자와 엔터프라이즈 리더는 Nadella의 원칙을 저장해 두고 그 의사결정들과 비교해야 한다. 어떤 테스트가 배포를 중단시킬 수 있는지, 누가 이를 집행할 권한을 갖는지, 고객이 어떤 증거를 받는지 물어야 한다.

Microsoft가 이러한 질문에 공개적으로 답한다면, 신중한 속도 조절은 운영 규율이 된다. 그렇지 않다면 이 강령은 가속하는 모델 프로그램에 붙은 가치 선언으로 남을 것이다.