OpenAI Model Spec 업데이트, AI 판단의 중심에 인간의 의도를 두다

OpenAI는 점점 더 유능해지는 모델이 더 중요한 행동을 수행하게 됨에 따라, 10월 29일 Model Spec을 업데이트하고 행동 지침을 다섯 가지 가치 중심으로 재구성했다. OpenAI Model Spec 업데이트는 어려운 경계를 다룬다. 사람들이 무엇을 의도하는지 이해하면서도, 다음에 일어날 일에 대한 그들의 권한을 보존하는 문제다.

이 다섯 가지 가치는 인간 의도에 대한 충실성, 피해 최소화, 정직성과 투명성, 인간 주체성, 배려다. OpenAI의 업데이트된 행동 지침은 맥락과 감독 원칙을 추가하고 일부 기본값을 변경했으며, 대부분의 상세한 스타일 지침을 없앴다.

Anthropic의 Claude 관련 작업은 유용한 비교 대상이지만, 핵심 긴장은 두 접근법 모두에 흐른다. 더 많은 판단 권한은 지시가 불완전할 때 AI가 도움을 줄 여지를 만든다. 동시에 사용자가 승인하지 않은 가정이 개입할 여지도 생긴다. 개발자와 기업 구매자는 이제 더 날카로운 질문에 직면한다. 시스템은 자신의 해석이 여전히 이를 지시한 사람을 위한 것임을 어떻게 입증해야 할까?

OpenAI Model Spec 업데이트가 바꾸는 점

이번 개정은 인간의 지시를 중심에 두면서 모델 행동의 판단 근거를 더 명확히 한다.

OpenAI는 이번 변경을 기존 약속의 재구성과 확장으로 설명한다. 맥락 활용, 주체성 지원, 관련 사회 규범 준수, 부작용 처리에 관한 지침을 추가했다. 회사는 또한 문서에서 모델을 지칭하는 명칭을 “the assistant”에서 “GPT”로 변경했다.

이러한 변경은 완료된 제품 출시가 아니라 의도된 행동을 설명한다. OpenAI는 자사 모델이 아직 이 사양을 완전히 반영하지는 않는다고 밝혔다. 또한 관련 훈련 작업의 결과는 향후 업데이트를 통해 제공될 것이라고 말했다.

이 구분은 발표를 해석할 때 중요하다. 행동 사양은 배포된 시스템이 이를 얼마나 일관되게 제공하는지 입증하지 않고도 바람직한 행동을 제시할 수 있다. 독자는 문서의 지향점과 개별 모델에 관한 증거를 구분해야 한다.

예를 들어, 프로젝트 메모를 바탕으로 고객 업데이트를 작성해 달라는 직장 내 요청을 생각해 보자. 사용자는 정확한 종합, 적절한 표현, 고객의 우려에 대한 주의를 기대할 가능성이 크다. 다만 대상 독자, 배포 방식 또는 기밀 세부 정보의 처리 방법은 명시하지 않을 수 있다.

유용한 시스템이라면 일상적인 공백을 메울 만큼의 판단력이 필요하다. 모든 문장에 대해 명시적 지시를 요구하면 위임은 번거로워진다. 그러나 시스템이 추론한 선호를 정보 공개 권한으로 간주할 경우, 공백을 메우는 일은 위험해진다.

따라서 운영상 질문은 결과물인 업데이트가 잘 읽히는지에 그치지 않는다. 시스템은 의도된 독자를 식별했는가? 원본 메모에 담긴 불확실성을 보존했는가? 초안 작성과 발송을 구분했는가?

이 질문들은 가치가 일상 업무와 관련되는 이유를 설명하는 데 도움이 된다. 정확성만으로 어떤 정보가 메시지에 들어가야 하는지 판단할 수는 없다. 유창함만으로 사용자가 발송을 승인했는지 확인할 수는 없다.

같은 요청도 훌륭한 초안과 받아들일 수 없는 행동을 낳을 수 있다. 행동을 살피지 않고 초안만 평가한다면 상호작용에서 가장 중대한 부분을 놓치게 된다.

이는 개발자에게 더 까다로운 설계 문제를 제시한다. 애플리케이션이 합리적으로 추론할 수 있는 누락된 세부 사항이 무엇인지 결정해야 한다. 또한 그러한 가정이 결과에 영향을 미칠 때 이를 드러낼 방법도 필요하다.

눈에 보이는 가정은 사용자가 바로잡을 수 있는 구체적인 대상을 제공한다. 보이지 않는 가정은 사용자가 결정이 내려졌다는 사실을 깨닫기도 전에 전체 작업을 좌우할 수 있다.

구매자에게 즉각적인 시사점은 실무적이다. 공급업체의 인간 의도에 대한 약속은 권한, 검토 화면, 완료된 행동의 기록에 관한 질문으로 이어져야 한다. 이러한 제품 세부 사항이 그 약속을 실제로 활용 가능한 것으로 만드는지를 결정한다.

더 많은 판단은 개발자에게 더 큰 부담을 준다

개발자는 광범위한 행동 약속을 이해 가능한 애플리케이션 경계로 전환해야 할 책임을 진다.

공유 프로젝트 폴더를 정리해 달라는 요청을 받은 시스템을 상상해 보자. 문서를 그룹화하고, 이름을 제안하고, 중복을 식별하거나, 오래된 자료를 제거할 수 있다. 각 해석은 그럴듯해 보이지만 각각 다른 결과를 수반한다.

사용자의 광범위한 목표만으로는 이러한 차이가 자동으로 해결되지 않는다. 제안된 폴더 구조는 검토할 기회를 보존한다. 공유 문서를 삭제하면 동료가 접근할 수 있는 내용이 바뀐다.

합리적인 애플리케이션은 실행 전에 이러한 행동을 구분해야 한다. 시스템의 권한을 이해하기 쉽게 만들고, 어떤 작업이 이미 발생했는지 사용자에게 보여줘야 한다. 이는 모델이 아무리 신중하게 보이더라도 제품 설계의 선택이다.

OpenAI의 모델 행동 프레임워크는 관련 경계를 제시한다. 지시 체계는 어떤 지시가 우선하는지 정의한다. 맥락은 해석에 도움을 줄 수 있지만, 단지 관련성이 있다는 이유만으로 권한을 얻지는 않는다.

사양은 인간의 수정에 열려 있을 것도 요구한다. 모델은 사용자 진술과 추론을 구분하고, 기억에 관한 근거 없는 주장을 피해야 한다고 명시한다. 부작용 지침은 요청의 합리적인 범위를 넘어서는 특정 중대한 행동에 대해 별도의 승인을 요구한다.

개발자에게 주는 시사점은 더 풍부한 맥락이 추가적인 책임을 만든다는 점이다. 기억된 선호는 추천을 개선할 수 있지만, 그 관련성은 현재 과제에 따라 달라진다. 과거 지시는 의도를 설명하는 데 도움이 될 수 있지만 영구적인 권한이 되어서는 안 된다.

예를 들어, 이전에 간결한 업데이트를 선호했던 가상의 관리자를 생각해 보자. AI 애플리케이션은 다른 일상적 요약의 초안을 작성할 때 이 선호를 합리적으로 활용할 수 있다. 하지만 간결함이 해결되지 않은 문제를 감출 수 있는 상세한 사고 설명에는 다르게 접근해야 한다.

어려운 선택은 맥락에 따라 달라진다. 애플리케이션은 유용한 연속성을 보존하는 동시에 상황 변화가 선호의 의미를 바꿀 수 있음을 인식해야 한다.

이 압박은 기업 구매자에게도 미친다. 조달팀은 애플리케이션이 배경 정보와 운영 지시를 어떻게 구분하는지 물어야 한다. 또한 작업이 시작된 뒤 사용자가 잘못된 해석을 어떻게 수정하는지도 살펴봐야 한다.

지식 업무에서는 이용 가능한 증거의 질도 이 문제의 일부가 된다. 검색 가능한 지식 베이스는 사람들이 답변의 근거가 된 자료를 검토하는 데 도움을 줄 수 있다. 그러나 출처에 접근할 수 있다는 사실만으로 행동이 승인되었는지는 판단할 수 없다.

시스템은 올바른 문서를 인용하고도 사용자가 그 문서로 무엇을 하길 원하는지 오해할 수 있다. 증거의 질과 권한의 질은 별도로 검토해야 한다.

개발자는 중단 행동을 상황에 맞게 조정해야 한다는 압박에도 직면한다. 무해한 모든 수정 전에 확인을 요구하면 마찰이 생긴다. 결과가 불분명할 때 검토 없이 행동하면 또 다른 실패가 발생한다.

애플리케이션은 일상적인 실행과 과업 범위를 확장하는 결정을 의미 있게 구분해야 한다. 사용자는 실수를 통해 알게 되기 전에 그 구분을 이해할 수 있어야 한다.

바로 이 지점에서 광범위한 약속은 구현 비용이 커진다. 인터페이스, 권한, 기록, 복구 옵션 모두가 실제로 인간의 감독이 작동하는지를 좌우한다.

의도 해석은 사용자 통제와 상충 관계를 만든다

핵심 상충 관계는 AI 시스템이 가정을 수정 가능하도록 열어 둔 채 얼마나 많은 해석을 행사할 수 있는가에 있다.

문자 그대로의 실행은 명백한 방식으로 실패할 수 있다. 사용자가 간결한 요약을 요청했는데 모든 문장을 보존하면 요청의 취지를 해친다. 사용자가 오류 메시지를 붙여 넣었을 때 형식적으로 정돈된 질문을 요구하는 것은 불필요한 일을 만든다.

해석은 지원을 유용하게 만든다. 문제는 시스템이 자신의 해석을 사람의 명시된 목표보다 더 권위 있는 것으로 취급할 때 시작된다.

예를 들어, 한 사용자가 어떤 일자리가 가장 잘 맞는지 묻는 상황을 생각해 보자. 시스템은 예측 가능한 근무 시간에 대한 이전 언급을 발견하고 일정의 안정성에 상당한 비중을 둔다.

그 가중치는 도움이 될 수 있다. 하지만 특정 경력 목표를 위해 까다로운 역할을 추구하는 것처럼 우선순위가 바뀐 사실을 가릴 수도 있다. 시스템이 가정을 드러내고 수정을 유도할 때 추천은 더 유용해진다.

차이는 누가 결정을 통제하는지에 있다. 시스템은 어떤 요소가 중요한 이유를 설명할 수 있지만, 그것이 반드시 가장 중요해야 한다고 결정해서는 안 된다. 간과된 결과를 식별할 수는 있지만, 사용자의 우선순위를 조용히 선택해서는 안 된다.

Anthropic의 Claude 헌법은 관련 업계 비교 사례를 제공한다. 2026년 1월 공개된 이 문서는 Claude를 위한 회사의 의도된 가치와 행동을 설명한다. Anthropic은 지침의 이유를 설명하는 일이 훈련을 지원할 수 있다고 말하면서도, 출력이 때때로 기대에 미치지 못할 수 있음을 인정한다.

따라서 두 회사 모두 서면 행동 약속을 모델 행동을 형성하는 요소로 본다. 그러나 어느 문서도 그 자체만으로 모델이 건전한 판단을 일관되게 행사한다는 사실을 입증하지는 않는다.

접근법을 비교하는 개발자에게 유용한 질문은 관찰 가능한 행동에 관한 것이다. 사용자가 추천을 거부하면 모델은 어떻게 반응하는가? 과업을 적절히 업데이트하는가? 같은 결론을 반복적으로 밀어붙이지 않으면서 관련 증거를 계속 제시하는가?

이러한 상황은 지원과 시스템 자체의 조건에 따른 집요함의 차이를 드러낸다. 추천은 강력할 수 있지만, 여전히 이를 받는 사람에게 설명 책임을 져야 한다.

이 상충 관계는 협업 글쓰기에서도 나타난다. 사용자가 기한을 놓친 것에 대해 단호한 항의문을 요청한다고 가정해 보자. 시스템은 근거 없는 비난을 포함한 표현을 식별하고, 왜 그러한 표현이 항의의 설득력을 약화하는지 설명할 수 있다.

그러한 개입은 사용자의 목표에 부합할 수 있다. 메시지를 무관한 화해적 입장으로 다시 쓰는 일은 다른 정당화가 필요하다. 시스템은 사용자가 승인한 입장을 정확하게 표현하도록 도와야 한다.

사용자가 특정 관점을 요청할 때도 같은 구분이 적용된다. 유용한 보조자는 사실 주장에 근거를 유지하면서 그 관점을 명료하게 표현할 수 있다. 요청받은 목소리를 채택하는 것과 이를 뒷받침할 증거를 지어내는 일을 혼동해서는 안 된다.

조직에는 이것이 애플리케이션 인센티브를 둘러싼 거버넌스 과제를 만든다. 지원 시스템, 영업 보조 도구, 연구 도구는 모호한 요청을 해석할 때 서로 다른 압력에 직면할 수 있다.

이러한 압력은 제품 수준에서 검토할 가치가 있다. 추천된 행동으로 혜택을 받는 것은 누구인가? 어떤 대안이 계속 보이는가? 사용자가 애플리케이션이 선호하는 결과와 충돌하는 선택을 하면 어떻게 되는가?

이는 두 회사 중 어느 한쪽의 부적절한 행동을 입증하는 것이 아니라 분석을 위한 질문이다. 구매자가 공개된 가치를 평가 기준으로 옮길 때 살펴봐야 할 지점을 보여준다.

OpenAI Model Spec 업데이트는 인간의 의도를 더 명시적인 조직 원리로 삼는다. 실제 의미는 애플리케이션이 사용자가 자신의 해석을 검토하고, 거부하고, 방향을 바꿀 수 있는 능력을 보존하는지에 달려 있다.

명백한 실패 없이도 주체성은 약화될 수 있다

시스템은 작업을 성공적으로 완료하면서도 사용자가 결과를 이해하거나 지시할 수 있는 능력을 약화시킬 수 있다.

그 가능성은 평가를 복잡하게 만든다. 잘 다듬어진 권고안은 전제가 숨겨져 있어도 도움이 되는 것처럼 느껴질 수 있다. 완성된 문서는 당장의 요청을 충족할 수 있지만, 사용자가 중요한 결론을 설명할 수 없게 만들 수도 있다.

Anthropic이 1월에 발표한 역량 약화 패턴 연구는 실제 대화에서 나타나는 관련 우려를 살펴본다. 이 연구는 사용자가 정확한 신념을 형성하고, 스스로 가치 판단을 내리며, 자신의 가치에 따라 행동하는 능력을 약화시키는 상호작용을 다룬다.

이는 OpenAI의 개정안을 독립적으로 평가한 것이 아니라, 관련 연구의 관점을 제시한다. 또한 즉각적인 만족이 지원이 사용자의 주체성을 보존하는지 여부를 판단해 주지는 않는다는 더 광범위한 평가 문제를 드러낸다.

AI의 도움으로 제안서를 준비하는 가상의 직원을 생각해 보자. 시스템은 설득력 있는 권고를 만들고, 겉보기의 모순을 해소하며, 결정을 발표하기 위한 문구를 제공한다.

직원은 결과에 만족할 수 있다. 그러나 평가자는 여전히 시스템이 확립된 사실과 해석을 구분했는지 물어야 한다. 또한 직원은 어떤 미해결 쟁점이 권고를 바꿀 수 있는지 알아야 한다.

그러한 구분이 사라지면 결과물에 이의를 제기하기가 더 어려워진다. 이를 발표하는 사람은 반드시 이해를 얻지 못한 채 자신감만 물려받게 된다.

이 우려가 사용자가 모든 중간 단계를 검토해야 한다는 뜻은 아니다. 지원을 받으면서 전체 작업을 독립적으로 다시 수행해야 한다면 위임의 가치는 상당 부분 사라질 것이다.

관련 기준은 결과에 비례하는 이해다. 사용자는 결과에 중대한 영향을 미치는 가정과 증거에 접근할 수 있어야 한다. 또한 방향을 바꿀 수 있는 실질적인 방법도 필요하다.

가상의 연구 보조 도구가 이를 잘 보여준다. 독자가 모든 페이지를 다시 열어 보지 않아도 문서 모음을 요약할 수 있다. 그러나 의미 있는 이견은 보존하고, 결정적인 출처에는 접근할 수 있게 해야 한다.

더 깔끔한 서사를 만들기 위해 모순을 제거하는 애플리케이션은 다른 결과를 만들어 낸다. 남은 모든 문장이 그럴듯하게 들리더라도, 이는 사용자의 증거 해석을 바꾼 것이다.

시점의 문제도 있다. 사용자는 결과가 아직 불분명하기 때문에 초기에 어떤 해석을 받아들일 수 있다. 이후의 정보는 원래의 가정이 더 이상 들어맞지 않음을 보여줄 수 있다.

따라서 효과적인 감독은 작업 중에도 계속되어야 한다. 시작 단계의 확인만으로는 이후에 나타나는 모든 중대한 선택을 해결할 수 없다.

AI 워크플로를 평가하는 팀은 이러한 전환을 살펴봐야 한다. 새로운 증거가 나타날 때 시스템은 계획을 재검토하는가? 사용자가 전제를 수정할 때, 그 수정은 최종 작업물에 반영되는가?

이는 업데이트된 명세에서 보고된 결과가 아니라 제안된 평가 질문이다. 그렇지 않으면 추상적으로 남을 수 있는 약속을 검토할 구체적인 방법을 제시한다.

회의적인 관점은 간단하다. 광범위한 가치는 더 나은 결정을 뒷받침할 수 있지만, 그 유연성은 약한 행동을 합리화하기 쉽게 만들 수도 있다. 행동 뒤에 제시된 그럴듯한 설명만으로 그 행동이 사용자의 의도를 존중했음을 입증할 수는 없다.

그래서 인간의 주체성에는 행동상의 증거가 필요하다. 가장 강력한 증거는 사용자가 중요한 선택을 이해하고, 잘못된 가정을 수정하며, 승인되지 않은 작업 확장을 중단할 수 있음을 보여주는 것이다.

공개된 가치는 실제 조건 전반에서 증거가 필요하다

공개 명세는 책임의 기준을 정의하는 데 도움이 되지만, 실제 배포 환경에서 행동이 어떻게 달라지는지는 배포 증거로 입증해야 한다.

OpenAI가 3월에 발표한 행동 프레임워크 설명은 몇 가지 유용한 구분을 제시한다. 이 명세는 전체 제품이나 완전한 학습 구현이 아니라 의도된 모델 행동을 설명한다. 제품 기능과 기타 안전장치도 중요하다.

이 설명은 문서를 학습, 평가, 공개 토론을 위한 공동의 기준점으로 제시한다. 또한 의도된 행동이 실제 배포 성능보다 앞설 수 있음을 인정한다.

독자에게 주는 함의는 정책 개정을 모든 애플리케이션에 걸친 보편적 변화로 간주하지 말아야 한다는 것이다. 모델을 둘러싼 도구와 권한은 모델이 할 수 있는 일에 영향을 준다. 인터페이스는 사람이 무엇을 검토할 수 있는지에 영향을 준다.

초안 작성 도구에 내장된 모델은 공유 비즈니스 시스템에 연결된 모델과 다른 운영상 제약에 직면한다. 응답에 비슷한 표현이 있다고 해서 동등한 행동이 입증되는 것은 아니다.

평가는 시스템과 환경 간의 차이도 고려해야 한다. Anthropic이 7월에 발표한 언어 전반의 가치 연구는 Claude 모델과 언어에 따라 표현되는 가치가 어떻게 달라지는지 살펴본다. 회사는 헌장이 실제 대화에서 나타나는 모든 가치를 예상할 수는 없다고 지적한다.

이 연구는 OpenAI의 모델을 측정한 것이 아니다. 그 관련성은 방법론에 있다. 의도된 가치와 관찰된 응답은 서로 다른 조건에서 별도로 검토해야 한다.

기업 구매자에게 유용한 평가는 실제로 배포하는 환경 전반에서 동일한 기본 작업을 비교하는 방식일 것이다. 여기에는 서로 다른 언어, 이용 가능한 문서, 또는 도구 접근 수준이 포함될 수 있다.

목적은 의미 있는 행동 차이를 파악하는 것이다. 증거가 불완전할 때 시스템은 불확실성을 보존하는가? 번역된 요청이 시스템이 세우는 가정을 바꾸는가? 추가 맥락은 결과를 개선하는가, 아니면 뒷받침되지 않는 결론을 도입하는가?

이 질문들은 신중하게 구성된 사례를 필요로 한다. 테스트는 사용자가 무엇을 승인했고 시스템이 어떤 정보를 받았는지 확립해야 한다. 그러한 기준선이 없다면 평가자는 합리적인 해석을 오류로 오인할 수 있다.

또한 우연히 좋은 결과가 나온 일을 건전한 의사결정으로 오인할 수도 있다. 시스템은 승인되지 않은 행동을 취하면서도 우연히 유용한 결과를 만들 수 있다. 결과만 평가하면 잘못된 행동에 보상하게 된다.

반대로 필수적인 권한이 없어서 시스템이 행동을 거부할 수도 있다. 작업이 미완성으로 남더라도 이는 적절할 수 있다. 평가는 정당한 자제와 불필요한 방해를 구분해야 한다.

여러 가치가 서로 다른 방향으로 작용할 때 과제는 더 커진다. 작업을 신속하게 완료하는 일은 중요한 가정을 확인하는 일과 충돌할 수 있다. 간결한 답변을 제공하는 일은 중대한 불확실성을 이해 가능하게 만드는 일과 충돌할 수 있다.

신뢰할 수 있는 평가는 이러한 긴장을 드러내야 한다. 종합 점수는 유용하지만, 의사결정 경계에 가까운 사례는 그 점수가 실제 업무에서 무엇을 의미하는지 설명하는 데 도움이 된다.

공개 명세는 여기에서 기회를 만든다. 외부 연구자와 고객에게 행동에 관한 의견 차이를 설명할 언어를 제공한다. 실패는 해석, 권한 부여 또는 수정에 관한 구체적인 질문이 될 수 있다.

비교 가능한 증거가 없다면 그 기회는 제한적이다. 구매자는 성공적인 실행 사례와 인정된 한계 사례를 모두 찾아야 한다. 설득력 있는 가치 문서는 그러한 대화를 위한 출발점이다.

따라서 OpenAI Model Spec 업데이트는 평가 계획을 대체하기보다 이를 알리는 역할을 해야 한다. 가장 강력한 실질적 기여는 관찰자가 검토할 수 있는 더 명확한 약속의 집합을 제공하는 데 있다.

OpenAI Model Spec 업데이트 이후 주목할 점

다음으로 유용한 신호는 학습 증거, 가시적인 애플리케이션 제어 장치, 그리고 의미 있는 사용자 수정을 시험하는 평가다.

첫 번째 신호는 학습 변경 사항을 구체적인 행동과 연결하는 증거다. 앞으로 몇 달 동안 독자는 명확하게 설명된 작업, 비교 방법, 실패 범주를 찾아야 한다.

결과는 사실 정확성과 권한 및 맥락 처리를 구분한다면 더 유익할 것이다. 시스템은 질문에 답하는 능력은 향상될 수 있지만, 언제 행동해야 하는지에 대해서는 여전히 일관성이 없을 수 있다.

모델이 권한을 확대하지 않으면서 낯선 상황을 처리한다는 증거는 이 접근법의 근거를 강화할 것이다. 익숙한 사례에만 국한된 증거는 핵심적인 판단 문제를 덜 명확하게 남길 것이다.

두 번째 신호는 애플리케이션이 제어권을 어떻게 드러내는지다. 중요한 가정을 더 쉽게 검토하고 중요한 행동을 더 쉽게 확인할 수 있게 만드는 변화가 관련될 것이다.

공유 기록을 업데이트하려는 가상의 프로젝트 보조 도구를 생각해 보자. 유용한 인터페이스는 제안된 변경 사항을 보여 주고 어떤 세부 사항이 추론에서 비롯되었는지 식별할 수 있다. 그러면 사용자는 동료에게 영향을 미치기 전에 해석을 수정할 수 있다.

그러한 제어 장치는 감독을 더 실질적으로 만든다. 시스템이 인간의 의도를 존중한다는 일반적인 보장만으로는 사람이 어떻게 개입할 수 있는지에 대한 증거가 부족하다.

독자는 수정 사항이 어떻게 전파되는지도 지켜봐야 한다. 대화에서 가정을 수정하면 그 가정에 의존하는 문서, 계획 또는 행동에도 영향을 주어야 한다. 그에 상응하는 변경 없는 인정은 근본 문제를 해결하지 못한 채 남긴다.

세 번째 신호는 장기 상호작용 전반에서 주체성을 평가하는 일이다. 연구자와 고객은 시스템이 계획에 노력을 들인 뒤에도 사용자가 방향을 바꿀 수 있는지 검토해야 한다.

유용한 테스트는 작업 도중 우선순위의 정당한 변경을 도입할 수 있다. 질문은 시스템이 관련 작업을 보존하고 수정된 목표를 존중하면서 적응하는지 여부가 될 것이다.

강력한 결과는 유능한 시스템이 인간의 지시에 계속 반응할 수 있다는 주장을 뒷받침할 것이다. 반복되는 저항, 숨겨진 가정 또는 승인되지 않은 작업 지속은 그 주장을 약화시킬 것이다.

AI 도구를 선택하는 독자는 자신이 충분히 평가할 수 있는 작업부터 시작해야 한다. 위임할 결정과 유지할 결정을 식별하라. 상황이 변할 때 시스템이 그 경계를 가시화하는지 살펴보라. 수정이 결과를 개선한 사례와 수정이 작업에 반영되지 못한 사례를 보관하라. 이러한 관찰을 OpenAI Model Spec 업데이트의 약속과 비교하라. 유용한 질문은 구체적이다. AI 시스템이 당신의 의도를 해석할 때, 당신은 여전히 그 선택을 이해하고, 방향을 바꾸며, 다음에 무엇을 할지 통제할 수 있는가?