AI에 프롬프트를 입력하는 것을 멈추고 지휘를 시작하라

Google News는 효과적인 업무의 중심을 AI 프롬프트로 여기는 일을 멈추라는 MIT Sloan Management Review의 주장을 소개했다. “Stop Prompting AI. Start Directing It”이라는 제목은 개별 지시문을 작성하는 방식에서 벗어나, 지속적으로 작동하는 생산 시스템을 관리하는 방식으로의 전환을 시사한다.

이 구분이 중요한 이유는 비즈니스 AI가 채팅을 넘어 확장되고 있기 때문이다. 이제 모델은 파일을 검색하고, 도구를 호출하며, 코드를 작성하고, 문서를 수정하고, 여러 단계에 걸쳐 작업을 이어갈 수 있다. 잘 다듬어진 프롬프트는 그 과정을 시작할 수 있지만, 시스템이 마주할 모든 결정을 정의할 수는 없다.

따라서 새롭게 부상하는 경쟁 구도는 인간 대 AI가 아니다. 일회성 프롬프팅 대 구조화된 지휘다. 전자는 모델에 답을 요청한다. 후자는 목표, 관련 맥락, 운영 경계, 검토 지점, 측정 가능한 성공 기준을 제공한다.

이 때문에 MIT Sloan의 제목은 또 하나의 프롬프트 작성 수업에 그치지 않는다. 이는 인간의 역할을 다시 정의한다. 희소한 역량은 무엇이 이뤄져야 하는지, 어떤 증거가 유효한지, 자율성이 어디에서 멈춰야 하는지, 그리고 결과가 승인을 받을 만한지를 결정하는 판단력이 되고 있다.

Google News의 제목이 실제로 바꾸는 것

중요한 변화는 새로운 프롬프트 공식이 아니다. 새로운 업무 단위다.

Google News 목록은 수년간의 프롬프트 조언 아래에 숨어 있던 관리상의 질문으로 독자를 이끈다. AI가 실제 업무에 참여한다면, 사람들은 개별 응답을 관리해야 할까, 아니면 전체 과정을 지휘해야 할까?

프롬프팅은 대체로 각 상호작용을 작은 거래로 취급한다. 사용자가 요청을 제시하면 모델이 무언가를 생성하고, 사용자는 이를 받아들이거나 다시 시도한다. 맥락은 세션 사이에서 자주 사라지는 반면, 기준은 누군가의 기억 속에 묻힌 채 남는다.

지휘는 과제를 관리되는 워크플로로 다룬다. 사용자는 결과를 정의하고, 근거를 제공하며, 제약을 식별하고, 도구를 배정하고, 점검 지점을 설정한다. 모델은 여전히 프롬프트를 받지만, 그 프롬프트는 더 큰 운영 설계의 일부가 된다.

시장 분석 요청을 생각해 보자. 프롬프트 중심의 사용자는 AI 어시스턴트에게 시장을 요약하고 전략을 추천해 달라고 요청할 수 있다. 모델은 대상 독자, 지역, 시간 범위, 증거 기준, 허용 가능한 불확실성 수준을 추론해야 한다.

반면 지휘자는 먼저 분석이 뒷받침해야 하는 결정을 정의한다. 그다음 AI에 승인된 출처, 고객 메모, 기존 연구, 필수 날짜 범위를 제공할 수 있다. 상충하는 증거를 처리하는 명시적 지침도 함께 제공한다.

지휘자는 시스템이 검증된 사실과 추정치를 구분하도록 요구할 수 있다. 워크플로는 추천을 제시하기 전에 일시 중단되어, 사람이 증거를 검토할 수 있게 할 수 있다. 최종 승인은 비즈니스 결정에 책임을 지는 사람이 맡는다.

이 접근 방식은 팀이 AI 성과를 평가하는 방법을 바꾼다. 유창한 응답만으로는 더 이상 충분하지 않다. 팀은 시스템이 올바른 정보를 사용했는지, 의도된 과정을 따랐는지, 불확실성을 드러냈는지, 활용 가능한 결과를 만들었는지를 물어야 한다.

이 구분은 실패 진단도 바꾼다. 모호한 요청 뒤에 부실한 답변이 나왔다면 프롬프트를 다시 작성하는 것이 도움이 될 수 있다. 그러나 반복되는 실패는 흔히 누락된 맥락, 불분명한 책임, 부실한 출처 선택, 또는 부재한 검토 기준을 드러낸다.

이는 관리와 시스템 설계의 문제다. 이를 문구의 문제로 다루면 팀은 끝없는 프롬프트 튜닝에 빠진다. 형용사와 형식 지침을 조정하면서도, 정작 근본적인 과제 정의는 불분명하게 남겨 둔다.

따라서 “지휘를 시작하라”는 표현은 전문성이 완벽한 텍스트 블록 안에 존재한다는 생각에 도전한다. 지휘는 과제 설계, 출처 선택, 권한, 메모리, 도구, 평가, 인간의 개입 전반에 분산된다.

그렇다고 프롬프팅이 무의미해지는 것은 아니다. 모든 지휘형 워크플로에는 여전히 명확한 의사소통이 필요하다. 달라지는 점은 프롬프팅이 신뢰할 수 있는 업무를 얻기 위한 완전한 방법이 아니라 여러 제어 수단 중 하나가 된다는 것이다.

이 프레임은 관리자에게 도입을 논의하는 더 현실적인 방법도 제공한다. 직원들이 마법의 문구를 찾아내는 문학 전문가가 될 필요는 없다. 맥락, 기준, 책임을 보존하면서 업무를 위임하는 법을 배워야 한다.

같은 원칙은 이미 효과적인 인간 팀을 지배한다. 관리자는 민감한 프로젝트를 한 문장으로 지시한 뒤 사라지지 않는다. 목표를 설명하고, 배경을 공유하며, 경계를 정의하고, 검토 일정을 잡고, 결과를 살핀다.

AI 시스템에도 유사한 구조가 필요하지만, 실패 양상은 다르다. AI는 그럴듯한 오류를 만들어 내거나, 악의적으로 삽입된 지시를 따르거나, 불완전한 목표를 놀라운 끈기로 추구할 수 있다. 따라서 지휘에는 일반적인 관리자의 판단과 함께 기술적 통제가 포함되어야 한다.

이것이 Google News 제목이 시사하는 실질적인 변화다. 논의는 “무엇을 입력해야 할까?”에서 “어떤 시스템이 이 업무를 통제해야 할까?”로 이동하고 있다.

일회성 프롬프팅이 한계에 이르는 이유

단일 프롬프트만으로는 중요한 업무에 필요한 맥락, 통제, 평가 기준을 안정적으로 담아낼 수 없다.

프롬프트 엔지니어링이 인기를 얻은 데에는 이해할 만한 이유가 있다. 초기 생성형 AI 제품은 빈 텍스트 상자를 제시했고, 사용자는 자연스럽게 그 안에 입력하는 내용에 집중했다. 작은 표현 변화만으로도 눈에 띄게 다른 답변이 나올 수 있었다.

이 모델은 범위가 제한되고 되돌릴 수 있는 작업에는 여전히 잘 작동한다. 사용자는 대체 제목, 대략적인 회의 안건, 또는 초안 수준의 재작성 등을 요청할 수 있다. 결과물을 검토하고 수정하는 비용도 낮게 유지된다.

문제는 과제가 여러 출처나 행동에 걸칠 때 커진다. 리서치 브리프를 준비하는 모델은 어디를 검색할지, 어떤 증거를 신뢰할지, 언제 충분한 정보를 모았다고 판단할지를 결정해야 한다. 소프트웨어를 편집하는 모델은 파일을 검사하고, 테스트를 실행하며, 실패를 해석하고, 관련 없는 변경을 피해야 한다.

업무 중 마주치는 모든 상태를 하나의 시작 프롬프트로 예측할 수는 없다. 시스템에는 도구로부터의 피드백과 다음 행동을 조정할 수 있는 능력이 필요하다. 잘못된 해석이 전체 과정으로 퍼지는 것을 막을 제한도 필요하다.

이 지점에서 agentic AI가 등장한다. 에이전트는 목표를 추구하면서 행동을 선택하고 도구를 사용할 수 있는 모델 기반 시스템이다. 한 번의 응답을 생성하는 대신, 계획, 실행, 관찰, 수정의 반복 주기를 통해 작동한다.

Anthropic은 효과적인 AI 에이전트에 관한 가이드에서 워크플로와 에이전트를 유용하게 구분한다. 워크플로는 미리 정의된 코드 경로를 따르는 반면, 에이전트는 과정과 도구 사용의 일부를 동적으로 선택한다.

이 구분은 “지휘”가 최대 자율성을 뜻하는 구호가 되는 것을 막는다. 예측 가능한 워크플로는 안정적인 작업에 더 적합한 경우가 많다. 에이전트는 경로를 사전에 완전히 명시할 수 없고 시스템이 변화하는 정보에 대응해야 할 때 유용해진다.

따라서 팀은 프롬프트를 작성하기 전에 운영 패턴을 선택해야 한다. 고정된 추출 프로세스는 검증 규칙을 갖춘 워크플로를 사용할 수 있다. 개방형 조사는 출처를 검색하고 비교하며, 설명을 요청하는 에이전트를 사용할 수 있다.

이 선택은 비용, 속도, 위험에 영향을 준다. 더 많은 자율성은 더 넓은 과제를 처리할 수 있지만, 실행 경로를 길게 만들고 행동의 예측 가능성을 낮출 수도 있다. 지휘자는 이러한 상충 관계가 과제에 부합하는지 결정해야 한다.

고립된 프롬프팅의 한계는 일상적인 지식 업무에서도 나타난다. 직원들은 이메일, 문서, 회의, 개인 메모에 흩어진 정보를 자주 필요로 한다. 그러한 맥락이 없는 모델은 추측하거나 반복적인 설명을 요청해야 한다.

지속적인 맥락은 상호작용을 바꾼다. 매 대화마다 같은 배경을 붙여 넣는 대신, 직원들은 시스템이 검색할 수 있도록 승인된 정보 집합을 유지할 수 있다. 그러면 그 정보의 품질은 관리상의 관심사가 된다.

개인 지식 베이스는 출처 자료를 검색 가능하게 유지함으로써 이 접근 방식을 지원할 수 있다. 그러나 저장만으로 정확성이 보장되지는 않는다. 사용자는 무엇을 작업 맥락에 포함하고 무엇을 제외할지 여전히 결정해야 한다.

평가 역시 또 다른 한계를 제시한다. 프롬프트는 원하는 결과물을 설명할 수 있지만, 복잡한 과제에는 모델의 문장 밖에서 작동하는 테스트가 필요하다. 코드는 실행되어야 한다. 인용은 확인 가능해야 한다. 계산은 재현되어야 한다. 주장은 원본 문서와 일치해야 한다.

이러한 검사가 없으면 사용자는 내용보다 스타일을 더 쉽게 평가하게 된다. 누구도 사실적 기반을 검증하기 전에 자신감 있는 답변이 완성된 것처럼 느껴질 수 있다. 지휘는 표현에서 검증으로 관심을 옮긴다.

Microsoft Research는 직장 내 AI의 측정 가능한 이점을 발견했지만, 그 결과는 배포 설계가 중요한 이유도 보여 준다. 6개월간의 무작위 현장 실험에는 6,000명의 직원이 참여했고, 그중 절반은 이메일, 문서, 회의에 통합된 생성형 AI 도구를 제공받았다.

도구를 사용한 직원들은 매주 이메일 처리에 쓰는 시간이 3시간 줄었고 문서 작업도 다소 더 빠르게 완료한 것으로 나타났다. 그러나 업무 패턴 연구에 따르면 회의 시간에는 유의미한 변화가 없었다.

이 패턴은 AI가 광범위한 조정이 필요한 업무보다 개인이 더 쉽게 통제할 수 있는 활동을 개선할 수 있음을 시사한다. 더 나은 응답 생성기가 승인 절차, 회의, 팀 간 의존성, 의사결정 권한을 자동으로 재설계하는 것은 아니다.

지휘는 그 공백을 다룬다. 관리자는 AI가 생성한 업무가 조직 안에서 어떻게 이동하는지 결정해야 한다. 누가 이를 검토할지, 어디에서 기존 시스템에 들어갈지, 동료들이 그 근거를 추적할 수 있는지를 명시해야 한다.

프롬프트는 요약을 요청할 수 있다. 하지만 그것만으로 그 결과에 따른 결정을 누가 책임지는지 정할 수는 없다. 팀이 출처 자료를 보존해야 하는지, AI 관여 사실을 공개해야 하는지도 결정할 수 없다.

이러한 주변의 선택이 AI가 유용한 구성 요소가 될지, 아니면 추적되지 않는 산출물의 또 다른 층이 될지를 결정한다. 일회성 프롬프팅은 조직 업무가 시작되는 바로 그 지점에서 한계에 도달한다.

새로운 역량은 프롬프트 성과가 아니라 AI 지휘다

효과적인 AI 지휘는 위임, 맥락 관리, 검증, 적시 개입을 결합한다.

지휘는 더 명확한 목표에서 시작한다. “이 고객 인터뷰를 분석하라”는 의사결정을 식별하지 않기 때문에 여전히 지나치게 열려 있다. 유용한 목표는 시스템에 다음 제품 출시에서 영향을 미쳐야 할 온보딩 장애 요인을 식별하도록 요청할 수 있다.

목표에는 완료 기준이 함께 제시되어야 한다. 시스템은 반복되는 주제를 식별하고, 상충하는 피드백을 보존하며, 원본 인터뷰를 인용하고, 관찰과 제안된 행동을 구분해야 할 수 있다.

이 접근 방식은 품질을 관찰 가능한 것으로 바꾼다. 검토자는 결과물이 단지 통찰력 있게 들리는지를 논하는 대신 AI가 과제를 충족했는지 판단할 수 있다.

다음은 맥락이다. 팀은 모든 가용 문서를 모델에 쏟아붓기보다 가장 작고 관련성 높은 증거 집합을 제공해야 한다. 대규모 자료 모음에는 오래된 정책, 중복된 메모, 관련 없는 대화, 상충하는 용어가 포함될 수 있다.

컨텍스트 엔지니어링은 작업 중 모델이 이용할 수 있는 정보를 선택하고 구성하는 실무다. 목표는 최대한 많은 정보를 제공하는 것이 아니다. 모델이 다음 결정을 올바르게 내리기에 충분한 신뢰할 수 있는 정보를 제공하는 것이다.

그 컨텍스트의 경계에 대한 책임은 여전히 사람에게 있다. 민감한 정보는 제외하거나 처리를 제한해야 할 수 있다. 오래된 문서에는 라벨이 필요할 수 있으며, 불확실한 주장은 불확실하다는 점이 분명히 드러나야 한다.

지휘자는 업무도 여러 단계로 나눈다. 조사, 종합, 권고, 발행이 하나의 불투명한 작업으로 합쳐져서는 안 된다. 각 단계는 사람 또는 자동화된 검사가 확인할 수 있는 산출물을 만들어야 한다.

예를 들어, 지휘된 기사 워크플로는 먼저 출처를 수집할 수 있다. 두 번째 단계에서는 주장을 추출하고 근거를 연결할 수 있다. 세 번째 단계에서는 중복을 제거하고, 네 번째 단계에서는 검증된 자료만으로 초안을 작성할 수 있다.

인용 확인과 편집 검토를 통과하기 전까지 발행 단계는 차단된 상태로 유지된다. 각 점검 지점은 오류가 공개되기 전에 이를 막는다.

도구 권한은 또 다른 지휘의 계층을 제공한다. 캘린더를 읽는 일은 초대장을 보내는 일보다 즉각적인 위험이 적다. 이메일 초안을 작성하는 일과 실제로 전송하는 일은 다르다. 데이터베이스를 조회하는 일과 레코드를 수정하는 일도 다르다.

Anthropic은 작업을 항상 허용하거나, 승인을 요구하거나, 차단하는 권한 선택지를 설명한다. 신뢰할 수 있는 에이전트에 관한 논의에서는 수십 건의 개별 작업을 승인하는 것보다 전체 계획을 검토하는 편이 왜 더 의미 있을 수 있는지도 설명한다.

반복되는 저수준 승인 요청은 그 자체로 위험을 만든다. 사용자는 피로를 느끼고 검토 없이 작업을 승인할 수 있다. 지휘는 판단이 결과를 바꾸는 의사결정 지점에 사람의 주의를 배치해야 한다.

이는 사람이 모든 토큰이나 도구 호출을 검사할 필요는 없다는 뜻이다. 사람은 전략, 되돌릴 수 없는 작업, 불확실한 근거, 최종 결과를 검토해야 한다. 위험이 낮은 중간 단계는 정해진 경계 안에서 진행할 수 있다.

필요한 통제 수준은 결과의 중대성에 따라 달라진다. 브레인스토밍 보조 도구는 결과를 쉽게 거부할 수 있으므로 폭넓은 자유 아래 작동할 수 있다. 고객 기록, 법률 자료 또는 금융 의사결정을 다루는 시스템에는 더 좁은 권한과 더 강한 근거가 필요하다.

지휘자는 언제 개입해야 하는지도 알아야 한다. 모델이 잘못된 산출물을 반복해서 수정하고 있다면, 더 영리한 후속 프롬프트가 필요한 것이 아니다. 목표, 컨텍스트 또는 워크플로를 바로잡아야 한다.

유용한 개입 신호에는 뒷받침되지 않은 결론, 설명되지 않는 출처 간 충돌, 도구 실패, 명시된 범위를 벗어난 변경 등이 있다. 팀은 일부 신호를 자동 검사로 구현하고, 모호한 사례는 사람의 검토를 위해 남겨둘 수 있다.

메모리는 또 다른 관리 선택지를 추가한다. 지속되는 지침은 반복적인 프롬프팅을 줄일 수 있지만, 잘못된 가정도 보존할 수 있다. 팀에는 미래의 작업에 영향을 주는 지침을 검사하고, 업데이트하고, 폐기할 방법이 필요하다.

이 지점에서 AI 세컨드 브레인은 지휘와 관련성을 갖는다. 그 가치는 정보를 기억하는 데만 있지 않고, 사용자에게 향후 작업을 위한 검토 가능한 컨텍스트를 제공하는 데 있다.

지휘에는 역할의 명확성도 필요하다. AI는 조사와 초안 작성을 맡고, 사람은 근거를 검증하며 책임을 수용할 수 있다. 다른 사람이 발행을 승인하거나 외부 작업을 허가할 수도 있다.

모델의 출력물이 세련돼 보인다는 이유만으로 이러한 역할이 흐려져서는 안 된다. 시스템은 경영진다운 언어를 생성할 수 있지만, 경영진 권한을 보유하는 것은 아니다. 유창함이 책임성을 부여하지는 않는다.

팀은 이러한 운영 선택을 재사용 가능한 지침, 템플릿, 평가 규칙에 문서화해야 한다. 그러면 좋은 성과가 한 직원이 적절한 표현을 기억하는 데 덜 의존하게 된다.

개선도 측정 가능해진다. 출력이 실패하면 팀은 문제를 출처 수집, 작업 정의, 실행, 검토 또는 승인 단계에서 찾을 수 있다. 프롬프트 문구는 여전히 가능한 원인 중 하나이지만, 더는 기본 설명이 아니다.

따라서 AI 지휘는 비밀 명령어를 찾아내는 일보다 편집, 제품 관리, 운영에 더 가깝다. 이는 사람에게 의도를 통제된 프로세스로 번역하고, 현실이 계획에서 벗어나는 시점을 인식하도록 요구한다.

시스템이 더 긴 작업을 수행할수록 그 책임은 더 중요해진다. 사람이 개입하는 빈도가 낮을수록, 목표와 경계는 사전에 더 신중하게 설계되어야 한다.

지휘가 AI의 신뢰성 문제를 없애지는 않는다

사람의 지휘는 통제를 개선하지만, 불확실한 모델을 선언만으로 신뢰할 수 있게 만들지는 않는다.

관리 비유에는 매력적인 단순함이 있다. AI에 명확한 임무를 부여하고, 계획을 점검하며, 결과를 평가하면 된다. 그러나 AI 시스템은 직원이 아니며, 이를 사람처럼 대하면 중요한 기술적 차이가 가려질 수 있다.

모델은 사용자가 역할을 부여한다고 해서 안정적인 판단력을 갖추는 것이 아니다. 모델은 학습된 패턴, 현재 컨텍스트, 시스템 규칙, 도구 피드백을 바탕으로 출력을 예측하고 선택한다. 이러한 입력 중 어느 하나가 바뀌어도 행동은 달라질 수 있다.

시스템은 자신감 있는 문체로 거짓 진술을 생성할 수도 있다. 에이전트형 워크플로에서는 하나의 잘못된 가정이 이후의 검색, 계산, 코드 변경 또는 권고에 영향을 미칠 수 있다. 실행이 길어질수록 오류가 누적될 기회도 많아진다.

NIST의 생성형 AI 프로필은 조직이 관리해야 할 우려 사항으로 허구 생성, 정보 보안, 개인정보 보호, 유해한 편향, 인간-AI 구성 등을 지목한다.

NIST는 사람의 감독을 위한 역할과 책임을 정의하는 정책을 권고한다. 또한 식별된 위험에 비례한 테스트와 평가도 요구한다. 이러한 안전장치는 희망적인 최종 프롬프트 안이 아니라 워크플로 주변에 배치되어야 한다.

프롬프트 인젝션도 또 다른 과제다. 악의적이거나 무관한 지침은 에이전트가 읽는 웹사이트, 이메일 또는 문서 안에 나타날 수 있다. 시스템이 그 내용을 권위 있는 지침으로 취급하면 정보를 공개하거나 의도하지 않은 작업을 수행할 수 있다.

따라서 지휘자는 신뢰할 수 있는 운영 지침과 신뢰할 수 없는 출처 자료를 분리해야 한다. 도구는 모델이 읽는 내용과 무관하게 독립적으로 권한을 강제해야 한다. 민감한 작업에는 명시적 승인이 필요하거나, 아예 사용할 수 없어야 한다.

지휘는 컴퓨터 출력을 지나치게 쉽게 받아들이는 경향인 자동화 편향 때문에도 실패할 수 있다. 더 나은 인터페이스는 AI 작업의 감독을 쉽게 만들 수 있지만, 세련된 계획과 인용도 여전히 잘못된 확신을 만들 수 있다.

Microsoft Research의 지식 근로자 319명을 대상으로 한 설문조사는 생성형 AI 활용 사례 936건을 수집했다. AI에 대한 신뢰가 높을수록 비판적 사고는 줄어드는 경향을 보였으며, 개인 전문성에 대한 신뢰가 높을수록 비판적 사고는 더 많이 나타났다.

비판적 사고 연구는 AI가 비판적 작업을 검증, 통합, 작업 관리 쪽으로 이동시켰다고 밝혔다. 이 결과는 지휘 모델을 뒷받침하는 동시에 그 핵심 약점을 드러낸다.

사람은 나쁜 결과를 알아볼 수 있을 만큼의 도메인 지식을 유지해야 한다. 조직이 학습 기회를 보존하지 않은 채 초급 업무를 자동화한다면, 미래의 숙련된 검토자 공급을 줄일 수 있다.

AI가 그럴듯한 첫 초안을 만들 때 이 위험은 특히 뚜렷하다. 주니어 직원은 업무를 더 빨리 완료할 수 있지만, 근거를 덜 깊이 다룰 수 있다. 그러면 시니어 검토자는 더 많은 산출물에 걸쳐 더 많은 검증 업무를 떠안게 된다.

생산성 지표는 이러한 이전을 놓칠 수 있다. 팀은 완료된 문서 수를 세면서 검토 시간, 오류 수정 또는 이후의 혼란은 무시할 수 있다. 지휘에는 생성 속도뿐 아니라 전체 프로세스 성과를 위한 지표가 포함되어야 한다.

조직은 승인율, 수정률, 뒷받침되지 않은 주장, 보안 사고, 검토자 투입 노력을 추적해야 한다. 실용적인 경우에는 AI를 사용하지 않은 기준선과 결과도 비교해야 한다.

적절한 측정 기준은 작업에 따라 달라진다. 소프트웨어 팀은 테스트, 결함, 검토 결과를 활용할 수 있다. 연구 팀은 인용 정확도와 주장 범위를 측정할 수 있다. 고객 운영 팀은 해결 품질과 에스컬레이션 비율을 추적할 수 있다.

또 다른 불확실성은 자율성과 관련된다. 경험이 많은 사용자는 도구를 이해하기 때문에 에이전트가 더 오래 작동하도록 허용할 수 있다. 동시에 위험한 행동을 너무 빨리 승인할 정도로 익숙해질 수도 있다.

Anthropic의 2026년 에이전트 자율성 분석에 따르면, 숙련된 Claude Code 사용자는 전체 자동 승인을 더 자주 활성화했지만 시스템을 더 자주 중단하기도 했다. 이러한 조합은 완전한 신뢰보다 능동적 감독에 가깝다.

같은 연구는 소프트웨어 엔지니어링이 관찰된 에이전트형 활동의 거의 절반을 차지했다고 보고했다. 기록된 작업 대부분은 위험이 낮고 되돌릴 수 있었으며, 더 높은 이해관계의 활용은 여전히 새롭게 등장하는 범주였다.

이러한 결과는 자율적인 디지털 동료에 대한 광범위한 주장을 절제하게 해야 한다. 가장 강한 근거는 여전히 검사 가능한 산출물, 되돌릴 수 있는 변경, 명확한 평가 방법을 갖춘 작업에서 나온다.

기업 리더는 코딩이나 문서 초안 작성에서의 성공을 채용, 의료, 법률 또는 신용 의사결정에 대한 신뢰로 곧바로 옮겨서는 안 된다. 결과의 성격이 다르면 통제 구조도 달라야 한다.

지휘는 오버헤드도 수반한다. 컨텍스트, 권한, 테스트, 점검 지점을 설계하는 데는 시간이 든다. 작고 되돌릴 수 있는 작업에서는 그 노력이 자동화의 가치를 초과할 수 있다.

합리적인 원칙은 비례적 통제다. 작업의 위험이 낮고 쉽게 확인할 수 있다면 단순한 프롬프팅을 사용한다. 일관성이 중요하다면 사전 정의된 워크플로를 사용한다. 유연한 추론이 추가된 불확실성을 정당화하는 작업에 더 큰 자율성을 부여한다.

그러므로 MIT Sloan의 프레이밍은 신뢰성의 보장이 아니라 책임의 변화로 읽어야 한다. AI를 지휘한다는 것은 불완전한 모델 주변에 더 강한 시스템을 구축하라는 의미다. 모델의 불완전성을 없애지는 않는다.

관리자와 지식 근로자가 다음으로 주시해야 할 점

지휘라는 논지는 조직이 더 큰 위험이나 검토 노동을 숨기지 않으면서 더 나은 결과를 보여줄 수 있을 때에만 성공할 것이다.

첫 번째로 주시할 신호는 AI 인터페이스가 채팅 상자에서 지속적인 작업 공간으로 이동하는 흐름이다. 제품은 세션 전반에 걸쳐 파일, 지침, 프로젝트 이력, 도구 연결을 점점 더 유지하고 있다.

이러한 변화는 사용자가 컨텍스트를 반복해서 재구성하는 대신 운영 환경을 형성할 수 있게 하므로 지휘의 근거를 강화한다. 중요한 질문은 그러한 환경이 투명하고 수정 가능하게 유지되는지다.

작업자는 어떤 지침이 결과에 영향을 미쳤는지 확인할 수 있어야 한다. 시스템이 어떤 출처에 접근했고, 어떤 도구를 사용했으며, 이전 세션의 어떤 가정이 유지됐는지 알아야 한다.

제품이 이 정보를 명확히 제공한다면 지휘는 더 쉽게 감사할 수 있다. 컨텍스트가 계속 숨겨져 있다면, 지속적 메모리는 오래된 오류를 보이지 않는 기본값으로 바꿀 수 있다.

두 번째 신호는 시연이 아니라 실제 배포된 워크플로에서 나오는 근거다. 공급업체는 신중하게 선정된 조건에서 에이전트가 인상적인 작업을 완료하는 모습을 보여줄 수 있다. 기업에는 일상적인 업무, 다양한 사용자, 불완전한 데이터 전반의 결과가 필요하다.

총 작업 시간, 산출물 품질, 검토 부담, 오류율을 보고하는 통제된 연구를 주시해야 한다. 품질 측정이 없는 생산성 수치는 불완전한 그림만 제공한다.

Microsoft의 업무 환경 실험은 6개월간의 행동을 비교하고 개인 활동과 조율이 많이 필요한 업무를 구분했기 때문에 유용한 모델을 제시한다. 향후 연구에서는 지시형 AI가 의사결정, 승인, 팀 프로세스를 바꾸는지 살펴봐야 한다.

증거는 워크플로와 에이전트도 구분해야 한다. 기업은 고정된 순서를 따르는 자동화 AI 기능도 에이전트형이라고 설명할 수 있다. 구매자는 모델이 어디에서 행동을 선택하고, 어디에서 소프트웨어가 경로를 강제하는지 알아야 한다.

이러한 아키텍처는 예측 가능성에 영향을 준다. 고정 워크플로는 일관성을 제공할 수 있고, 동적 에이전트는 예상치 못한 상황이 발생했을 때 적응할 수 있다. 어느 접근 방식도 보편적으로 우월하지는 않다.

세 번째 신호는 감독이 반복적인 승인에서 위험 기반 통제로 옮겨가는지 여부다. 사용자가 모든 작은 행동을 승인하게 하면 주의를 보장하지 못한 채 마찰만 만든다. 무제한 접근 권한을 부여하면 반대의 문제가 생긴다.

더 나은 시스템은 결과의 영향과 되돌릴 수 있는지를 기준으로 행동을 분류할 것이다. 승인된 폴더를 읽는 작업은 자동으로 진행될 수 있지만, 고객 기록을 변경하려면 검토가 필요하다. 외부 게시 작업은 내부 초안 작성과 계속 구분되어야 한다.

조직은 이러한 통제가 압박 상황에서도 작동하는지 시험해야 한다. 마감 기한이 촉박해지면 직원들은 느린 검토 시스템을 우회할 수 있다. 관리자 역시 초기 성공 이후 모니터링을 업데이트하지 않은 채 권한을 확대할 수 있다.

향후 1~3개월은 벤더들이 계획 검토, 지속형 컨텍스트, 권한 계층, 실행 후 로그를 어떻게 패키지화하는지 보여줄 것이다. 제품 발표 자체보다 이러한 통제 장치가 얼마나 명확한지가 더 중요할 것이다.

지식 노동자들은 지금 더 작은 실험을 진행해야 한다. 입력이 명확하고, 결과물을 검토할 수 있으며, 첫 시도가 실패해도 영향이 적은 반복 업무 하나를 선택하라.

프롬프트를 작성하기 전에 결과를 작성하라. 승인된 출처, 완료 기준, AI가 수행할 수 없는 행동을 식별하라. 사람이 반드시 검토해야 하는 지점과 검토자에게 필요한 증거를 결정하라.

그런 다음 그 과정을 일반적인 프롬프팅과 비교하라. 수정 횟수, 근거 없는 주장, 검토 시간, 활용 가능한 결과물을 측정하라. 목표는 AI가 작동한다는 사실을 증명하는 것이 아니다. 책임 있는 결과를 만들어내는 운영 설계가 무엇인지 발견하는 데 있다.

Google News가 날카로운 MIT Sloan 헤드라인을 통해 이 아이디어를 소개했을 수는 있지만, 오래 남는 질문은 모든 AI 사용자에게 해당한다. 당신은 모델에 반복해서 답을 요구하고 있는가, 아니면 자신의 판단을 보존하는 프로세스를 구축하고 있는가?

실제 워크플로 하나를 선택하고, 그 경계를 정의한 뒤, 그 차이를 시험하라. 지시가 오류를 보이게 유지하면서 재작업을 줄인다면, 그 헤드라인은 지속적인 관리 방식의 변화를 포착한 것이다.