Simon Willison, AI의 ‘고기 프록시’가 되지 말라고 경고

Simon Willison은 8월 3일 단호한 경고를 내놨다. AI가 생성한 답변을 맹목적으로 전달하는 ‘고기 프록시’가 되지 말라는 것이다. 이 표현은 익숙한 직장 내 실패를 유난히 정확하게 짚는다. 누군가 질문을 하고, 다른 사람이 모델에 프롬프트를 입력한 뒤, 그 응답이 의미 있는 인간의 검토 없이 그대로 전달되는 상황이다.

이 표현은 Niklas Gruhn이 만든 것으로, Willison은 자신의 8월 3일 게시물에서 그에게 공을 돌렸다. Willison의 조언은 프롬프트 작성이나 AI 보조 글쓰기를 거부하는 것이 아니다. 공유하기 전에 사용자가 결과를 읽고, 이해하고, 검증하고, 다시 작성해야 한다는 요구다.

이 구분은 직장 내 AI를 둘러싼 흔한 약속에 도전한다. 생성형 시스템은 텍스트를 만드는 데 걸리는 시간을 줄일 수 있지만, 속도가 곧 업무 완료를 뜻하지는 않는다. 사람이 단지 모델 출력을 운반할 뿐이라면, 수신자는 발신자가 피한 검증 부담을 떠안게 된다.

따라서 진짜 경쟁 구도는 인간 대 AI가 아니다. 책임 있는 보조와 검토 없는 위임의 대결이다. 전자는 모델을 사고를 가속하는 데 활용한다. 후자는 불확실한 모델 응답을 동료의 신중한 판단인 것처럼 위장한다.

Simon Willison, 무분별한 AI 전달에 이름을 붙이다

‘고기 프록시’는 AI 시스템과 다른 사람 사이에서 전달 계층 역할을 하는 사람을 뜻한다.

Willison의 짧은 게시물은 이메일, 채팅, 문서, 코드 리뷰, 지원 시스템 전반으로 퍼진 행동을 명확히 포착한다. 사용자는 질문을 받고 이를 대규모 언어 모델에 입력한다. 생성된 답변은 거의 검토하거나 다듬지 않은 채 원래 대화에 붙여넣어진다.

이 표현이 중요한 이유는 ‘AI 생성 콘텐츠’가 지나치게 넓은 말이기 때문이다. 신중하게 검토한 초안부터 손대지 않은 응답까지 모두 가리킬 수 있다. ‘고기 프록시’는 두 번째 사례의 핵심 실패를 분리해낸다. 명목상 작성자는 검증도, 책임 있는 판단도 보태지 않는다.

Willison은 구체적인 경계를 제시한다. AI 시스템에 프롬프트를 입력하는 것은 괜찮지만, 그 답변은 중간 산출물로 남아야 한다. 사용자는 이를 읽고, 그 추론을 이해하고, 주장을 검증한 뒤, 자신의 말로 답해야 한다.

다시 쓰기는 단순한 문체 취향이 아니다. 발신자가 답변을 설명할 수 있을 만큼 충분히 깊이 처리했다는 증거를 제공한다. 물론 사람이 허튼소리를 바꿔 쓸 수도 있으므로 그 증거가 완벽하지는 않지만, 공개 전에 유용한 마찰을 만든다.

일상적인 엔지니어링 대화를 생각해 보자. 한 팀원이 서비스에서 간헐적인 인증 오류가 발생하는 이유를 묻는다. 다른 엔지니어는 그 질문을 AI 어시스턴트에 붙여넣고, 만료된 토큰에 관한 매끄러운 설명을 전달한다.

그 설명은 그럴듯하게 들리지만, 실제 원인은 시계 오차, 잘못된 배포 또는 무관한 프록시 설정일 수 있다. 답변을 전달하는 행위는 추측을, 독자들이 조사된 사실로 받아들일 수 있는 채널로 옮긴다.

같은 패턴은 경영에서도 나타난다. 한 임원이 신규 시장 진출의 위험을 묻고, 분석가는 일반적인 모델 생성 평가를 전달한다. 그 응답은 현지 규제, 기존 계약 또는 회사 내부에 있는 정보를 빠뜨릴 수 있다.

겉으로 보이는 문서는 완성된 것처럼 보이지만, 분석 작업은 여전히 끝나지 않았다. 유창한 문장은 답변을 만드는 일과 그 답변이 상황에 맞는지 입증하는 일 사이의 간극을 가린다.

‘고기 프록시’는 팀이 그 간극을 간결하게 식별할 수 있는 표현을 제공한다. 또한 책임을 결과를 만든 모델에만 두지 않고, 그 출력을 전달하기로 선택한 사람에게도 둔다.

유창한 출력은 검증을 다음 단계로 떠넘긴다

고기 프록시는 대화에서 일을 없애지 않는다. 어려운 일을 다음 사람에게 옮길 뿐이다.

생성형 AI는 초안 작성을 저렴하고 빠르며 풍부하게 만든다. 반면 검증에는 출처 확인, 도메인 지식, 맥락 인식, 불확실성에 대한 판단이 여전히 필요하다. 이런 작업은 첫 응답을 생성하는 것보다 더 오래 걸리는 경우가 많다.

무분별한 전달은 비대칭적인 교환을 만든다. 발신자는 몇 초 만에 여러 단락을 만들어낸다. 수신자는 모든 사실 주장을 점검하고, 빠진 맥락을 추적하며, 모순을 찾아내고, 조언을 안전하게 사용할 수 있는지 판단해야 한다.

생성된 답변이 길어질수록 이 불균형은 심해진다. 긴 응답에는 개별적으로는 그럴듯한 주장이 많이 담길 수 있으며, 각각은 작은 오류 가능성을 안고 있다. 수신자는 자신감 있는 문체나 정돈된 구성만으로 신뢰성을 추론할 수 없다.

연구자들은 이 문제의 한 부분을 자동화 편향이라고 부른다. 이는 주의해야 할 이유가 있음에도 자동화된 권고에 과도하게 의존하는 경향이다. 동료 심사를 거친 35개 연구를 검토한 결과, 과도한 의존은 인간과 AI 협업에서 여전히 핵심 과제로 남아 있는 것으로 나타났다.

이 위험은 대규모 언어 모델보다 먼저 존재했다. 자동화 시스템은 수십 년 동안 항공, 의료, 공공 행정 등 여러 분야의 의사결정에 영향을 미쳐 왔다. 생성형 AI는 거의 모든 주제에 대해 설득력 있는 설명을 만들어낼 수 있기 때문에 이러한 우려를 확대한다.

전통적인 소프트웨어는 구조화된 입력과 예측 가능한 출력을 통해 한계를 드러내는 경우가 많다. 대화형 모델은 관련 증거가 부족해도 질문에 답할 수 있다. 이러한 유연성은 유용하지만, 근거 없는 응답을 알아차리기 어렵게도 만든다.

수신자는 기술적 신호뿐 아니라 사회적 신호도 마주한다. 동료가 보낸 메시지는 보통 그 동료가 내용을 선택하고, 이해하며, 책임진다는 뜻을 내포한다. 공개되지 않은 AI 전달은 메시지의 겉모습을 바꾸지 않은 채 이 함의를 약화시킨다.

이 때문에 공개만으로는 문제 전체를 해결할 수 없다. 텍스트가 AI 생성이라고 표시하면 독자에게 경고가 되지만, 동시에 발신자가 검토를 대신 수행하길 기대한다는 선언이 될 수도 있다. 발신자는 여전히 그 자료가 전달할 가치가 있는지 판단해야 한다.

이 부담은 코드에서 특히 뚜렷해진다. 생성된 패치는 컴파일되고 기본 테스트를 통과할 수 있지만, 안전하지 않은 가정이나 미묘한 유지보수 문제를 도입할 수 있다. 그러면 검토자는 제출한 개발자가 완전히 이해하지 못한 접근 방식을 다시 구성해야 한다.

지원팀도 이와 비슷한 실패를 겪는다. 상담원은 익숙한 템플릿을 따르지만 고객의 계정, 계약 또는 이전 문제 해결 과정과 충돌하는 답변을 전달할 수 있다. 그 결과 고객은 지연과 좌절을 통해 빠진 맥락 검토의 대가를 치르게 된다.

문제는 모든 AI 보조 메시지에 독자적인 조사가 필요하다는 데 있지 않다. 일정 안내나 기본적인 문장 수정은 법률 조언이나 프로덕션 변경보다 위험이 낮다. 필요한 검토 수준은 틀렸을 때의 결과에 비례해야 한다.

그럼에도 위험도가 낮은 메시지조차 신뢰에 영향을 준다. 동료들은 자신의 질문을 되풀이하거나, 공유된 맥락을 무시하거나, 추천 없이 일반적인 선택지 다섯 개를 제시하는 답변을 빠르게 알아챈다. 이런 패턴은 아무도 요청을 의미 있게 받아들이지 않았다는 신호가 된다.

Willison의 틀은 이러한 불쾌감을 노동의 문제로 바꿔 본다. 발신자가 응답을 이해하거나 평가하지 않았다면, 인간의 기여는 운반에 불과하다. 남은 인지적 작업은 사라지지 않았다.

진짜 경쟁은 보조와 위임의 대결이다

AI 보조는 판단을 사용자에게 남기지만, AI 위임은 판단을 확률적 시스템에 조용히 넘긴다.

대규모 언어 모델, 즉 LLM은 학습된 패턴과 제공된 맥락을 바탕으로 그럴듯한 토큰 시퀀스를 예측해 텍스트를 생성한다. 모든 진술을 권위 있는 증거와 자동으로 대조해 검증하지는 않는다. 또한 발신자가 말하지 않은 의무도 알지 못한다.

보조는 사용자가 시스템에 제한된 역할을 부여할 때 시작된다. 모델은 질문을 제안하고, 메모를 재구성하고, 가능한 반론을 찾거나, 검증된 사실을 바탕으로 문구 초안을 만들 수 있다. 결과를 선택하고 확인하는 책임은 사람에게 남는다.

위임은 모델의 출력이 단지 존재한다는 이유만으로 답변 자체가 될 때 시작된다. 사용자는 생성을 워크플로의 한 단계로 다루지 않게 된다. 초안은 분석을 건너뛰고 완성품처럼 인간 간 대화에 들어간다.

그 차이는 미묘할 수 있다. 두 사용자는 같은 프롬프트로 시작해 동일한 텍스트를 받을 수 있다. 한 사람은 인용을 조사하고, 근거 없는 주장을 삭제하고, 현지 맥락을 더하며, 결론을 바꾼다. 다른 한 사람은 복사해서 붙여넣기를 누른다.

방어 가능한 가치를 더하는 것은 첫 번째 사용자뿐이다. 그 가치는 추가한 내용만큼이나 삭제한 내용에서도 드러난다. 좋은 판단은 종종 자신감 있는 추측을 지우고, 권고를 좁히거나, 이용 가능한 증거만으로는 질문을 해결할 수 없음을 인정하는 것을 뜻한다.

공공 부문 연구는 인간이 존재한다는 사실만으로는 약한 보호 장치임을 보여준다. 알고리즘 조언을 연구한 연구자들은 세 가지 실험에서 자동화 편향과, 기존 고정관념에 부합하는 권고를 선택적으로 따르는 증거를 발견했다.

따라서 사람은 형식적으로는 ‘루프 안에’ 남아 있으면서도 감독에는 거의 기여하지 않을 수 있다. 중요한 질문은 그 사람이 시스템에 이의를 제기하고, 나쁜 답변을 알아차리며, 이를 거부할 책임을 질 수 있는지다.

이 구분은 단순한 산출량 목표를 통해 AI를 도입하는 조직에 압박을 가한다. 리더가 발송한 이메일, 처리한 티켓, 작성한 보고서, 제출한 코드의 수를 측정하면 생성된 양은 성공처럼 보인다. 그러나 이 지표는 누가 검증 비용을 떠안았는지 보여주지 않는다.

직원들 역시 엇갈린 유인을 마주한다. AI를 사용하고 더 빨리 결과를 내라는 권고를 받지만, 생성된 작업을 확인할 시간은 충분히 주어지지 않을 수 있다. 그런 조건에서 고기 프록시 행동은 비합리적인 워크플로에 대한 합리적인 대응이 될 수 있다.

관리자는 모두에게 ‘판단력을 사용하라’고 지시하는 것만으로 이를 해결할 수 없다. 팀에는 책임 경계가 필요하다. 발신자는 어떤 주장이 증거를 요구하는지, 어떤 결정이 검토를 거쳐야 하는지, 어떤 불확실성을 공개해야 하는지 알아야 한다.

실용적인 워크플로는 프롬프트가 아니라 기초 자료에서 시작한다. 사용자는 관련 문서, 이전 결정, 원천 데이터, 제약 조건을 수집해야 한다. 검색 가능한 지식 베이스는 그러한 맥락을 더 쉽게 찾아내는 데 도움이 될 수 있지만, 검색 결과도 여전히 평가가 필요하다.

그다음 모델은 그 자료를 검토하는 데 도움을 줄 수 있다. 문서를 비교하고, 불일치를 찾아내고, 초안을 만들거나, 빠진 질문을 제안할 수 있다. 사용자는 응답이 증거와 실제 요청을 반영하는지 판단해야 한다.

마지막으로 발신자는 명확한 결론을 중심으로 결과를 다시 작성해야 한다. 응답에는 책임 있는 권고, 뒷받침하는 증거, 드러난 불확실성, 필요한 다음 조치가 포함되어야 한다. 일반적인 모델 답변에는 대개 이 요소 중 적어도 하나가 빠져 있다.

이 접근은 무해한 모든 문장을 의례적으로 다시 쓰라고 요구하지 않는다. 지적 소유권을 요구한다. 발신자가 답변이 왜 정확하고, 관련성이 있으며, 적절히 조건부로 표현됐는지 설명할 수 없다면 그 답변은 아직 보낼 준비가 되지 않은 것이다.

자신의 말로 쓰기는 점검이지 치료제가 아니다

다시 쓰기는 부주의한 전달의 비용을 높이지만, 매끄러운 바꿔쓰기가 근거 없는 주장을 사실로 만들 수는 없다.

Willison은 독창적인 응답을 작성자가 앞선 단계를 완료했다는 꽤 괜찮은 증명서라고 말한다. 여기서 신중한 단어는 ‘꽤 괜찮은’이다. 자신의 말로 쓰는 행위는 관여의 증거를 만들지만, 사실 정확성의 증명은 아니다.

사용자는 모델을 오해하고 그 오류를 우아하게 다시 표현할 수 있다. 다른 사용자는 AI 바꿔쓰기 도구를 이용해 손대지 않은 응답을 감출 수 있다. 조직은 표면적인 독창성을 진정한 검증과 혼동해서는 안 된다.

재작성 제안에서 가장 강력한 부분은 그 뒤에 놓인 순서다. 읽고, 이해하고, 검증한 다음, 응답한다. 각 동사는 서로 다른 실패를 겨냥한다. 읽기는 명백한 관련성 부족을 포착한다. 이해는 사용자가 그 논리를 설명할 수 있는지 시험한다.

검증은 주장을 증거, 시스템 또는 적격 전문가의 견해와 대조한다. 이후 재작성은 사용자가 무엇이 중요한지 선택하고 저자로서 책임을 받아들이게 한다. 검증을 건너뛰면 마지막 단계는 미화 세탁에 불과해진다.

실험은 의도적인 마찰이 도움이 될 수 있음을 시사한다. 2025년 한 연구에서 결함 있는 AI 지원을 받은 참가자들은 통제군보다 성찰 질문에 정답을 맞힌 수가 절반에도 미치지 못했다. 경고 넛지는 결함 있는 지원만 제공된 경우와 비교해 성과를 거의 두 배로 높였다.

그러나 경고는 지원을 받지 않은 집단보다 성과를 높이지는 못했다. 해당 실험에서 자기 보고식 AI 리터러시 역시 자동화 편향을 유의미하게 막지 못했다. 따라서 프롬프팅에 익숙하다고 해서 신뢰할 만한 회의적 태도를 갖춘 것으로 여겨서는 안 된다.

유용한 검토 과정은 내용 자체를 시험해야 한다. 사실 기반 글쓰기에서는 사용자가 핵심 주장 각각을 식별하고 권위 있는 출처를 첨부할 수 있다. 코드의 경우에는 변경 사항을 설명하고, 관련 테스트를 실행하며, 보안에 민감한 동작을 점검할 수 있다.

분석에서는 사용자가 권고안을 이끄는 가정을 밝힐 수 있다. 또한 어떤 증거가 자신의 결론을 뒤집을지 물어봐야 한다. 이 질문은 텍스트에 논증이 있는지, 아니면 그럴듯한 서사만 있는지를 드러낸다.

대외 커뮤니케이션에서는 작성자가 초안을 수신자의 실제 요구와 비교해야 한다. 사고로 데이터가 노출됐는지 묻는 고객에게 암호화에 대한 일반적인 설명은 필요하지 않다. 필요한 것은 근거 있는 답변, 알려진 한계, 그리고 다음 업데이트 시점이다.

요약에도 같은 규율이 적용된다. 모델은 회의록을 정확하게 압축하면서도 한 가지 이의 제기가 지닌 정치적 의미를 놓칠 수 있다. 회의에 참석한 누군가는 어떤 발언이 약속이었는지, 제안이었는지, 혹은 미해결된 이견이었는지 판단해야 한다.

개인 맥락은 생성 품질을 높일 수 있지만, 이 결정을 대체할 수는 없다. 개인 지식 워크플로는 출처와 이전의 추론을 보존할 수 있다. 하지만 타인과 공유하는 해석의 책임은 여전히 사용자에게 있다.

Willison의 표현에 대한 회의적 시각도 진지하게 고려할 가치가 있다. “Meat proxy”는 신입 직원, 비원어민 화자 또는 접근성을 위해 AI를 사용하는 사람들을 겨냥한 모욕이 될 수 있다. 또한 매끄러운 재작성이 시스템의 역할을 감출 때 보이지 않는 AI 사용을 보상할 수도 있다.

팀은 이 용어를 사람을 부끄럽게 만드는 데가 아니라 워크플로를 진단하는 데 사용해야 한다. 관련 기준은 결과물을 책임 있게 다루는지 여부다. 이는 임원, 개발자, 분석가, 계약직, 관리자에게 똑같이 적용돼야 한다.

그렇다고 AI의 도움을 받은 모든 문장에 공개가 필요한 것도 아니다. 공개 규칙은 위험도, 정책, 독자에 따라 달라진다. 핵심 의무는 라벨보다 강력하다. 아무도 책임 있게 검토하지 않은 자료에 다른 사람이 의존하게 해서는 안 된다.

AI 도움 없이 한 인간의 작업을 낭만화하는 위험도 있다. 사람들은 나쁜 조언을 베끼고, 사실을 잘못 기억하며, AI 없이도 관련 없는 문서를 전달한다. 인간이 작성했다는 사실은 진실을 보장한 적이 없다.

생성형 AI는 오래된 이 문제의 규모와 표현 방식을 바꾼다. 인간이 검토할 수 있는 속도보다 더 빠르게 매끄러운 답변을 만들어 낸다. meat-proxy라는 명칭이 유용한 이유는 오류가 AI에서 시작된 것처럼 가장하는 대신, 빠진 검토에 초점을 맞추기 때문이다.

Meat Proxy는 오류와 함께 편향도 증폭한다

검증 없이 전달하면 개별 문장마다 방어 가능한 것처럼 보여도 모델의 프레이밍과 누락이 전파될 수 있다.

사실 환각은 입증하기 쉬워서 주목을 받는다. 모델이 인용을 지어내거나, 날짜를 잘못 설명하거나, 잘못된 사람에게 발언을 귀속한다. 검증으로는 대개 이러한 실패를 찾아낼 수 있다.

프레이밍 오류는 더 어렵다. 생성된 답변은 하나의 설명을 강조하거나, 특정 독자를 전제하거나, 영향을 받는 집단을 누락할 수 있다. 응답이 왜곡된 방향으로 대화를 이끌더라도 어느 한 문장이 거짓일 필요는 없다.

연구자들은 커뮤니케이션 편향을 생성된 결과물을 통해 관점이 표현되거나 증폭되는 현상으로 설명한다. 2026년 편향 분석은 사용자가 충분한 검토 없이 그러한 결과물을 받아들이고 행동할 때 자동화 편향이 그 영향을 키울 수 있다고 주장한다.

Meat proxy는 이러한 프레이밍을 조직의 의사결정으로 옮기는 메커니즘이 될 수 있다. 그 사람은 결과물에 자신의 정체성과 조직 내 지위를 빌려준다. 수신자는 프롬프트, 대안 결과물, 또는 답변을 형성한 가정을 결코 보지 못할 수 있다.

채용 관리자가 모델에게 면접 메모를 요약해 달라고 요청하는 상황을 상상해 보자. 모델은 자신감, 리더십 언어 또는 전통적인 경력 경로를 부각할 수 있다. 관리자가 그 요약을 전달하면 주관적인 프레이밍은 중립적인 종합이라는 외관을 얻는다.

제품 팀은 사용량 감소의 그럴듯한 이유를 요청할 수 있다. 모델은 온보딩과 가격에 관한 익숙한 설명을 만들어 내면서 내부 조사에서 지적된 접근성 문제를 놓칠 수 있다. 유창한 답변은 조사를 너무 이르게 좁힐 수 있다.

경영진 브리핑도 비슷한 위험을 만든다. 모델은 근거가 불완전하거나 상충하더라도 균형 잡히고 정돈된 산문을 만드는 경향이 있다. 이런 스타일은 진짜 불확실성을 관리 가능한 고려사항의 확정된 목록처럼 보이게 할 수 있다.

프롬프팅이 이런 문제를 없애지는 않는다. 더 나은 프롬프트는 반론, 인용 또는 불확실성을 요청할 수 있지만, 결과 텍스트는 여전히 평가가 필요하다. 프롬프트 기법은 요청을 제어할 뿐, 응답의 진실성을 보장하지 않는다.

이 지점에서 핵심 경쟁은 조직 차원에서 벌어진다. 책임 있는 지원은 증거에서 분석을 거쳐 실명 의사결정권자까지 이어지는 사슬을 만든다. 맹목적인 위임은 겉보기 소유자가 그 구성 과정을 방어할 수 없는 텍스트를 만든다.

이 구분은 수정 과정에서 중요하다. 검토된 인간 작성 응답이 틀린 것으로 드러나면 동료들은 가정을 살펴보고 과정을 개선할 수 있다. 붙여넣은 답변이 실패했을 때 발신자는 모델이 그렇게 만들었다고만 말할 수 있다.

그런 반응은 조직 학습을 무너뜨린다. 팀은 실패가 맥락 부족, 취약한 출처, 오도하는 프롬프트, 모델의 행동, 또는 부주의한 검토에서 비롯됐는지 알 수 없다. 책임은 워크플로 전반에 걸쳐 녹아 사라진다.

AI 제공업체도 압박을 받는다. 즉각적인 답변에 최적화된 인터페이스는 사용자가 결과물을 완성된 것으로 다루게 만든다. 인용, 불확실성 지표, 출처 보기, 검증 프롬프트는 더 건강한 멈춤을 만들 수 있지만, 어느 것도 신중한 사용을 보장하지는 않는다.

조직은 하류 신호를 위해 자체 시스템도 살펴봐야 한다. 수정, 재개된 티켓, 되돌린 코드, 반복 질문, 수신자 불만은 생성 단계에서 생산적으로 보였던 작업을 드러낼 수 있다.

가장 좋은 지표는 AI 지원 결과물이 관련된 모든 사람의 총 노력을 줄이는지 여부일 수 있다. 발신자가 10분을 아끼지만 동료 세 명이 결과를 확인하는 데 한 시간씩 쓴다면, 그 워크플로는 효율성을 만든 것이 아니다.

총 노력을 측정하는 일은 생성된 문서 수를 세는 것보다 어렵다. 하지만 이는 AI 도입이 제공해야 하는 가치에 더 가깝다.

Simon Willison의 경고 이후에 일어날 일

다음 시험대는 팀이 기억하기 쉬운 한 문구를 책임 있는 AI 사용을 위한 관찰 가능한 기준으로 바꿀 수 있는지 여부다.

“Meat proxy”가 영리한 정의 이상이 되는지 보여줄 신호는 세 가지다. 첫째는 일상적인 AI 워크플로 안에 검토 요건이 나타나는 것이다. 팀은 생성된 콘텐츠가 다른 사람에게 전달되기 전에 발신자가 무엇을 확인해야 하는지 명시해야 한다.

이 요건은 비례적이어야 한다. 가벼운 브레인스토밍 메모는 법적 서류가 감당할 수 없는 불확실성을 허용할 수 있다. 프로덕션 코드, 고객 약속, 재무 분석, 인사 결정에는 명시적인 증거와 실명 검토자가 필요하다.

조직이 이런 기준을 채택한다면 Willison의 주장은 운영 원칙으로서 힘을 얻는다. “AI 결과물을 확인하라”는 광범위한 알림에만 의존한다면 meat-proxy 행동은 여전히 부인하기 쉽고 측정하기 어려울 것이다.

둘째 신호는 제품 설계다. AI 인터페이스는 출처를 드러내고, 검색된 자료와 생성된 해석을 구분하며, 근거 없는 주장을 표시하고, 영향이 큰 행동에 대해 사용자 확인을 요청할 수 있다. 이런 제어 장치는 그렇지 않으면 검증 없이 전달될 자신감에 마찰을 더한다.

경고 넛지에 관한 연구는 인터페이스 선택이 완전히 독립적인 성과를 회복하지는 못하더라도 비판적 성찰을 개선할 수 있음을 시사한다. 검증 중심 기능의 확산은 결과물 검토가 별개의 제품 문제라는 주장을 강화할 것이다.

반대 흐름은 이를 약화할 것이다. 어시스턴트가 원클릭 전송, 자율 실행, 업무 채널로의 보이지 않는 삽입에 점점 더 최적화된다면 사용자는 자신을 대변하는 결과물을 점검할 자연스러운 기회를 더 적게 갖게 된다.

셋째 신호는 업무 측정의 질이다. 리더들은 빠른 생산과 수정, 재작업, 에스컬레이션, 수신자 검토 시간을 비교해야 한다. 이런 하류 비용은 AI 지원이 작업을 완료했는지, 아니면 단지 옮겨 놓았는지를 보여준다.

재작업 감소와 빠른 전달이 함께 나타난다면 책임 있는 증강을 뒷받침할 것이다. 수정률이 그대로이거나 악화되는 가운데 결과물만 늘어난다면 조직이 대규모로 meat proxy를 보상하고 있음을 시사할 것이다.

이 표현은 사회적 시험도 거치게 될 것이다. 신중하게 사용하면 동료들이 경계를 세우는 데 도움이 될 수 있다. AI를 과정에 들이되, 자신의 책임을 수신자에게 떠넘기지는 말라는 경계다. 부주의하게 사용하면 스타일을 단속하거나 사람을 조롱하는 축약어가 될 수 있다.

독자는 유용한 버전을 즉시 적용할 수 있다. AI의 도움을 받은 작업을 보내기 전에 답변을 이해하는지, 중요한 주장에 근거가 있는지, 이 수신자의 실제 상황을 다루는지 물어보라.

그다음 더 어려운 질문을 하라. 당신은 무엇을 더했는가? 유용한 기여는 맥락, 결정, 검증된 출처, 더 명확한 설명 또는 불확실성에 대한 솔직한 진술일 수 있다. 정교할 필요는 없다.

유일한 기여가 한 창에서 다른 창으로 텍스트를 옮기는 일이었다면, 작업은 끝나지 않았다. 초안을 유지하고, 증거를 점검하고, 자신이 책임질 준비가 된 응답을 작성하라.

이것이 Simon Willison의 경고가 남기는 핵심이다. AI는 언어 생산을 가속할 수 있지만, 책임은 생성해서 전달할 수 없다. 다음에 유창한 답변이 즉시 나타나면, 다른 사람이 그것을 검증하게 만들기 전에 잠시 멈춰라.