묻지도 말고 말하지도 않는 AI 경제의 부상
Google News는 해결되지 않은 규정, 부실한 측정, 더 적은 자원으로 더 많은 성과를 내야 한다는 압박 속에서도 노동자들이 AI를 도입하고 있다는 Bloomberg의 날카로운 주장을 부각했다.
“묻지도 말고 말하지도 않는 AI 경제”라는 표현은 불편한 거래를 포착한다. 고용주는 더 빠른 산출을 원하지만, 그 산출물이 어떻게 만들어졌는지는 종종 들여다보지 않는다. 노동자들은 개인 AI 계정을 사용하고 공개 도구에 자료를 복사해 넣으며, 승인된 대안은 더 느리거나 아예 없을 수 있기 때문에 이를 숨긴다.
이는 단순히 챗봇 도입에 관한 또 하나의 이야기가 아니다. 가시적인 생산성과 보이지 않는 프로세스 위험 사이의 충돌이다. Microsoft, Anthropic, 그리고 직장 연구자들은 이 간극의 일부를 기록했지만, 그 전체 규모를 포착하는 단일 데이터셋은 없다.
핵심 긴장은 단순하다. 기업은 AI가 만든 효율성을 원하지만, 많은 곳이 AI 사용을 관찰 가능하게 만들 정책, 시스템, 인센티브를 갖추지 못했다. 이 간극은 일상적인 사무 업무 안에 그림자 경제를 만든다.
Google News가 부각한 점
중요한 변화는 직원들이 AI를 발견했다는 사실이 아니다. 비공식적인 AI 사용이 일상적 업무 생산의 일부가 됐다는 점이다.
생성형 AI는 계획된 소프트웨어 배포가 아니라 개인의 행동을 통해 많은 직장에 들어왔다. 직원들은 개인 계정을 열고 프롬프트를 시험하며 모델이 시간을 절약해 주는 업무를 찾아냈다. 조달, 보안, 법무팀은 종종 나중에 이 과정에 참여했다.
이러한 도입 양상은 전통적인 엔터프라이즈 소프트웨어 롤아웃과 다르다. 기업은 보통 공급업체를 선정하고, 접근 권한을 구성하며, 사용자를 교육하고, 활동을 모니터링한다. 그림자 AI는 조직이 서비스를 평가하기 전에 직원들이 사용을 시작하기 때문에 이 순서를 뒤집는다.
Microsoft와 LinkedIn의 직장 내 AI 연구는 2024년에 직원 주도형 도입이 광범위하게 이뤄졌음을 발견했다. AI를 사용하는 설문 대상 지식 노동자 중 78%가 자체 도구를 업무에 가져왔다.
이 수치는 모든 개인 도구가 보안 사고를 일으켰다는 것을 증명하지는 않는다. 다만 공식 구매 기록만으로는 실제 직장 내 도입 수준을 설명할 수 없음을 보여준다. 소프트웨어 인벤토리와 실제 업무 현실이 분리된 것이다.
이러한 행동은 조직의 여러 계층에서 나타난다. 실무 담당자들은 AI를 사용해 문서를 요약하고, 메시지를 초안 작성하며, 코드를 작성하고, 피드백을 분석하고, 프레젠테이션을 준비한다. 관리자는 비슷한 도구로 계획을 검토하고, 회의를 정리하며, 불완전한 메모를 다듬어진 문서로 바꾼다.
각 프롬프트가 작기 때문에 이러한 활동은 대개 무해해 보인다. 하지만 누적 효과는 다르다. 프롬프트의 연속은 고객 이름, 제품 계획, 소스 코드, 재무 가정, 법적 전략 또는 내부 갈등을 드러낼 수 있다.
Bloomberg의 프레이밍이 중요한 이유는 그 활동을 둘러싼 사회적 구조를 명명하기 때문이다. 노동자들은 자신이 AI를 얼마나 많이 사용하는지 자발적으로 밝히지 않을 수 있다. 관리자는 산출이 개선되고 뚜렷한 문제가 나타나지 않는다면 조사하지 않을 수 있다.
따라서 Google News는 기술 트렌드 그 이상을 부각했다. 전략적 모호성을 중심으로 형성된 노동 및 거버넌스 문제를 드러낸 것이다. 모두가 도구의 혜택을 볼 수 있지만 책임은 정의되지 않은 채 남는다.
이 모호성은 정상 운영 중에는 효율적으로 느껴진다. 고객이 답변에 이의를 제기하거나, 기밀 데이터가 승인된 시스템 밖에 나타나거나, 자동화된 결정이 누군가에게 피해를 줄 때 취약해진다. 그때 조직은 관찰하기로 선택한 적 없는 프로세스를 재구성해야 한다.
이를 숨은 경제라고 부르는 것이 모든 AI 보조 업무가 금지됐다는 뜻은 아니다. AI가 공식 워크플로, 예산, 성과 지표 또는 위험 등록부에 일관되게 나타나지 않은 채 경제적 가치를 창출한다는 의미다.
산출물은 보인다. 방법은 보이지 않는다.
고용주와 노동자가 모두 침묵을 받아들이는 이유
비공식적 거래는 양측 모두가 AI 사용을 어느 정도 말하지 않는 데서 즉각적인 이익을 얻기 때문에 유지된다.
고용주는 생산성을 높여야 한다는 강한 압박을 받는다. 모델, 어시스턴트, 인프라, 실험에 비용을 지불했지만, 많은 기업은 여전히 이러한 투자를 측정 가능한 비즈니스 성과와 연결하는 데 어려움을 겪는다. 조용한 직원 주도 도입은 완전한 전환 프로그램 없이도 성과를 제공한다.
노동자는 다른 종류의 압박에 직면한다. 메시지, 문서, 회의, 조사, 행정 업무의 증가하는 양을 처리해야 한다. AI는 정보를 한 형식에서 다른 형식으로 바꾸는 데 드는 시간을 줄일 수 있다.
회의 메모를 프로젝트 업데이트로 바꾸는 노동자는 모든 프롬프트를 공개할 유인이 거의 없다. 공개는 추가 검토, 업무 품질에 대한 질문, 또는 더 많은 산출 요구를 촉발할 수 있다. 침묵은 절약한 시간을 지킨다.
관리자 역시 묻지 않음으로써 이익을 얻을 수 있다. 팀이 더 빨리 결과를 내면, 관리자는 데이터 처리, 출처 표시, 평가에 관한 어려운 질문을 마주하지 않고도 결과를 받는다. 즉각적 보상은 구체적인 반면 위험은 멀게 느껴진다.
이 구조는 성과 기대를 왜곡할 수 있다. 직원이 AI를 사용해 4시간 걸릴 업무를 2시간 만에 끝낼 수 있다. 경영진이 이 더 빠른 속도를 정상으로 간주하기 시작하면, 절약된 시간은 더 이상 직원의 것이 아니다.
생산성 향상은 더 높은 기준선이 된다. 그러면 직원들은 이전의 AI 사용이 만들어 낸 기대에 부응하기 위해 도구에 계속 접근해야 한다. 자발적인 지름길이 점차 비공식적인 직무 요건이 된다.
공개 문제도 있다. 일부 노동자는 광범위한 AI 사용을 인정하면 자신의 역할이 대체 가능해 보일까 우려한다. 다른 이들은 이를 숨기면 나중에 부정직하게 보일까 걱정한다.
관리자들은 다른 방향에서 같은 모순에 직면한다. 실험을 장려하면서도 민감한 정보를 노출하지 말라고 직원들에게 경고할 수 있다. 승인된 도구와 명확한 사례가 없다면, 이러한 메시지는 사용할 수 있는 운영 모델 없이 야심만 제시한다.
연구는 AI가 정의된 환경에서 성과를 개선할 수 있다는 주장을 뒷받침한다. 한 NBER 현장 연구는 고객 지원 상담원이 사용하는 생성형 AI 어시스턴트를 조사했고 평균 생산성이 14% 증가했다고 보고했다.
이러한 이득은 균등하게 분포되지 않았다. 경험이 적고 숙련도가 낮은 노동자들이 더 큰 혜택을 받았으며, 이는 시스템이 더 뛰어난 성과자와 관련된 패턴을 전달하는 데 도움이 됐음을 시사한다. 이 발견은 단순한 대체 서사를 복잡하게 만든다.
통제된 고객 지원 환경은 경제 전체와 같지 않다. 연구자들은 도구, 워크플로, 산출물, 성과 지표를 관찰할 수 있었다. 많은 사무 환경의 도입 사례에는 그러한 가시성이 없다.
노동자가 승인되지 않은 서비스를 사용하면, 조직은 유용한 지원과 조작된 콘텐츠, 복사된 문구, 숨은 편향, 부적절하게 처리된 데이터를 신뢰성 있게 구분할 수 없다. 조직이 보는 것은 최종 문서나 결정뿐이다.
이 때문에 “묻지도 말고 말하지도 않기”는 여전히 유혹적이다. 측정에는 비용이 든다. 침묵은 양측이 누가 위험을 부담하는지 결정하기 전에 혜택을 주장하게 해준다.
진짜 경쟁은 생산성과 책임성 사이에 있다
주된 충돌은 노동자 대 고용주가 아니다. 측정 가능한 산출물과 책임 있는 생산 방식 사이의 충돌이다.
조직은 이미 완성된 업무를 평가한다. 매출 결과, 해결된 티켓, 출시된 기능, 완료된 분석, 발행된 문서를 검토한다. 생성형 AI는 이러한 결과를 만들어 내는 숨은 순서를 바꾼다.
매끄러운 답변에는 조작된 주장이 담길 수 있다. 작동하는 코드에는 안전하지 않은 종속성이 포함될 수 있다. 간결한 고객 요약은 중요한 이의를 누락할 수 있다. 설득력 있는 채용 평가는 과거 결정의 편향을 재현할 수 있다.
이러한 실패는 산출물에서 항상 드러나는 것은 아니다. 따라서 책임성은 출처, 검토 단계, 모델 동작, 인간의 판단에 대한 정보에 의존한다. 그림자 AI는 그러한 맥락의 상당 부분을 제거한다.
Anthropic의 첫 Economic Index는 설문 응답에만 의존하는 대신 Claude 대화의 패턴을 분석했다. 초기 결과는 완전 자동화보다 증강이 더 많았음을 설명했지만, 그 경계는 업무를 어떻게 분류하느냐에 따라 달라졌다.
증강은 사람과 모델이 함께 업무를 완성하는 것을 뜻한다. 자동화는 제한적인 인간 개입으로 모델이 업무를 수행하는 것을 뜻한다. 둘 다 산출물을 개선할 수 있지만, 서로 다른 통제 장치를 필요로 한다.
직원이 모델에 대체 헤드라인을 요청하는 경우에도 선택의 책임은 직원에게 있다. 검토 없이 헤드라인을 생성하고 발행하는 시스템은 워크플로 설계자와 모델 운영자에게 더 많은 책임을 이전한다.
이 차이는 조사 과정에서 중요하다. 기업은 직원이 지원을 받았는지, 결정을 위임했는지, 또는 확인 없이 산출물을 수용했는지 알아야 한다. 최종 파일만으로는 이러한 질문에 답하기 어렵다.
공식 AI 시스템은 로그를 보존하고, 데이터 보존을 제한하며, 신원 통제를 시행하고, 모델 접근을 제한할 수 있다. 또한 산출물을 승인된 지식 소스와 연결할 수 있다. 개인 계정은 같은 구성을 따르지 않을 수 있다.
승인만으로는 문제를 해결할 수 없다. 직원들은 엔터프라이즈 챗봇을 제공받고도 다른 모델이 더 잘 응답하거나, 필요한 파일 형식을 지원하거나, 더 사용하기 쉽다는 이유로 다른 모델을 계속 사용할 수 있다. 거버넌스는 편의성과 경쟁해야 한다.
이는 기술 리더에게 압박을 만든다. 모든 공개 서비스를 차단하고 성공을 선언할 수는 없다. 지나치게 제한적인 정책은 더 많은 활동을 가시적 시스템 밖으로 몰아낸다.
그렇다고 모든 실험을 허용할 수도 없다. 모델이 업무를 더 빠르게 만든다고 해도 고객 계약, 개인정보 보호 의무, 전문직 의무, 저작권 우려, 보안 요구 사항은 여전히 적용된다.
실질적인 경쟁은 두 운영 모델 사이에서 벌어진다.
한 모델은 결과만 측정한다. 무언가 실패할 때까지 AI 지원을 보이지 않는 개인적 기법으로 취급한다. 이 접근법은 마찰을 최소화하지만 증거를 거의 남기지 않는다.
두 번째 모델은 AI 사용을 생산 시스템의 일부로 취급한다. 승인된 업무를 식별하고, 중요한 상호작용을 기록하며, 산출물을 테스트하고, 검토 책임을 배정한다. 이 접근법은 투자와 실험 속도 저하를 요구할 수 있다.
어느 모델도 인간의 판단을 없애지 않는다. 차이는 그 판단이 의도적인 통제가 되는지, 혹은 당연한 안전망으로 가정되는지에 있다.
Google News 항목은 더 넓은 경제적 질문을 가리킨다. AI 생산성이 숨겨진 채 남는다면, 기업은 그 가치를 직원, 고용주, 기술 제공자 사이에 정확히 배분할 수 없다. 관련 위험의 가격도 책정할 수 없다.
노동자는 도메인 지식, 기밀 맥락, 프롬프트 설계, 검증, 최종 책임성을 제공할 수 있다. 모델은 생성된 언어나 분석을 제공한다. 조직은 데이터, 시스템, 평판, 법적 노출을 제공한다.
최종 결과를 “AI 생성”이라고 부르면 이러한 기여를 지운다. 이를 전적으로 인간이 만든 결과라고 부르면 그 메커니즘을 지운다. 더 나은 측정은 둘 다 보존해야 한다.
생산성 수치가 증명할 수 없는 것
AI가 특정 업무를 가속한다는 증거가 조직 전체를 개선한다는 사실을 입증하지는 않는다.
많은 AI 연구는 산출물이 명확한 제한된 활동을 시험한다. 참가자들은 텍스트를 요약하고, 비즈니스 문서를 초안 작성하고, 코드를 작성하거나, 지원 문의에 답한다. 연구자들은 완료 시간을 비교하고 정의된 기준에 따라 품질을 평가할 수 있다.
실제 업무에는 더 많은 의존 관계가 있다. 더 빠른 초안은 더 느린 검토를 초래할 수 있다. 더 많은 생성 코드가 테스트 요구 사항을 늘릴 수 있다. 간결한 요약은 나중에 잘못된 결정을 초래하는 불확실성을 숨길 수 있다.
개인 생산성과 조직 생산성은 동일하지 않다. 한 직원이 동료에게 검증 업무를 넘기면서 한 시간을 절약할 수 있다. 한 부서가 더 많은 결과물을 생산하는 동시에 다른 곳의 검토 비용을 키울 수도 있다.
업무 복잡도에 따라 품질 측정 방식도 달라진다. 구조화된 지원 답변의 정확성은 전략적 권고안보다 검증하기 쉽다. 후자는 가정, 맥락, 그리고 미래의 사건에 좌우된다.
Stanford AI Index는 AI 역량과 도입 전반의 빠른 개선을 보여주는 연구를 종합한다. 동시에 과제별 성능 편차와 지속적인 평가 과제도 기록한다.
벤치마크는 모델이 정의된 질문 집합에 답할 수 있음을 보여줄 수 있다. 하지만 직원들이 모델의 오류를 언제 인지하는지는 입증할 수 없다. 이러한 인간의 보정 역량은 별개의 능력이다.
Shadow AI는 보정 과정을 점검하기 더 어렵게 만든다. 조직은 어떤 모델이 답변을 생성했는지, 어떤 정보가 프롬프트에 입력됐는지, 직원이 인용된 출처를 확인했는지 알지 못할 수 있다.
설문 데이터에도 다른 한계가 있다. 직원들은 금지된 행동을 축소 보고하거나, 생산성을 과장하거나, “AI 사용”을 서로 다르게 해석할 수 있다. 어떤 이는 가끔 편집하는 것만 사용으로 보지만, 다른 이는 초안 전체를 맡긴다.
사용 로그에도 사각지대가 있다. 서비스 내 상호작용은 보여주지만 결과물이 유용했는지는 알 수 없다. 개인 기기, 외부 계정, 또는 내장형 AI 기능에서 이뤄지는 활동도 놓칠 수 있다.
이러한 불확실성이 생산성 논거를 없애는 것은 아니다. 다만 리더가 책임 있게 주장할 수 있는 범위를 바꾼다. 기업은 직원들이 AI를 도입하고 있거나, 특정 배포가 측정된 워크플로를 개선했다고 말할 수 있다.
그러나 구독 수만으로 전사적 성과를 추론해서는 안 된다. 직원들이 더 많은 텍스트, 코드, 프레젠테이션을 만들었다는 이유만으로 혁신을 주장해서도 안 된다.
회의적인 질문은 순가치에 관한 것이다. AI는 검토, 수정, 조정, 보안 업무를 거친 뒤에도 신뢰할 수 있는 결과를 만드는 전체 비용을 줄였는가?
이 질문은 워크플로별로 답해야 한다. 보편적인 생산성 비율은 고객 지원, 소프트웨어 개발, 법률 검토, 리서치, 영업, 관리 사이의 큰 차이를 가릴 것이다.
같은 원칙은 일자리 감소 주장에도 적용된다. 업무의 일부를 자동화한다고 해서 그 역할 전체가 자동으로 사라지는 것은 아니다. 필요한 역량의 구성을 바꾸고, 신입 수준의 업무를 줄이며, 산출물 기대치를 높이거나, 책임을 다른 곳으로 옮길 수 있다.
하지만 불확실성이 소극성의 핑계가 되어서는 안 된다. 조직은 이미 보이지 않는 AI 사용에 의존하고 있다. 이를 측정하지 않는다고 해서 안전이나 고용 안정성이 보장되지는 않는다.
적절한 대응은 신중한 가시성이다. 기업은 모든 사소한 프롬프트를 컴플라이언스 사건으로 만들지 않으면서도 중대한 위험을 이해할 수 있을 만큼의 정보를 확보해야 한다.
Shadow AI는 다른 거버넌스 모델을 요구한다
실행 가능한 정책은 은폐보다 안전한 공개를 더 쉽게 만들어야 한다.
많은 거버넌스 프로그램은 금지 활동 목록으로 시작한다. 특히 기밀 데이터, 규제 대상 의사결정, 고영향 자동화 조치에서는 제한이 중요하다. 그러나 금지만으로는 접근 가능한 도구와 이해하기 쉬운 절차를 대체할 수 없다.
직원들에게는 명확한 범주가 필요하다. 일부 업무에서는 폭넓은 실험을 허용할 수 있다. 다른 업무에는 승인된 계정, 보호된 데이터 처리, 인간 검토 또는 생성형 AI 시스템의 완전한 배제가 필요하다.
유용한 정책은 추상적 원칙에만 머물지 않고 사례를 제시한다. 직원이 공개 보고서를 요약할 수 있는지, 내부 문서를 편집할 수 있는지, 고객 기록을 분석할 수 있는지, 법률 문구를 초안할 수 있는지, 소스 코드를 검토할 수 있는지를 설명해야 한다.
조직은 저위험 지원과 중대한 의사결정도 구분해야 한다. 문법 교정은 누가 신용, 고용, 보험, 의료 또는 서비스 접근 권한을 받는지 결정하는 일과 같은 수준의 위험을 갖지 않는다.
고영향 활용에는 더 강한 검토와 문서화가 필요하다. 결과물을 승인하는 사람은 해당 결정의 근거를 이해해야 한다. 누구도 방어할 수 없는 결과에 대해 챗봇이 편리한 설명 수단이 되어서는 안 된다.
데이터 경계도 마찬가지로 구체적이어야 한다. 직원들은 어떤 정보 분류가 각 승인 시스템에 입력될 수 있는지 알아야 한다. 또한 공개 도구에 기업용 제품에는 없는 기능이 있을 때 사용할 수 있는 안전한 대안도 필요하다.
기술적 통제는 이러한 규칙을 뒷받침할 수 있다. ID 관리, 보존 설정, 접근 제한, 감사 로그, 데이터 유출 방지는 노출을 줄일 수 있다. 그러나 그 어느 것도 답변이 비즈니스 맥락에 적절한지 판단할 수는 없다.
인간 검토는 여전히 필요하지만, “human in the loop”만으로는 완전한 통제가 되지 않는다. 피곤한 직원은 의미 있는 검토 없이 결과물을 승인할 수 있다. 검토에는 명확한 기준, 충분한 시간, 자동화된 작업을 거부할 권한이 필요하다.
조직은 속도뿐 아니라 수정도 측정해야 한다. 주장 검증, 오류 수정, 고객 문제 해결, 생성된 자료 재작성에 필요한 시간을 추적할 수 있다. 이러한 비용이 순생산성을 결정한다.
AI가 신입 업무를 어떻게 바꾸는지도 살펴봐야 한다. 초급 업무는 흔히 전문성을 기르는 연습 기회를 제공한다. 모든 기초 과제를 없애면 정교한 실수를 발견할 수 있는 미래의 검토자 공급이 약화될 수 있다.
관리자 역시 교육이 필요하다. 리더가 방법을 논의하지 않은 채 양만 보상한다면, 직원들은 눈에 보이는 산출물을 최적화하게 된다. 책임 있는 시스템은 성과 목표를 검증 및 공개와 일치시킨다.
최선의 보고 체계는 자백 양식처럼 보이지 않을 것이다. 일상적인 워크플로 설계를 통해 의미 있는 AI 사용을 포착해야 한다. 승인된 지원 도구는 직원들이 모든 문장을 기록하지 않아도 관련 기록을 보존할 수 있다.
지식의 출처 추적도 중요하다. 팀은 공개 웹 자료, 라이선스 콘텐츠, 내부 기록, 인간 전문성을 구분해야 한다. 개인 지식 시스템은 AI가 이를 답변으로 압축하기 전에 개인이 출처와 추론을 보존하는 데 도움이 될 수 있다.
이러한 출처 기록은 컴플라이언스 이상의 가치를 제공한다. 모델의 요약이 뉘앙스를 제거했을 때 직원들이 원래의 근거로 돌아갈 수 있게 해준다. 또한 일시적인 채팅 안에서 사라질 수 있는 소중한 인간적 맥락도 보호한다.
직원들이 회피 없이 정당한 업무를 완수할 수 있을 때 거버넌스는 성공한다. 승인된 시스템이 접근하기 어렵거나, 느리거나, 업무에 잘 맞지 않으면 정책 위반은 예측 가능한 결과가 된다.
목표는 완벽한 관찰이 아니다. 가치 있는 데이터와 중대한 산출물을 둘러싼 비례적 책임성이다.
‘묻지도 말고, 말하지도 말라’는 AI 경제를 시험할 세 가지 신호
다음 단계는 기업이 결과를 측정하고, 업무를 재설계하며, 직원들에게 AI 사용을 공개할 만한 신뢰할 수 있는 이유를 제공하는지에 달려 있다.
첫 번째 신호는 보고 방식의 변화다. 기업들은 AI 접근 권한, 라이선스, 지원 도구, 교육 프로그램을 자주 발표한다. 더 강력한 증거는 이러한 투입을 완료된 워크플로, 오류율, 검토 시간, 고객 결과 또는 운영 비용과 연결할 것이다.
고용주가 신뢰할 수 있는 순생산성 지표를 공개한다면 숨은 경제를 평가하기 쉬워진다. 계속해서 도구의 가용성만 강조한다면 AI 지출과 입증된 가치 사이의 격차는 남아 있게 된다.
두 번째 신호는 워크플로 재설계다. 바뀌지 않은 프로세스 옆에 챗봇을 추가하는 것만으로는 누가 결과물을 검토하는지, 오류의 책임을 지는지, 출처를 기록하는지가 거의 해결되지 않는다. 지속 가능한 도입에는 역할, 점검 지점, 성과 기대치의 변화가 필요하다.
재설계된 프로세스는 모델의 기여를 가시화한다. 직원이 언제 AI에 의존할 수 있는지, 언제 검증해야 하는지, 언제 인간의 판단을 위임할 수 없는지를 정의한다.
세 번째 신호는 승인된 도구가 개선된 이후의 직원 행동이다. 직원들이 개인 계정에서 관리형 시스템으로 이동한다면, 편의성이 Shadow AI의 주요 원인이었다는 뜻이다. 숨겨진 사용이 계속된다면 직원들은 모니터링을 불신하거나 고용주가 제공하지 않는 기능을 선호할 수 있다.
이 구분은 중요하다. 기술적 문제에는 더 나은 제품과 접근성이 필요하다. 신뢰 문제에는 더 명확한 인센티브, 감시에 대한 제한, 생산성 향상이 업무량과 일자리에 어떤 영향을 주는지에 관한 솔직한 논의가 필요하다.
Google News는 현재 상황에 어울리는 표현에 주목하게 했다. 경제는 이미 AI의 영향을 받은 업무를 받아들이고 있지만, 조직은 그 업무가 정확히 어디서, 어떻게, 누구의 권한 아래 이뤄졌는지 설명하지 못하는 경우가 많다.
해답은 AI 지원을 받은 모든 업무가 위험하다고 가장하는 것이 아니다. 더 빠른 산출물을 프로세스의 건전성을 입증하는 증거로 취급하는 것도 아니다.
고용주는 AI가 어디에서 중대한 업무를 바꾸는지 물어야 한다. 직원들은 유용한 실험을 자기고발로 바꾸지 않고도 안전하게 답할 방법이 필요하다. 양측 모두 초안 이후의 품질을 측정하는 증거가 필요하다.
독자들은 기업이 선택하는 지표를 지켜봐야 한다. 라이선스 수는 도입 서사를 보상한다. 순생산성, 수정 비용, 사고율, 승인 시스템으로의 직원 이동은 운영 모델이 실제로 작동하는지 보여준다.
혜택이 즉각적으로 남아 있고 실패가 분산돼 있는 한, “묻지도 말고, 말하지도 말라”는 방식은 지속될 수 있다. 그러나 고객, 규제 당국, 감사인 또는 직원들이 중요한 업무가 어떻게 생산됐는지에 대한 명확한 설명을 요구하기 시작하면 약화된다.
결정적인 질문은 더 이상 사람들이 직장에서 AI를 사용하는지 여부가 아니다. 기관이 그 사용을 인식하고, 책임을 배정하며, 기계에 이의를 제기하는 데 필요한 인간 지식을 보존할 수 있는지다.
