Alessandro Cotrufo, 컨텍스트가 엔터프라이즈 AI의 최대 과제라고 말하다

Alessandro Cotrufo는 모델 우선의 엔터프라이즈 AI 전략에 이의를 제기하며, Google News 헤드라인을 통해 자신의 관점을 하나의 선명한 대립 구도로 압축했다. 더 나은 모델이 핵심 제약은 아니라는 것이다. 더 어려운 문제는 AI가 답변하거나 행동해야 할 때 최신성이 있고 관련성이 높으며 거버넌스가 적용된 비즈니스 컨텍스트를 제공하는 데 있다.

Carroll County Mirror-Democrat에 귀속된 해당 헤드라인은 Cotrufo의 발언에 관해 독립적으로 검증할 수 있는 세부 정보를 거의 제공하지 않는다. 다만 그의 공개 활동은 그를 Redis와 연결하며, 컨텍스트 우선이라는 동일한 주장을 반복해서 제시한다. Redis 역시 최근 프로덕션 AI 에이전트 제품 전략에 이 입장을 반영해 왔다.

이 차이는 중요하다. 기업들은 수년간 OpenAI, Google, Anthropic, Meta 등 여러 제공업체의 모델을 비교해 왔다. Cotrufo의 주장은 검토의 초점을 벤치마크 점수에서 모델을 둘러싼 시스템으로 옮긴다. 그의 말이 맞다면 모델을 바꾼다고 해서 누락된 기록, 오래된 정책, 손상된 권한 체계, 문서화되지 않은 의사결정이 해결되지는 않는다.

이는 모델의 중요성이 사라졌다는 주장은 아니다. 모델 품질은 여전히 추론, 지시 이행, 도구 사용, 출력 정확도에 영향을 미친다. 달라진 점은 모델 선택이 훨씬 더 큰 신뢰성 문제 안의 한 구성 요소로 보이기 시작했다는 것이다.

Google News 헤드라인이 가리키는 더 큰 Redis 전략

가장 중요한 변화는 새로운 파운데이션 모델이 아니다. 엔터프라이즈 컨텍스트를 하나의 명확한 인프라 범주로 만들려는 움직임이 커지고 있다는 점이다.

원래의 Google News 목록은 Cotrufo의 관점을 전통적인 엔터프라이즈 AI 우선순위에 대한 직접적 도전으로 제시했다. 그러나 원문 기사는 신디케이션된 헤드라인 외에는 검증하기 어렵다. 따라서 독자는 정확한 귀속, 특히 접근 가능한 1차 출처에 재현되지 않은 세부 사항을 신중하게 받아들여야 한다.

Cotrufo의 공개 게시물은 이보다 폭넓은 입장을 뒷받침하는 더 강한 근거를 제공한다. 그는 에이전트가 지능 문제가 아니라 컨텍스트 문제를 안고 있다고 설명한다. 또한 프로덕션 AI는 데이터, 기능, 의사결정을 실시간으로 일관되게 유지하는 데 달려 있다고 주장해 왔다.

이러한 표현은 Redis의 현재 제품 방향과 긴밀히 맞닿아 있다. 2026년 5월, 이 회사는 분산된 엔터프라이즈 데이터를 에이전트와 연결하기 위한 컨텍스트 및 메모리 시스템인 Redis Iris를 소개했다. Redis는 컨텍스트 엔진을 에이전트와 에이전트가 행동에 필요한 정보 사이의 계층으로 설명한다.

회사의 context engine documentation에는 네 가지 관리형 서비스가 나열되어 있다. LangCache는 의미적으로 유사한 프롬프트에 대한 응답을 재사용한다. Agent Memory는 단기 및 장기 정보를 유지한다. Context Retriever는 에이전트에 비즈니스 데이터에 대한 구조화된 접근을 제공한다. Data Integration은 관계형 데이터베이스의 변경 사항을 동기화한다.

이 아키텍처는 Cotrufo의 주장을 구체적인 상업적 논지로 전환한다. 모델은 특정 추론 단계에서 이용 가능한 정보만을 기반으로 추론할 수 있다. 최신 환불 정책이 접근할 수 없는 시스템에 갇혀 있다면, 더 나은 추론 능력도 이를 마법처럼 찾아낼 수는 없다.

에이전트가 상충하는 기록을 마주할 때도 같은 한계가 적용된다. 고객 데이터베이스에는 한 명의 계정 소유자가 표시되지만 지원 플랫폼에는 다른 사람이 표시될 수 있다. 이메일 스레드에는 최신 예외 사항이 담겨 있을 수 있지만, 이를 공식 시스템에 기록한 곳은 없을 수 있다.

모델은 이러한 모순을 둘러싼 유창한 언어를 생성할 수 있다. 그러나 주변 아키텍처가 그 규칙을 제공하지 않는 한, 어느 시스템이 권한을 갖는지 독립적으로 판단할 수는 없다. 따라서 컨텍스트에는 단순히 추가 텍스트만이 아니라 의미, 소유권, 권한, 시점, 출처가 포함된다.

이것이 이 기사의 핵심 긴장을 만든다. 모델 제공업체들은 일반적 역량을 계속 개선하는 반면, 엔터프라이즈 배포 환경에서는 비공개 운영 조건에 뿌리를 둔 실패가 발생한다. 이러한 조건은 회사마다 다르고, 대개 모델 학습 주기보다 더 빠르게 바뀐다.

Google News는 이 주장을 간결한 헤드라인으로 제시했지만, 더 중요한 신호를 보낸 것은 Redis다. 이 회사는 컨텍스트 처리를 여러 맞춤형 통합의 집합이 아니라 조율된 프로덕션 계층으로 포지셔닝하고 있다.

이러한 프레이밍은 Redis의 이해관계에도 부합한다. 이 회사는 상태를 저장하고, 정보를 검색하며, 데이터를 빠르게 이동시키는 인프라를 판매한다. 그 진단을 하나의 플랫폼이 모든 컨텍스트 실패를 해결한다는 중립적 증거로 받아들여서는 안 된다.

그럼에도 근본적인 문제는 한 공급업체를 넘어선다. Google Cloud는 이제 AI context engineering을 AI 시스템이 사용하는 데이터 환경과 메모리를 설계하는 일로 정의한다. 이러한 독립적인 방향 일치는 이 범주가 주류 엔터프라이즈 아키텍처의 일부가 되고 있음을 시사한다.

따라서 이 뉴스의 핵심은 강조점의 변화다. 기업들은 어떤 모델이 가장 똑똑한지 묻는 데서 벗어나, 어떤 정보가 어떤 규칙 아래 어떤 시점에 모델에 도달하는지를 묻기 시작하고 있다.

모델 업그레이드로 누락된 비즈니스 지식을 복구할 수 없는 이유

더 강력한 모델은 더 나은 추론을 할 수 있지만, 기업이 제공하지 않은 비공개 사실을 바탕으로 추론할 수는 없다.

파운데이션 모델은 대규모 학습 데이터에서 광범위한 패턴을 학습한다. 이는 일반적인 글쓰기, 코딩, 요약, 분석에 유용하게 만든다. 그러나 기업의 최신 계약, 내부 API, 승인 규칙, 고객 이력을 자동으로 알게 해주지는 않는다.

환불 요청을 처리하는 지원 에이전트를 생각해 보자. 모델은 일반적인 소매 관행을 알고 설득력 있는 답변을 만들 수 있다. 하지만 실제 유용성은 적용되는 정책, 구매 기록, 제품 범주, 고객 상태, 승인된 예외 사항을 제공받는지에 달려 있다.

정책 문서가 누락되면 한 가지 실패 유형이 발생한다. 오래된 사본이 제공되면 또 다른 실패가 발생한다. 과도한 검색은 관련 없는 자료 아래에 결정적인 문단을 묻어버릴 수도 있어, 더 큰 컨텍스트 윈도우가 기대만큼 유용하지 않을 수 있다.

컨텍스트 엔지니어링은 이 선택 문제를 다룬다. 이는 추론 과정에서 모델이 받는 지침, 기록, 메모리, 도구 설명, 운영 상태를 구성하는 과정이다. 목표는 모든 것을 제공하는 것이 아니다. 다음 의사결정을 뒷받침할 수 있는 최소한의 신뢰할 만한 정보 집합을 제공하는 것이다.

AI 시스템이 여러 단계를 거쳐 행동할 때 이 요구는 더욱 어려워진다. 일반적인 챗봇은 하나의 고립된 질문에 답할 수 있다. 반면 에이전트는 계정을 조사하고, 정책을 비교하며, 승인을 요청하고, 티켓을 업데이트하고, 고객에게 알릴 수 있다.

각 단계는 관련 상태를 바꾼다. 에이전트는 이미 확인한 내용을 기억하고, 새 데이터를 인식하며, 같은 작업을 반복하지 않아야 한다. 또한 읽을 수 있는 정보와 수행할 수 있는 작업 사이의 경계를 유지해야 한다.

더 큰 모델이 이러한 엔지니어링 의무를 없애주지는 않는다. 모호한 지시에서 더 유연하게 회복할 수는 있지만, 여전히 유효한 자격 증명과 완료된 작업에 대한 신뢰할 수 있는 기록이 필요하다.

이 때문에 컨텍스트는 검색 증강 생성, 즉 RAG보다 더 넓은 개념이다. RAG는 지식 소스를 검색하고 생성 전에 관련 자료를 프롬프트에 추가한다. 이는 답변의 근거를 마련할 수 있지만, 검색만으로 에이전트 작업 환경의 모든 부분을 관리할 수는 없다.

프로덕션 컨텍스트 계층에는 세션 메모리, 사용자 선호도, 데이터베이스 스키마, 실시간 이벤트, 접근 제어, 도구 출력, 워크플로 상태도 포함될 수 있다. 무엇을 보존하고, 무엇을 폐기하고, 무엇을 갱신할지 결정해야 한다.

Stack Overflow는 회사별 소프트웨어 개발 사례를 통해 이 격차를 설명했다. enterprise context problem에 대한 분석은 일반적인 어시스턴트가 공개 라이브러리는 알 수 있어도 조직의 비공개 아키텍처나 과거 기술 의사결정까지는 알지 못할 수 있다고 지적한다.

이 글은 Slack 채널에서 사용되는 Uber의 내부 어시스턴트 Genie를 소개한다. Stack Overflow에 따르면 Genie는 내부의 인간 검증 지식 저장소와 OpenAI 모델을 결합한다. 엔지니어는 근거 없는 답변을 그대로 받아들이는 대신 출처를 검토할 수 있다.

이 사례가 모든 컨텍스트 기반 에이전트의 성공을 입증하는 것은 아니다. 다만 모델 지능과 조직 지식이 서로 다른 역할을 수행하는 이유를 보여준다. 모델은 언어와 추론 능력을 제공한다. 지식 계층은 회사별 제약 조건과 증거를 제공한다.

조직 지식에는 구조화된 데이터베이스에는 거의 나타나지 않는 설명도 포함된다. 한 팀은 이전 마이그레이션에서 실패했기 때문에 특정 라이브러리를 포기했을 수 있다. 또 다른 서비스는 과거의 컴플라이언스 약속 때문에 이례적인 승인을 요구할 수 있다.

이러한 사실은 회의록, 채팅 스레드, 로컬 파일, 직원의 기억 속에 남아 있는 경우가 많다. 따라서 사용 가능한 컨텍스트 계층을 구축하는 일은 검색 문제가 되기 전에 조직 문제로 시작된다.

검색 가능한 knowledge base는 흩어진 자료의 접근성을 높일 수 있다. 그러나 검색 품질은 소유권 부재, 불분명한 정책, 아무도 관리하지 않는 문서를 보완할 수 없다.

Cotrufo의 입장이 가장 설득력을 얻는 지점은 바로 여기다. 기업은 최신 모델을 선택한다고 해서 문서화되지 않은 운영 방식에서 벗어날 수 없다. 내부 현실을 기계가 이해할 수 있도록 만들어야 한다.

진짜 경쟁은 모델 교체와 컨텍스트 투자 사이에 있다

핵심 경쟁은 반복적인 모델 교체와 각 모델을 둘러싼 데이터, 메모리, 거버넌스에 대한 지속적인 투자 사이에서 벌어진다.

모델 우선 팀은 성과가 약할 때 다른 제공업체를 시험하거나, 프롬프트를 확장하거나, 더 큰 컨텍스트 윈도우를 선택하는 방식으로 대응한다. 원래의 실패가 추론 품질이나 지시 이행과 관련된 경우 이러한 실험은 도움이 될 수 있다.

그러나 원천 기록 자체가 잘못되었을 때는 효과가 제한적이다. 영업 에이전트가 지난 분기의 제품 카탈로그를 받는다면, 어떤 벤치마크 선도 모델도 모든 변경 사항을 안정적으로 추론할 수 없다. 권한이 없다면 모델은 제한된 계약을 안전하게 가져올 수 없다.

컨텍스트 우선 팀은 시스템이 내려야 할 의사결정에서 시작한다. 권위 있는 출처, 필요한 최신성, 사용자 권한, 과거 상태, 허용 가능한 불확실성을 식별한다. 그런 다음 모델은 이 운영 환경 안에서 평가된다.

이 접근법은 조달 관련 질문을 바꾼다. 구매자는 여전히 모델 정확도, 지연 시간, 보안, 호환성을 비교해야 한다. 또한 주변 애플리케이션이 올바른 근거를 검색하고 접근 경계를 준수하는지도 시험해야 한다.

Google News 검색은 출시가 명확한 사건과 익숙한 이름을 만들어내기 때문에 눈에 띄는 모델 출시를 전면에 내세우는 경향이 있다. 컨텍스트 작업은 덜 눈에 띈다. 이는 데이터 계약, 평가 스위트, 검색 파이프라인, ID 시스템, 유지보수 절차에 나타난다.

그러나 이러한 덜 눈에 띄는 구성 요소가 에이전트가 데모에서 반복 가능한 워크플로로 넘어갈 수 있는지를 결정한다. 완성도 높은 데모는 대개 신중하게 선정된 문서와 예측 가능한 질문을 사용한다. 프로덕션 환경에서는 상충하는 입력, 권한 변경, 누락된 필드, 예외적인 사례가 드러난다.

컨텍스트 우선 주장은 공급업체 종속성에도 영향을 미친다. 비즈니스 의미가 한 모델 제공업체의 프롬프트나 독점 메모리 시스템 안에 자리 잡으면 전환 비용이 커진다. 별도로 거버넌스가 적용된 컨텍스트 계층은 모델이 바뀌어도 조직 지식을 보존할 수 있다.

그 이점이 자동으로 따라오는 것은 아니다. 컨텍스트 저장소와 오케스트레이션 제품은 자체적인 종속성을 만들 수 있다. 데이터 형식, 벡터 인덱스, 도구 스키마, 평가 이력, 액세스 정책은 여전히 기업을 하나의 아키텍처에 묶어둘 수 있다.

따라서 기업은 지속 가능한 자산과 교체 가능한 구성 요소를 분리해야 한다. 지속 가능한 자산에는 소스 소유권, 비즈니스 정의, 승인 규칙, 평가 사례, 추적 가능한 기록이 포함된다. 모델, 검색 알고리즘, 오케스트레이션 프레임워크는 이러한 자산을 기준으로 계속 테스트할 수 있어야 한다.

Redis의 전략은 이러한 구분을 반영한다. Redis Iris announcement는 에이전트에 메모리, 구조화된 데이터, 검색, 캐싱, 최신 운영 정보를 제공하는 계층을 설명한다. 모델은 그 계층 위에 놓이며, 이론적으로는 교체할 수 있다.

회사는 자사의 Context Retriever가 정의된 비즈니스 엔터티로부터 통제된 도구를 생성한다고 말한다. 무제한 데이터베이스 액세스는 에이전트가 이해하지 못하거나 사용할 권한이 없는 데이터에 노출될 수 있기 때문에 이 접근 방식은 중요하다.

도구는 가능한 행동의 범위를 좁힐 수 있다. 임의의 쿼리를 허용하는 대신, 에이전트는 고객 식별자로 주문을 조회하는 승인된 함수를 제공받을 수 있다. 이 함수는 행 수준 액세스를 강제하고 예측 가능한 스키마를 반환할 수 있다.

이는 단순히 프롬프트에 문서를 첨부하는 수준이 아니라, 실행 가능한 정책으로서의 컨텍스트다. 에이전트가 무엇을 요청할 수 있는지, 어떤 데이터를 볼 수 있는지, 그 데이터를 어떻게 해석해야 하는지를 표현한다.

RelationalAI 최고경영자 Molham Aref는 시장의 다른 영역에서 이와 관련된 주장을 제기했다. 2026년 6월 enterprise context layer에 관한 논의에서 그는 문서만으로는 운영 의사결정의 배경에 있는 관계와 비즈니스 로직을 포착할 수 없다고 말했다.

이 구분은 공급망, 가격 책정, 리스크, 사기 분석에서 중요하다. 이러한 영역은 단순한 서술문이 아니라 구조화된 거래와 변화하는 관계에 의존한다. AI 시스템은 기록들이 어떻게 연결되는지, 어떤 계산이 비즈니스 개념을 정의하는지를 이해해야 한다.

따라서 경쟁 구도는 단순히 Redis 대 다른 데이터베이스 회사가 아니다. 더 근본적인 경쟁은 아키텍처에 있다. 한 경로는 모델을 제품의 중심으로 두고 필요할 때 데이터를 연결한다. 다른 경로는 모델을 거버넌스가 적용된 정보 시스템 내부의 추론 구성 요소로 본다.

Cotrufo의 주장은 두 번째 경로에 무게를 둔다. 파운데이션 모델의 대체가 쉬워지고 기업 데이터의 정리는 여전히 어려운 과제로 남을수록 그 매력은 커진다.

더 나은 컨텍스트는 자체적인 정확성과 보안 위험도 초래한다

컨텍스트는 근거 없는 답변을 줄일 수 있지만, 거버넌스가 부실한 컨텍스트는 AI 시스템이 더 민감한 정보에 접근한 채 확신에 찬 오답을 내놓게 할 수 있다.

이는 Cotrufo의 주장에 대한 가장 강력한 반론이다. 컨텍스트를 가장 큰 문제라고 부르면 해결책은 단순해 보일 수 있다. 더 많은 데이터를 연결하고, 메모리를 추가하고, 적절한 기록을 검색하면 된다는 식이다.

그러나 각 작업에는 위험이 따른다. 메모리 서비스는 이전 대화의 잘못된 가정을 보존할 수 있다. 검색은 이미 대체된 정책을 노출할 수 있다. 동기화 파이프라인은 소스 시스템의 오류를 더 빠르게 전파할 수 있다.

컨텍스트가 많아지면 노출도 커질 수 있다. 고객 기록, 내부 메시지, 운영 시스템에 연결된 에이전트는 더 가치 있는 공격 대상이 된다. 검색된 문서 안의 악의적인 지시는 에이전트의 방향을 바꾸거나 제한된 정보를 추출하려 할 수 있다.

따라서 액세스 제어는 사용자와 작업을 따라가야 한다. 한 지역 계정을 볼 수 있는 직원이 에이전트의 공유 인덱스에 두 정보가 모두 들어 있다는 이유로 전 세계 데이터에 접근해서는 안 된다. 검색 관련성이 권한을 입증하지는 않는다.

같은 이유로 출처 정보가 중요하다. 중요한 모든 답변은 어떤 기록이 근거가 되었는지, 해당 기록이 언제 변경됐는지, 어느 시스템이 이를 소유하는지를 드러내야 한다. 이런 추적 경로가 없으면 컨텍스트는 책임성 없는 확신을 만들어낸다.

메모리는 또 다른 거버넌스 문제를 만든다. 확인된 사용자 선호도처럼 세션 간에도 유지해야 하는 정보가 있다. 반면 임시 지시나 검증되지 않은 가정처럼 만료돼야 하는 정보도 있다.

팀에는 대화 이력과 지속 가능한 사실을 구분하는 보존 규칙이 필요하다. 수정 경로도 필요하다. 사용자가 오류를 바로잡으면, 시스템은 이후에 두 버전을 모두 검색하는 대신 기존 메모리를 업데이트하거나 무효화해야 한다.

시맨틱 캐싱도 유사한 절충 관계를 제시한다. 이전 응답을 재사용하면 지연 시간을 줄이고 불필요한 모델 호출을 피할 수 있다. 하지만 캐시가 만료되기 전에 기반 정책이 변경되면 오래된 답변을 반환할 수도 있다.

따라서 안전한 캐시에는 유사도 매칭 이상의 요소가 필요하다. 만료 규칙, 소스 버전 인식, 최신 데이터가 필요한 의사결정에 대한 제외 규칙이 필요하다. 캐시된 설명은 허용될 수 있지만, 캐시된 계정 잔액은 그렇지 않다.

평가는 최종 안전장치로 남는다. 팀은 모델만이 아니라 전체 애플리케이션을 테스트해야 한다. 유용한 테스트는 검색 정밀도, 소스 최신성, 권한 집행, 도구 완료, 필수 근거가 없을 때의 행동을 측정한다.

시스템은 거부하거나 상위 단계로 이관할 수 있어야 한다. 항상 답을 내놓는 에이전트는 그럴듯한 언어로 컨텍스트의 공백을 메울 것이다. 운영 환경의 신뢰성은 가용한 근거가 행동을 정당화하지 못하는 시점을 인식하는 능력에도 달려 있다.

National Institute of Standards and Technology의 generative AI profile은 설계, 배포, 모니터링, 거버넌스 전반의 리스크 관리를 강조한다. 정보 품질과 권한은 출시 이후에도 변하기 때문에 이러한 라이프사이클 관점은 컨텍스트 엔지니어링에 잘 들어맞는다.

공급업체의 주장도 고객 환경에서 검증해야 한다. Redis는 자사 서비스가 지속형 메모리, 거버넌스가 적용된 액세스, 거의 실시간에 가까운 동기화를 제공할 수 있다고 말한다. 이러한 기능이 정확한 소스 데이터와 올바르게 구성된 규칙 없이 올바른 비즈니스 의사결정을 보장하는 것은 아니다.

광범위한 컨텍스트 논지가 모델 간 차이가 무의미해졌다는 점을 증명하는 것도 아니다. 일부 작업은 더 나은 추론, 더 강력한 다국어 성능, 더 신뢰할 수 있는 도구 선택을 요구한다. 약한 모델은 뛰어난 컨텍스트도 잘못 사용할 수 있다.

실무적 입장은 Google News 헤드라인보다 덜 절대적이다. 기업의 신뢰성은 모델 역량과 컨텍스트 품질의 상호작용에서 나온다. Cotrufo의 유용한 지적은 구매자들이 전자를 면밀히 검토하면서 후자에는 충분히 투자하지 않은 경우가 많았다는 점이다.

컨텍스트 엔지니어링은 모든 엔터프라이즈 AI 공급업체에 압박을 가한다

컨텍스트 전환은 모델 제공업체, 데이터 플랫폼, 애플리케이션 공급업체, 기업 구매자 모두에게 전체 워크플로 전반의 신뢰성을 입증하라고 요구한다.

파운데이션 모델 기업들은 자사 모델을 더 쉽게 연결하고, 거버넌스를 적용하고, 평가하고, 교체할 수 있도록 해야 한다는 압박에 직면한다. 원시 역량은 여전히 중요하지만, 기업 구매자에게는 점점 더 예측 가능한 도구 사용과 명확한 통제 장치가 필요해지고 있다.

클라우드 플랫폼은 다른 과제에 직면한다. 이들은 이미 데이터, ID, 애플리케이션 인프라를 관리한다. 이들의 기회는 모든 고객을 하나의 모델이나 데이터 형식에 묶지 않으면서 이러한 자산을 에이전트 플랫폼에 통합하는 데 있다.

데이터베이스와 검색 기업은 컨텍스트를 확장 시장으로 본다. Redis는 실시간 상태와 메모리를 강조한다. 다른 공급업체들은 벡터 검색, 지식 그래프, 시맨틱 계층, 데이터 웨어하우스에 집중한다. 각 업체는 기존 강점을 빠진 엔터프라이즈 계층으로 설명한다.

애플리케이션 공급업체도 강점을 보유한다. 이들의 제품에는 이미 워크플로 규칙과 사용자 권한이 들어 있다. 고객 서비스 플랫폼은 티켓을 이해하고, 영업 플랫폼은 계정과 영업 기회를 이해한다.

하지만 애플리케이션별 컨텍스트는 파편화를 심화할 수 있다. 영업, 청구, 지원, 제품 시스템 전반에서 작동하는 에이전트는 서로 다른 ID와 정의를 조정해야 한다. 단일 애플리케이션이 자동으로 완전한 비즈니스를 나타내지는 않는다.

컨설팅 회사와 내부 플랫폼 팀은 이러한 시스템을 통합해야 한다는 압박을 받게 될 것이다. 이들의 가치는 고립된 데모를 구축하는 데서 재사용 가능한 컨텍스트 서비스, 평가 기준, 거버넌스 통제를 정의하는 방향으로 이동한다.

기업 구매자에게는 가장 어려운 책임이 주어진다. 공급업체는 커넥터와 메모리 시스템을 제공할 수 있지만, 어느 소스가 권위 있는지 결정할 수 있는 것은 기업뿐이다. 기업은 “활성 고객”, “승인된 할인”, “해결된 사고”가 실제로 무엇을 의미하는지 정의해야 한다.

이 작업은 종종 AI보다 앞서 존재하던 의견 불일치를 드러낸다. 두 부서는 같은 지표 이름을 서로 다른 계산 방식으로 사용할 수 있다. 에이전트가 이 갈등을 만들지는 않지만, 이를 드러내고 증폭할 수는 있다.

지식 근로자도 관심을 가져야 한다. 컨텍스트 설계는 누구의 판단이 시스템에 인코딩되는지에 영향을 미치기 때문이다. 시스템에 공식 문서만 들어가면 유용한 예외와 실무 경험이 사라질 수 있다. 모든 비공식 대화가 들어가면 프라이버시와 품질 위험이 커진다.

사려 깊은 second brain은 개인이 의사결정과 이를 뒷받침하는 자료를 보존하는 데 도움을 줄 수 있다. 엔터프라이즈 시스템에는 공동 소유권, 권한, 보존, 감사 가능성을 위한 추가 통제가 필요하다.

개발자는 컨텍스트 파이프라인을 운영 소프트웨어로 다뤄야 한다. 검색 프롬프트, 문서 파서, 순위 규칙, 메모리 정책, 도구 스키마는 모두 버전 관리와 테스트가 필요하다. 어느 한 계층의 변경도 에이전트의 행동을 바꿀 수 있다.

제품 관리자는 사용량을 넘어선 지표가 필요하다. 자주 사용되는 어시스턴트도 낮은 품질의 안내를 제공할 수 있다. 더 나은 신호에는 검증된 작업 완료, 수정률, 에스컬레이션 패턴, 소스 적용 범위, 정의된 워크플로에서 절감된 시간이 포함된다.

보안 팀은 최종 검토자가 아니라 핵심 참여자가 될 것이다. 에이전트 권한은 사용자 ID, 작업 범위, 현재 정책과 일치해야 한다. 로그는 정보 접근과 수행된 행동을 모두 보여야 한다.

따라서 Cotrufo의 프레이밍은 조직 전반에 걸쳐 관심의 분배를 바꾼다. 엔터프라이즈 AI 프로그램은 더 이상 주로 모델 통합 프로젝트가 아니다. 지식, 권한, 메모리, 피드백을 구조화하려는 지속적인 노력이 된다.

이는 “더 똑똑한 모델을 설치하라”보다 더 까다로운 메시지다. 또한 컨텍스트가 지속적인 차별화 요소가 될 수 있는 이유를 설명한다. 경쟁업체는 유사한 모델을 라이선스할 수 있지만, 동일한 제도적 지식이나 운영 규율을 공유하지는 않는다.

Google News 독자가 다음으로 주목해야 할 점

컨텍스트 우선 논지는 또 한 번의 범주 발표가 아니라 운영 환경의 증거로 검증될 것이다.

첫 번째 신호는 측정 가능한 워크플로 성과다. 기업은 직원들이 챗봇을 열어보는지뿐 아니라, 컨텍스트 인식 에이전트가 정의된 작업을 정확하게 완료하는지를 보고해야 한다. 수정률, 에스컬레이션, 소스 유효성, 성공적인 도구 실행은 도입 총계보다 더 많은 것을 보여줄 것이다.

기업들이 동일한 파운데이션 모델을 유지하면서도 이러한 지표가 개선된다면 Cotrufo의 주장은 더 강해진다. 모델 업그레이드가 컨텍스트 변경보다 더 큰 성과를 낸다면, 헤드라인의 위계는 방어하기 어려워진다.

두 번째 신호는 모델 이식성이다. 공급업체들은 기업이 모델을 바꾸더라도 컨텍스트 계층을 보존할 수 있다고 점점 더 주장한다. 구매자는 여러 제공업체에서 동일한 작업, 근거, 권한, 평가를 실행해 이 약속을 시험해야 한다.

성공적인 전환은 제도적 컨텍스트가 지속 가능한 자산이 되고 있음을 보여줄 것이다. 비용이 큰 재작성이나 큰 행동 변화는 모델 중립적이라고 여겨지는 시스템 안의 숨은 종속성을 드러낼 것이다.

세 번째 신호는 실제 운영 환경에서의 거버넌스다. 컨텍스트 플랫폼은 권한 철회, 변경된 정책, 삭제된 기록, 오염된 콘텐츠를 데이터 유출이나 오래된 답변의 재활용 없이 처리할 수 있음을 보여야 한다.

정적 데모에서는 뛰어난 성능을 보이지만 정책 업데이트 이후 실패하는 시스템은 엔터프라이즈 문제를 해결한 것이 아니다. 최신성, 추적 가능성, 그리고 수정은 지속적으로 작동해야 한다.

Google News 헤드라인은 엔터프라이즈 AI의 우선순위가 실제로 변하고 있음을 포착한다는 점에서 주목할 만하다. 다만 이를 Cotrufo, Redis 또는 다른 어떤 벤더가 이미 컨텍스트 문제를 해결했다는 증거로 받아들여서는 안 된다.

개발자와 엔터프라이즈 구매자에게 당장의 행동은 분명하다. 소스 레코드에서 최종 의사결정에 이르는 하나의 프로덕션 워크플로를 감사하라. 모델이 무엇을 보고 무엇을 놓치는지, 각 사실을 누가 관리하는지, 오류가 어떻게 수정되는지를 파악해야 한다.

그런 다음 모델을 바꾸는 것이 관찰된 실패를 해결하는지 테스트하라. 해결하지 못한다면 병목은 다른 곳에 있을 가능성이 높다. Cotrufo의 주장이 지속적인 의미를 얻으려면, 컨텍스트에 대한 투자가 실제 비즈니스 압박 속에서 더 안전하고 정확한 업무 성과로 이어져야 한다.