Salesforce Missionforce AI 에이전트, 채팅을 넘어 안전한 정부 워크플로로 확장

정부 기관에는 보안, 감독, 책임성 측면에서 일관된 표준이 필요하지만, Salesforce는 Missionforce를 두 가지 서로 다른 AI 경로로 확장했다. Salesforce Missionforce AI 에이전트 이니셔티브는 Amazon Bedrock을 통해 제공되는 OpenAI 모델과 기관이 통제된 인프라 내에서 맞춤화하고 운영할 수 있는 NVIDIA 모델을 결합한다.

이 조합은 Missionforce를 기존의 정부용 챗봇 수준을 넘어 확장한다. Salesforce는 자사 플랫폼이 정책을 실행 가능한 규칙으로 전환하고, 운영 업무를 조율하며, 현장 팀을 지원하고, 기관 시스템 전반에서 승인된 작업을 시작하도록 만들고자 한다.

이번 발표는 Salesforce가 Missionforce를 전담 국가안보 사업 부문으로 출범시킨 지 1년 뒤인 2026년 9월 16일에 나왔다. 이는 민감한 데이터에 대한 통제권을 포기하지 않으면서 상용 AI를 정부 환경에 도입하려는 연방 정부의 폭넓은 움직임과도 맞물린다.

핵심 쟁점은 고도화된 모델이 정책 관련 질문에 답할 수 있는지 여부가 아니다. 기관은 처리가 어디에서 이루어지는지, 에이전트가 어떤 데이터에 접근할 수 있는지, 중대한 결정을 누가 승인하는지를 알아야 한다.

OpenAI는 최첨단 모델 접근성과 익숙한 ChatGPT 인터페이스를 제공한다. NVIDIA는 기관이 프라이빗 클라우드 또는 공용 네트워크와 분리된 에어갭 네트워크에서 조정하고 실행할 수 있는 모델을 지원한다.

Salesforce는 이 두 접근 방식의 중간에 자리한다. 모델 출력을 통제된 정부 업무로 전환하기 위해 필요한 데이터, 권한, 워크플로, 감사 기록, 애플리케이션 계층을 제공한다.

이러한 포지셔닝은 Salesforce에 중요한 역할을 부여하지만, 동시에 이 글의 핵심 긴장을 만든다. Missionforce는 운영 통제를 약화하지 않으면서 고도화된 기능을 제공하겠다고 약속하지만, 이 두 목표는 기관을 서로 다른 아키텍처로 이끌 수 있다.

Salesforce Missionforce AI 에이전트가 실제로 바꾸는 것

Salesforce는 단순히 기존 시스템 옆에 또 다른 보조 도구를 배치하는 것이 아니라, AI 모델을 정부 규칙과 워크플로에 연결하고 있다.

회사의 Missionforce 확장에는 세 가지 주요 요소가 포함된다. 각각은 정부 운영의 서로 다른 부분을 다룬다.

첫째, OpenAI 모델은 Amazon Bedrock을 통해 Salesforce Public Sector Solutions에 연결된다. Bedrock은 클라우드 애플리케이션 내에서 모델에 접근하고 배포하기 위한 Amazon Web Services의 관리형 서비스다.

Missionforce 애플리케이션과 워크플로 역시 ChatGPT를 통해 접근 가능해질 것으로 예상된다. 권한이 있는 인력은 채팅 인터페이스에서 임무 데이터를 질문하고 승인된 Salesforce 작업을 실행할 수 있다.

이 설계는 ChatGPT의 역할을 바꾸기 때문에 중요하다. 이 인터페이스는 단순히 텍스트를 생성하는 데 그치지 않는다. 사건 관리 시스템, 정책 프로세스, 다단계 운영 워크플로로 진입하는 관문이 될 수 있다.

Salesforce는 발표된 모든 통합 기능을 모든 Missionforce 고객이 즉시 사용할 수 있다고 말하지는 않았다. 발표문은 지역과 고객 계약에 따라 이용 가능 여부가 달라질 수 있다고 명시한다.

둘째, Salesforce는 Missionforce Policy Engine을 도입했다. 이 시스템은 OpenAI 모델을 사용해 승인된 정책 문서를 구조화된 규칙 코드와 이에 대응하는 테스트 사례로 전환한다.

결정론적 규칙은 요청마다 새로운 답변을 생성하는 대신 정의된 논리를 따른다. 이 차이는 기관이 복지 혜택, 면허, 검사 또는 기타 규제 대상 결정을 처리할 때 중요하다.

언어 모델은 원본 자료를 해석하고 규칙 구조를 초안으로 작성한다. Salesforce는 배포 전에 사람이 모든 출력을 검토하고 승인해야 한다고 말한다.

회사는 Medicaid 자격 요건을 사례로 제시한다. 가족의 소득이 바뀌면 승인된 워크플로가 현행 정책에 따라 자녀의 보장 범위를 재평가하고 감사 추적 기록을 생성할 수 있다.

이 사례는 안전한 정부 AI 에이전트가 지향하는 바를 보여준다. 에이전트는 단지 규칙을 설명하는 데 그치지 않는다. 개인에게 직접 영향을 미칠 수 있는 절차의 실행을 돕는다.

셋째, Missionforce Operations는 NVIDIA 기술을 기반으로 한 특화 모델을 사용한다. Salesforce는 조달, 공급업체 관리, 송장 검토, 자산 물류를 위해 NVIDIA 모델을 미세 조정할 것이라고 밝혔다.

이 모델들은 프라이빗 클라우드 또는 에어갭 환경에서 운영될 수 있다. 기관은 모델 처리, 운영 데이터, 에이전트 작업을 자신들이 통제하는 인프라 안에 유지할 수 있다.

Salesforce는 여러 창고에 걸친 재고를 포함하는 차량 정비 시나리오를 설명한다. 에이전트는 예비 부품을 찾고, 이전 문서를 준비하며, 배차 일정을 우선순위화할 수 있다.

Missionforce Field Operations 및 Asset Management는 오프라인 구성 요소를 추가한다. 검사관이나 긴급 대응 팀은 신뢰할 수 있는 연결이 없는 장소에서도 작업 지시와 정비 활동을 관리할 수 있다.

이 기능들은 함께 더 폭넓은 실행 계층을 만든다. OpenAI는 일반적인 추론과 정책 해석을 담당하고, NVIDIA는 통제된 운영 데이터에 더 가까운 특화 모델을 지원한다.

그런 다음 Salesforce는 두 경로를 기관 애플리케이션에 연결한다. 이러한 오케스트레이션 역할은 조달 카탈로그에 또 하나의 모델을 추가하는 것보다 더 큰 의미를 갖는다.

정부의 모델 선택이 전략적 이슈가 된 이유

정부 기관은 더 이상 상용 AI를 도입할지 여부를 결정하는 것이 아니다. 이제는 운영의 어느 부분을 각 배포 모델에 의존할 수 있는지 결정하고 있다.

이 시점은 연방 AI 시장의 최근 변화를 반영한다. OpenAI는 2026년 4월 ChatGPT Enterprise 및 API Platform에 대한 FedRAMP Moderate 인증을 발표했다.

FedRAMP는 클라우드 서비스 보안을 평가하는 연방 프로그램이다. Moderate 인증은 기밀성, 무결성 또는 가용성이 훼손될 경우 심각한 피해를 초래할 수 있는 워크로드를 지원한다.

OpenAI는 이 인증으로 기관들이 연구, 초안 작성, 번역, 소프트웨어 개발, 사건 관리 및 기타 임무 지원 업무를 위한 관리형 제품에 접근할 수 있게 됐다고 밝혔다. 개별 기관은 여전히 자체 인증 및 사용 결정을 통제한다.

Salesforce는 더 이른 시점에 다른 이정표를 달성했다. Agentforce, Data Cloud, Marketing Cloud 및 Tableau Next는 2025년 6월 FedRAMP High 인증을 받았다.

FedRAMP High는 침해가 심각하거나 파국적인 피해를 초래할 수 있는 시스템을 다룬다. 인증이 모든 구성을 모든 임무에 적합하게 만드는 것은 아니지만, 중요한 보안 기반을 제공한다.

Missionforce는 인증을 플랫폼 전체에 적용되는 단일 라벨로 취급하지 않고 이러한 구성 요소를 결합한다. 기관은 관련된 정확한 서비스, 기능, 데이터 경로 및 책임 경계를 검토해야 한다.

이는 에이전트가 작업을 수행할 수 있을 때 특히 중요하다. 텍스트 보조 도구는 내부 문서를 요약할 수 있다. 운영 에이전트는 사건을 업데이트하고, 작업 지시를 생성하거나, 자원 이전을 권고할 수 있다.

시스템에 권한이 부여되면서 위험도 달라진다. 정확성은 여전히 중요하지만, 신원 관리, 접근 제어, 로그, 에스컬레이션 규칙, 롤백 절차도 동등하게 중요해진다.

Salesforce의 전략은 모델 선택을 더 큰 통제 시스템 안의 한 계층으로 다룬다. 자사 플랫폼은 어떤 데이터가 모델에 도달하는지와 이후 어떤 작업이 가능해지는지를 결정한다.

이 접근 방식은 다른 정부 AI 제공업체에도 압박을 가한다. 모델 공급업체는 강력한 추론 기능을 제공할 수 있지만, 기관에는 권위 있는 기록을 보유한 시스템과의 통합도 필요하다.

클라우드 제공업체도 비슷한 압박에 직면한다. 승인된 모델을 호스팅하는 것은 유용하지만, 구매자들은 점점 더 고립된 애플리케이션 프로그래밍 인터페이스가 아니라 감사 가능한 워크플로에 연결된 모델을 원한다.

정부 계약업체도 적응해야 한다. 전통적인 통합 프로젝트에는 수개월 또는 수년이 걸릴 수 있는 반면, Missionforce는 재사용 가능한 에이전트와 워크플로 구성 요소를 더 빠른 경로로 제시한다.

그러나 기관은 배포 속도만으로 성공을 측정할 수 없다. 오류율, 예외 처리, 직원 업무량, 이의 제기, 시민에게 미치는 결과를 평가해야 한다.

따라서 Salesforce Missionforce AI 에이전트는 지능만큼이나 운영 거버넌스를 놓고 경쟁한다. 결정적인 질문은 모델의 행동이 변할 때도 주변 통제 체계가 효과적으로 유지되는지다.

정부 시장은 단일 제공업체 아키텍처에도 저항한다. 기관은 하나의 임무 안에서 상용 클라우드 모델, 로컬 호스팅 모델, 기존 규칙 기반 시스템을 함께 필요로 하는 경우가 많다.

이 환경은 여러 모델을 조율할 수 있는 플랫폼에 유리하다. 동시에 책임이 여러 공급업체와 기술적 경계를 넘나들기 때문에 책임성을 더 어렵게 만든다.

안전한 정부 AI 에이전트가 직면한 통제의 상충관계

OpenAI 및 NVIDIA와의 파트너십은 기관에 의미 있는 유연성을 제공하지만, 유연성이 자동으로 일관된 보안 모델을 만드는 것은 아니다.

OpenAI 경로는 관리형 인프라를 통한 최첨단 모델 접근을 강조한다. 기관은 기반 모델 시스템을 직접 운영하지 않고도 업데이트된 기능을 얻는다.

이 경로는 기술적 부담을 줄일 수 있다. 하지만 서비스 경계, 지원되는 구성, 보존 정책, 각 구성 요소에 적용되는 정확한 인증의 중요성은 더 커진다.

NVIDIA 경로는 더 많은 현지 통제권을 제공한다. Salesforce는 기관이 자체 중요 데이터를 사용해 임무별 모델을 학습, 조정, 배포할 수 있다고 말한다.

더 광범위한 규제 산업 배포 청사진은 Agentforce, Data 360, Salesforce 애플리케이션 및 협업 도구 아래에 NVIDIA 인프라를 배치한다.

온프레미스 및 프라이빗 클라우드 배포는 데이터 주권 또는 네트워크 격리 요건을 충족하는 데 도움이 될 수 있다. 외부 관리형 서비스와 통신할 수 없는 워크로드도 지원할 수 있다.

이러한 통제에는 제품 가격으로 드러나지 않는 비용이 따른다. 기관에는 컴퓨팅 용량, 모델 엔지니어, 평가 프로세스, 패치 관리 및 운영 인력이 필요하다.

로컬 호스팅 모델도 여전히 잘못된 출력을 생성할 수 있다. 과도한 권한을 받거나 불완전한 데이터에 따라 작동할 수도 있다.

에어갭 배포는 특정 네트워크 위험을 줄이지만, 업데이트와 모니터링을 복잡하게 만들 수 있다. 팀은 통제된 경계를 넘어 소프트웨어, 평가 결과, 보안 수정 사항을 이동해야 한다.

관리형 모델은 반대되는 상충관계를 제시한다. 제공업체는 개선 사항을 더 빠르게 제공할 수 있지만, 업데이트는 기관이 이전에 평가했던 동작을 바꿀 수 있다.

Salesforce의 오케스트레이션 계층은 두 패턴을 모두 관리해야 한다. 어떤 모델이 추론을 수행하든 신원, 정책, 로깅, 작업 통제를 유지해야 한다.

이 때문에 Missionforce Policy Engine은 주목할 만한 시험대다. Salesforce는 생성형 해석과 결정론적 실행을 분리하고 있다.

OpenAI 모델은 정책 텍스트에서 규칙과 테스트 사례를 초안으로 만들 수 있다. 승인된 규칙 엔진이 이를 적용하기 전에 사람이 결과를 검토한다.

이 순서는 근본적인 한계를 인정한다. 언어 모델은 여전히 확률적으로 작동하므로, 같은 일반적 작업도 서로 다른 표현이나 추론 경로를 생성할 수 있다.

결정론적 코드는 승인 이후 더 예측 가능한 실행을 제공한다. 그렇다고 최초의 해석이 정확했음을 보장하지는 않는다.

정책 문서에는 예외, 상호 참조, 모호한 정의 또는 최근 개정 사항이 포함될 수 있다. 이를 코드로 변환하면 오류도 더 일관되게 보존될 수 있다.

따라서 필수적인 인적 검토는 상당한 비중을 차지한다. 기관에는 정책과 생성된 구현을 모두 이해하는 검토자가 필요하다.

버전 관리도 필요하다. 정책이 변경될 때 팀은 어떤 규칙 세트가 활성 상태였는지, 어떤 사례에 영향을 미쳤는지, 누가 대체안을 승인했는지 알아야 한다.

감사 추적은 결정 이후 발생한 사건을 재구성하는 데 도움이 된다. 하지만 잘못된 결정이 시민에게 도달하기 전에 이를 막아주지는 못한다.

운영 에이전트에도 같은 구분이 적용된다. 잘못된 이송 지시를 기록하면 증거는 남지만, 승인 게이트는 재고가 이동하기 전에 지시를 중단시킬 수 있다.

안전한 정부 AI 에이전트에는 결과의 중대성에 따른 통제가 필요하다. 내부 지침을 조회하는 일에 복지 수급 자격 변경과 동일한 승인 절차가 요구되어서는 안 된다.

Missionforce의 가치는 기관이 이러한 차이를 명확히 표현할 수 있는지에 달려 있다. 권한은 구체적인 작업, 데이터 소스, 사용자 및 운영 맥락을 따라야 한다.

신뢰할 수 있는 AI에 대한 광범위한 약속은 구성 증거를 대체할 수 없다. 구매자는 사용자 요청부터 모델 출력, 최종 시스템 조치까지 전체 사슬을 검토할 수 있어야 한다.

정책 자동화가 책임성 격차를 드러내는 방식

Missionforce는 정부 업무가 느리고 규칙에 얽매여 있는 곳에서 가장 유용해지며, 동시에 자동화된 실수가 즉각적인 피해를 초래할 수 있는 곳이기도 하다.

정책 행정은 대개 문서, 양식, 자격 기준, 기한 및 이의신청을 포함한다. 이러한 특성은 구조화된 자동화에 적합하다.

하지만 원본 자료를 다루기 어렵게 만들기도 한다. 정책은 법률, 규정, 기관 지침, 법원 판결 및 임시 지침에서 비롯될 수 있다.

AI가 생성한 규칙은 중요한 예외를 놓치면서도 정교해 보일 수 있다. 동일한 모델이 생성한 테스트 사례는 같은 잘못된 해석을 반복할 수 있다.

독립적인 검증은 필수다. 기관은 생성된 사례에만 의존하지 말고 과거 사례, 경계 조건 및 예상 법적 결과를 바탕으로 테스트를 개발해야 한다.

인적 승인은 필요하지만 충분하지는 않다. 시스템이 세련된 코드와 그럴듯한 설명을 제시하면 검토자는 지나치게 신뢰하게 될 수 있다.

검토 인터페이스는 각 규칙의 출처를 보여줘야 한다. 로직을 정확한 정책 조항과 연결하고 판단이 필요한 해석을 표시해야 한다.

이러한 추적성은 잘 관리된 AI 지식 베이스와 닮아 있다. 차이점은 정부 시스템에는 공식 권한, 통제된 버전 및 방어 가능한 기록이 필요하다는 것이다.

Salesforce는 Policy Engine이 결정에 대한 완전한 감사 추적을 생성할 것이라고 말한다. 그러나 이번 발표는 아직 실제 운영 배포에서 나온 독립적 증거를 제공하지 않는다.

정확도, 검토 시간, 이의신청 결과 또는 수정이 필요한 생성 규칙의 빈도도 공개하지 않았다. 이러한 지표는 시연 속도보다 더 중요하다.

Medicaid 시나리오는 특히 신중하게 다뤄야 한다. 자격 결정은 의료 보장에 영향을 미치며, 정책 적용은 프로그램과 관할권에 따라 달라질 수 있다.

기관은 사례가 자동화를 벗어나 훈련된 담당자에게 전달되는 시점을 정의해야 한다. 비정상적인 소득원, 이의가 제기된 기록 또는 상충하는 가구 정보는 명백한 상향 검토 대상이다.

시민에게도 이해하기 쉬운 설명이 필요하다. 기술적으로 완전한 로그만으로는 가족이 왜 보장 범위가 변경됐는지, 어떻게 결정에 이의를 제기할 수 있는지 알기 어려울 수 있다.

운영 에이전트는 관련된 우려를 낳는다. 차량 정비 에이전트는 재고 검색 시간을 줄일 수 있지만, 그 권고는 정확한 기록에 의존한다.

누락된 데이터는 시스템이 사용할 수 없거나, 제한되어 있거나, 이미 다른 곳에 배정된 부품을 할당하게 만들 수 있다. 로컬 배포만으로는 부실한 원본 데이터를 해결할 수 없다.

현장 에이전트는 연결성과 동기화 위험에 직면한다. 오프라인 도구는 기기가 다시 연결될 때 업데이트를 정확히 조정해야 한다.

긴급 운영은 직원들이 시간 압박 속에서 일하기 때문에 이러한 문제를 증폭시킨다. 기관은 권고, 승인된 조치 및 자율 실행 사이에 명확한 경계를 설정해야 한다.

Salesforce의 보안 통제는 해법의 일부다. Agentforce는 관리자가 허용된 조치, 데이터 접근 및 에스컬레이션 경로를 정의할 수 있게 한다.

그러나 거버넌스는 플랫폼 구성에 그쳐서는 안 된다. 조달 문서, 운영 절차, 직원 교육, 사고 대응 및 법률 검토가 모두 결과를 좌우한다.

더 넓은 군사 AI 시장은 경계가 중요한 이유를 보여준다. 기밀 AI 확장에 관한 독립 보도는 자율 또는 반자율 임무에서 인간 감독이 요구된다고 전했다.

이 사례는 군사 시스템에 관한 것이지만, 원칙은 더 폭넓게 적용된다. AI가 권고를 제공하더라도 중대한 조치에는 명시적인 책임이 필요하다.

Salesforce의 정부 AI는 여러 방향에서 검증을 받게 될 것이다. 보안팀은 아키텍처를 살피고, 프로그램 담당자는 효율성을 요구하며, 감독 기관은 누가 계속 책임을 지는지 물을 것이다.

성공적인 배포는 세 가지를 모두 충족해야 한다. 기관이 결과 조치를 설명하거나 방어할 수 없다면 처리 속도가 빨라져도 의미는 크지 않다.

Salesforce는 모델을 둘러싼 계층에서 경쟁하고 있다

Missionforce는 정부 AI 경쟁을 모델 순위만의 경쟁이 아니라 데이터 접근, 워크플로 제어 및 배포 유연성을 둘러싼 경쟁으로 전환한다.

OpenAI는 고도화된 관리형 모델과 익숙한 인터페이스를 제공한다. NVIDIA는 더 통제된 환경을 위한 모델 기술과 인프라를 제공한다.

Salesforce는 운영 맥락을 제공한다. Salesforce의 애플리케이션은 이미 사례, 관계, 자산, 서비스 요청 및 기타 정부 업무를 정리하고 있다.

이러한 맥락은 에이전트에 유용한 근거를 제공한다. 근거화란 현재 작업과 관련된 승인된 정보를 모델에 제공하는 것을 의미한다.

동시에 이는 플랫폼 의존성을 만든다. 데이터, 워크플로 로직, 권한 및 에이전트 조치가 한 공급업체의 아키텍처 안에 모이면 플랫폼을 변경하기 어려워진다.

정부 구매자에게는 이식성 계획이 필요하다. 규칙 정의, 평가 세트, 로그 및 에이전트 구성이 환경 간에 이동할 수 있는지 판단해야 한다.

모델 유연성은 한 형태의 의존성을 줄인다. 기관은 한 워크로드에는 OpenAI 모델을, 다른 워크로드에는 NVIDIA 모델을 선택할 수 있다.

그러나 모델 선택이 플랫폼 독립성과 같지는 않다. 주변 오케스트레이션, 데이터 연결 및 관리 통제는 여전히 Salesforce와 긴밀히 연결될 수 있다.

Amazon 역시 중요한 위치에 있다. Bedrock이 OpenAI 모델과 Salesforce Government Cloud 사이의 경로를 제공하기 때문이다. 이는 또 하나의 책임 경계를 추가한다.

워크플로가 실패하면 팀은 원인이 기관 데이터, Salesforce 로직, Bedrock 제공, 모델 동작 또는 사용자 구성 중 어디에 있는지 식별해야 한다.

명확한 관측 가능성이 필수적이다. 관리자는 어떤 모델이 실행됐는지, 어떤 맥락을 받았는지, 어떤 도구를 호출했는지, 그리고 어떤 조치가 뒤따랐는지 보여주는 추적 기록이 필요하다.

경쟁사는 여러 방향에서 Salesforce에 도전할 수 있다. Microsoft는 정부 클라우드 인프라, 생산성 애플리케이션 및 호스팅 모델을 연결할 수 있다.

Google은 자사 모델을 공공 부문 클라우드 서비스 및 데이터 도구와 결합할 수 있다. 전문 방위 기술 기업은 더 좁은 운영 임무에 집중할 수 있다.

OpenAI 역시 정부와의 직접 관계를 강화할 수 있다. 연방 인증과 정부용 제품은 일부 고객이 소프트웨어 파트너를 통해서만 OpenAI에 접근해야 할 필요를 줄인다.

NVIDIA는 자사 인프라가 Missionforce를 넘어 모델 개발과 배포를 지원하기 때문에 여러 경로에서 이점을 얻는다. 모든 정부 워크로드에서 승리하기 위해 Salesforce가 필요한 것은 아니다.

Salesforce의 강점은 업무가 이미 자사 애플리케이션 안에서 이루어질 때 가장 뚜렷해 보인다. 사례 관리 팀은 별도의 챗봇보다 통합 에이전트에서 더 큰 가치를 얻을 수 있다.

권위 있는 데이터가 많은 레거시 시스템에 흩어져 있을 때는 도전이 커진다. 이러한 시스템을 안전하게 연결하는 일은 모델을 구성하는 것보다 더 많은 노력이 들 수 있다.

바로 이 지점에서 구현 증거가 중요해진다. 기관에는 Missionforce가 수정 건수나 미해결 예외를 늘리지 않으면서 처리 시간을 줄인다는 실제 운영 사례가 필요하다.

공개 사례 연구는 자동화 범위를 공개해야 한다. 조회, 권고, 초안 생성 및 완료된 조치를 구분해야 한다.

이러한 범주는 에이전트 발표에서 종종 흐려진다. 권고안을 준비하는 어시스턴트는 기록 변경 권한을 가진 에이전트와 상당히 다르다.

Salesforce Missionforce AI 에이전트 전략은 기관이 여러 수준의 자율성을 필요로 한다는 점을 인식한다. 성공 여부는 이러한 수준을 가시화하고 강제할 수 있는지에 달려 있다.

이는 벤치마크 점수보다 더 지속적인 경쟁 척도다. 모델은 바뀌겠지만, 기관은 데이터와 조치를 둘러싼 신뢰할 수 있는 통제를 계속 필요로 할 것이다.

Missionforce가 정부 워크플로에 진입하며 주목할 점

다음 증거는 승인된 실제 운영 배포, 측정 가능한 운영 성과 및 명확히 정의된 에이전트 조치 한계에서 나와야 한다.

첫 번째 신호는 제품 가용성이다. Salesforce는 계획된 통합을 설명했으며, 발표문에서 가용성은 지역과 계약에 따라 달라질 수 있다고 경고했다.

구매자는 어떤 OpenAI 모델이 Salesforce Government Cloud에 도입되는지, 어떤 기능이 인증을 받는지, 그리고 ChatGPT가 언제 Missionforce 워크플로를 실행할 수 있는지 지켜봐야 한다.

정확한 범위가 중요하다. 제한적인 문서 어시스턴트는 다단계 작업을 수행하는 안전한 정부 AI 에이전트라는 더 넓은 비전을 검증하지 못한다.

두 번째 신호는 실제 운영 성과다. Salesforce는 비교가 가능할 만큼 충분한 세부 정보와 함께 정책, 물류 또는 현장 배포 결과를 공개해야 한다.

유용한 측정 항목에는 검토 시간, 예외 비율, 규칙 수정, 성공적인 작업 완료 및 인간 개입이 필요했던 조치 수가 포함된다.

시민 대상 워크플로에는 추가 지표가 필요하다. 기관은 이의신청 비율, 처리 일관성, 접근성 및 설명이 시민의 결정 이해에 도움이 되는지를 추적해야 한다.

운영 워크로드에는 다른 증거가 필요하다. 차량 또는 조달 팀은 가동 중단 시간, 이행 오류, 중복 주문 및 에이전트 출력을 수정하는 데 드는 직원 시간을 측정해야 한다.

세 번째 신호는 실제 압박 상황에서의 거버넌스다. 모델 업데이트, 정책 변경 또는 데이터 오류가 활성 워크플로에 영향을 미칠 때 기관이 어떻게 대응하는지 공개해야 한다.

성숙한 시스템은 영향을 받은 결정을 식별하고, 위험한 조치를 일시 중지하며, 이전 구성을 복원하고, 검토를 위한 증거를 보존해야 한다.

OpenAI와 NVIDIA도 각자의 책임을 명확히 해야 한다. 모델 제공업체, 인프라 운영업체, 소프트웨어 플랫폼 및 기관이 서로 다른 당사자가 최종 위험을 책임진다고 가정해서는 안 된다.

Missionforce의 약속은 아키텍처 수준에서는 신뢰할 만하다. 서로 다른 모델은 공통 워크플로 플랫폼 안에서 서로 다른 보안 및 운영 요구를 충족할 수 있다.

해결되지 않은 질문은 실행에 관한 것이다. Salesforce는 구성 요소, 사례 및 의도된 안전장치를 설명했지만, 실제 운영 증거는 여전히 제한적이다.

정부 기술 리더는 범위가 제한된 작업부터 시작해야 한다. 문서 검색, 초안 준비, 재고 매칭 및 일정 관리는 에이전트에 중대한 권한을 부여하기 전에 약점을 드러낼 수 있다.

팀에는 검색 가능하고 통제된 기술 기록도 필요하다. 검색 가능한 지식 베이스는 구현 팀 전반에서 평가, 결정 및 사고 조사 결과를 보존하는 데 도움이 될 수 있다.

목표는 최대 자율성이어서는 안 된다. 기관이 테스트하고, 모니터링하고, 설명하고, 되돌릴 수 있는 가장 유용한 수준의 자동화여야 한다.

Salesforce는 그 결정의 중심에 자리하고 있다. OpenAI 및 NVIDIA와의 파트너십은 선택지를 넓히는 동시에 책임 경계의 중요성을 더욱 부각한다.

Salesforce Missionforce AI 에이전트가 실제 정부 시스템에 도입됨에 따라, 구매자는 한 가지 실질적인 질문을 던져야 한다. 모든 중대한 조치를 추적하고, 이의를 제기하며, 안전하게 중단할 수 있는가?