Salesforce의 크로스 리전 추론, SageMaker AI 활용
Salesforce는 두 AWS 리전에 걸쳐 크로스 리전 추론 라우팅을 테스트해, 데이터 상주 제한이 있는 요청은 로컬에 유지하면서 기존 모델 용량을 연결했다. Salesforce의 크로스 리전 추론은 Amazon SageMaker AI를 사용해 로컬 서빙 리소스의 상태가 비정상이 될 경우 적격 요청을 재지정한다. 이 변화는 실질적인 문제를 해결한다. 요청이 안전하게 도달할 수 없다면 다른 곳의 여유 용량으로도 과부하 상태의 서비스를 보호할 수 없다.
AWS는 지원되는 상용 실시간 엔드포인트 리전의 정식 출시를 발표하면서 2026년 11월 18일 Salesforce 사례를 공개했다. 학습된 모델을 입력값에 실행하는 과정인 추론은 사용 가능한 컴퓨팅 하드웨어만으로 결정되지 않는다. Salesforce가 직면한 과제에는 어떤 요청을 이동할 수 있는지 결정하고, 목적지를 승인하며, 각각의 라우팅 결정을 설명하는 일이 포함된다.
주요 비교 대상은 애플리케이션 요청을 전달하는 서비스인 자체 게이트웨이 안에서 리전 전환 로직을 유지하던 Salesforce의 기존 방식이다. Microsoft의 글로벌 모델 배포는 여러 위치에 추론을 분산하는 또 다른 업계 기준 사례를 제시한다. Salesforce의 사례는 이미 운영 중인 엔드포인트 간의 라우팅에 관한 것이며, 허용되는 목적지는 여전히 애플리케이션 정책이 결정한다.
Salesforce 크로스 리전 추론, 기존 용량 연결
이 변화는 더 큰 모델 서빙 플릿을 자동으로 구축하는 대신, 기존 배포 환경 전반에 걸친 관리형 라우팅 계층을 Salesforce에 제공한다.
공개된 크로스 리전 추론 사례에 따르면, Salesforce는 다른 계정이 소유한 엔드포인트를 포함해 오리건과 오하이오의 목적지를 테스트했다. 엔드포인트는 모델 요청을 수신하는 배포된 서비스다. 라우터는 이러한 목적지 전반에 걸친 호출 경로를 제공해 대체 대상을 선택하는 데 필요한 애플리케이션 로직을 줄인다.
이 발표를 해석할 때 이 구분은 중요하다. Salesforce는 이미 존재하는 리소스를 활용하는 다른 방식을 설명하고 있다. 라우터가 모델을 배포하거나 모델 파일을 복제하거나, 장애 발생 중 추가 컴퓨팅 용량을 제공한다고 보고하는 것은 아니다.
AWS의 추론 라우터 API는 특정 모델을 서빙할 수 있는 목적지의 명명된 그룹인 라우팅 대상을 설명한다. 이러한 목적지는 별도의 서비스 경계를 가진 인프라 그룹화 단위인 동일 AWS 파티션 내의 서로 다른 계정과 리전에 속할 수 있다. 애플리케이션은 논리적 대상을 선택하고, 라우터는 적격 목적지를 선택한다.
엔지니어링 조직의 관점에서 이는 운영 책임이 놓이는 위치를 바꾼다. 애플리케이션 팀은 여전히 일관된 모델 서빙 계약이 필요하지만, 더는 모든 리전 전환 결정을 개별적으로 구현할 필요가 없다. 공유 라우팅 서비스가 목적지 상태를 평가하고 적격 요청의 목적지를 선택하는 책임을 맡게 된다.
잠재적 이점은 독립적으로 관리되는 리소스 전반에서 조율이 쉬워진다는 점이다. 다른 계정에 용량을 보유한 팀은 해당 인프라의 소유권을 이전하지 않고도 허용된 목적지를 노출할 수 있다. 이를 사용하는 애플리케이션은 추가 서빙 옵션을 얻고, 목적지 소유자는 접근 제어를 유지한다.
하지만 구성에 목적지가 표시된다고 해서 프로덕션 트래픽을 수용할 수 있다는 충분한 근거가 되지는 않는다. AWS는 목적지 상태와 권한에 대한 검사를 문서화하고 있다. 이는 라우팅 계획을 선언하는 일과 그 계획이 실제로 작동함을 입증하는 일을 유용하게 분리한다.
이 때문에 Salesforce 사례는 애플리케이션 호출 변경이라는 기술적 세부 사항을 넘어 주목할 가치가 있다. 리전별 용량 분절은 일부는 할당 문제이고 일부는 운영 조율 문제다. 관리형 라우팅은 첫 번째 문제에 사용할 수 있는 리소스를 더 효과적으로 활용하면서 두 번째 문제를 다룬다.
이 발표에는 신중한 시점 관련 표현도 필요하다. 11월 18일은 보고된 제공 시작일이자 게시일이다. 이는 Salesforce가 그날 전 세계 배포를 완료했거나 모든 워크로드가 이미 라우터를 사용한다는 것을 입증하지는 않는다.
따라서 즉각적인 변화는 구체적이지만 제한적이다. Salesforce는 기존 목적지 간 관리형 경로를 테스트했다. 더 폭넓은 의미는 이 경로가 더 많은 워크로드, 더 긴 장애 상황, 그리고 더 많은 적격 리전에서 어떻게 작동하는지에 달려 있다.
리전별 용량은 플랫폼 팀에 부담을 준다
압박은 각 고객에게 허용된 처리 위치의 한계를 준수하면서 모델 서비스를 계속 제공해야 하는 팀에 가해진다.
애플리케이션은 전체 플릿에 걸쳐 충분한 용량을 보유하고도 특정 위치에서는 어려움을 겪을 수 있다. 요청이 포화 상태의 리전 서비스에 계속 묶여 있다면 다른 곳의 리소스는 거의 보호 역할을 하지 못한다. 전체적으로는 플릿이 충분해 보이지만, 고객은 지연이나 오류를 경험한다.
이 때문에 용량 계획은 모델을 실행하는 컴퓨팅 리소스인 배포 인스턴스를 단순히 세는 것보다 더 복잡하다. 팀은 수요가 어디에 도착하는지, 어떤 목적지가 동등한 요청을 처리할 수 있는지, 어느 고객이 다른 곳에서의 처리를 허용하는지를 고려해야 한다. 각 제약은 실질적으로 사용 가능한 용량을 줄인다.
Salesforce의 기존 게이트웨이 방식은 리전 전환 책임을 애플리케이션 인프라에 더 가깝게 배치했다. 그 책임을 관리형 라우터로 옮기면 유지 관리 부담이 바뀐다. 또한 플랫폼 소유자에게 더 명확한 질문을 제기한다. 어떤 결정은 회사 정책으로 남겨야 하며, 어떤 결정은 서비스 동작이 되어야 하는가?
회사의 답은 데이터 상주 결정을 게이트웨이에 유지하는 것이다. 데이터 상주는 정보가 저장되거나 처리되는 위치를 규정하는 요구 사항을 뜻한다. 리전 제한이 있는 요청은 로컬에 남고, 적격 요청은 더 넓은 목적지 집합을 사용할 수 있다.
이는 이점이 워크로드에 따라 달라짐을 의미한다. 유연한 워크로드는 로컬 서비스가 어려움을 겪을 때 승인된 원격 리소스를 활용할 수 있다. 하나의 리전에 묶인 워크로드는 그 경계 안에서 사용할 수 있는 용량과 안정성에 계속 의존한다.
어느 결과도 정책의 일관성이 없다는 뜻은 아니다. 시스템은 서로 다른 요청에 서로 다른 요구 사항을 적용하고 있다. 운영상 과제는 제품 팀이 일관된 성능이나 가용성을 약속하기 전에 이러한 차이를 이해하도록 보장하는 것이다.
엔터프라이즈 구매자에게 이는 모델 인프라에 대해 물어볼 가치가 있는 질문을 바꾼다. 공급업체의 전체 지리적 운영 범위만으로는 특정 고객을 처리할 수 있는 리소스가 무엇인지 알 수 없다. 관련 범위는 해당 고객의 실제 요청에 허용된 위치 집합이다.
개발자에게 이 문제는 성능 저하 상황에서의 애플리케이션 동작까지 확장된다. 결국 성공하는 요청이라도 사용자가 기다릴 의향이 있는 시간을 초과할 수 있다. 라우팅 책임을 옮긴다고 해서 허용 가능한 응답 시간을 정의할 필요가 사라지지는 않는다.
플랫폼 관리자에게 기회는 반복되는 인프라 작업을 줄이는 데 있다. 애플리케이션마다 별도의 전환 규칙을 유지하면 운영 동작이 달라질 수 있는 지점이 늘어난다. 팀이 라우터의 트리거와 한계를 이해한다는 조건 아래, 이 동작을 중앙화하면 일관성을 제공할 수 있다.
경제적 근거는 운영적 근거보다 아직 덜 확립되어 있다. 적격 용량을 공유하면 유휴 리소스를 줄일 방법이 될 수 있지만, 이 보고서는 검증된 절감액을 수치로 제시하지 않는다. 추가 배포, 원격 처리, 운영 안전장치에는 여전히 리소스가 필요하다.
더 유용한 판단은 범위를 좁히는 것이다. Salesforce는 일부 맞춤형 라우팅 작업을 관리형 기능으로 대체하고 있다. 이것이 플릿 경제성을 개선하는지는 실제 수요 패턴, 적격 트래픽, 그리고 수신 목적지에 유지되는 여유 용량에 달려 있다.
데이터 상주 규정이 라우팅 경계를 정의한다
핵심적인 상충 관계는 더 많은 서빙 용량에 접근하는 것과 각 요청이 준수해야 하는 처리 경계 사이에 있다.
Salesforce의 아키텍처는 크로스 리전 라우팅보다 앞단에 적격성 결정을 둔다. 이 순서는 가용성 로직이 승인된 목적지 집합 안에서 작동해야 하므로 중요하다. 장애 후에 이전에 금지된 위치가 허용 가능해졌다고 판단해서는 안 된다.
따라서 로컬 처리로 제한된 요청은 제한이 없는 요청과 다른 라우팅 범위를 받는다. 라우터는 그 범위 내에서 목적지 선택을 개선할 수 있다. 로컬 서비스가 혼잡해졌다는 이유만으로 그 범위를 정당하게 확장할 수는 없다.
이 구분은 이 맥락에서 “글로벌”이 무엇을 의미하는지도 명확히 한다. Salesforce의 크로스 리전 추론은 모든 요청이 어디로든 이동할 수 있음을 뜻하지 않는다. 적격 요청이 리전과 계정 경계를 넘어 승인된 리소스에 도달할 수 있는 서빙 구성을 설명한다.
교차 계정 권한 부여는 또 다른 경계를 더한다. 계정 소유자는 호출자의 라우팅 구성에만 의존하지 않고 자신의 엔드포인트 접근을 허용해야 한다. 이는 공유 가용성이 인프라 소유권을 없애서는 안 된다는 점에서 조직적으로 중요하다.
목적지 소유자의 권한과 애플리케이션의 데이터 상주 정책은 서로 다른 질문에 답한다. 권한은 호출자가 리소스를 호출할 수 있는지를 규정한다. 데이터 상주 정책은 특정 요청을 그곳에서 처리해야 하는지를 규정한다. 배포 환경에서는 두 결정이 모두 일치해야 한다.
Microsoft의 모델 배포 유형은 유용한 비교를 제공한다. 해당 문서는 글로벌 처리, 지정된 데이터 영역 내 처리, 선택한 Azure 지리적 범위 내 처리를 구분한다. 이러한 선택도 용량 접근성과 허용된 처리 범위를 연결한다.
두 제품을 서로 대체 가능한 것으로 봐서는 안 된다. Microsoft가 문서화한 배포 유형은 서버리스 모델 서비스에 적용되는 반면, Salesforce의 사례는 기존 SageMaker AI 목적지 간에 라우팅한다. 공유되는 업계 과제는 수요를 분산하기 전에 추론이 발생할 수 있는 위치를 정의하는 것이다.
Microsoft는 또한 위치 간 처리와 애플리케이션 수준의 리전 복구를 구분한다. 배포 복원력 가이드는 허용된 라우팅 범위가 리전 리소스 엔드포인트 간 전환에 필요한 로직을 대체하지 않는다고 설명한다. 이는 분산 처리가 애플리케이션의 모든 계층을 자동으로 보호하지는 않는다는 더 폭넓은 주의를 뒷받침한다.
Salesforce에서 데이터 상주 검사를 게이트웨이에 유지하면 명시적인 제어 지점이 보존된다. 이 설계는 여전히 정확한 요청 분류와 올바른 목적지 구성에 의존한다. 관리형 라우터만으로는 조직이 모든 고객 약속을 올바르게 해석했는지 독립적으로 확립할 수 없다.
이러한 한계는 거버넌스를 설명하는 언어에 반영되어야 한다. 이 아키텍처는 경계를 강제하는 메커니즘을 제공한다. 이러한 메커니즘이 특정 약속을 충족하는지는 전체 배포 환경, 그 구성, 그리고 적용되는 정책에 달려 있다.
가장 강력한 실무적 시사점은 라우팅 유연성이 워크로드의 속성이 된다는 점이다. 기업은 어떤 서비스가 승인된 원격 용량의 이점을 얻는지, 어떤 서비스가 더 강력한 로컬 프로비저닝을 필요로 하는지 평가할 수 있다. 이는 글로벌 인프라를 하나의 무제한 리소스로 취급하는 것보다 더 현실적인 가용성 계획을 만든다.
느린 응답이 자동으로 우회 전환을 유발하지는 않는다
보고된 테스트는 오류 복구와 허용 가능한 사용자 지연 시간이 서로 다른 목표임을 보여준다.
Salesforce의 테스트에서 팀은 라우터를 통해 요청을 탐색하는 동안 로컬 엔드포인트를 포화 상태로 만들었다. 보고된 중앙 응답 시간은 약 0.2초에서 45~58초 사이로 상승했다. 중앙값, 즉 p50은 측정된 응답의 절반은 더 빨랐고 절반은 더 느렸다는 뜻이다.
트래픽은 이러한 지연에도 처음에는 로컬에 머물렀다. 보고서에 따르면 지연 시간만으로는 리전 전환이 발생하지 않는다. 느린 모델 응답은 비정상적인 대상이 아니라 더 긴 입력 또는 출력 등 정당한 작업을 반영할 수 있다.
대신 라우터는 오류, 스로틀링, 타임아웃을 포함한 실패 결과에 반응한다. 스로틀링은 한도에 도달했기 때문에 서비스가 요청을 거부하는 것을 의미한다. 이 동작은 이 글의 핵심 메커니즘이 가장 빠른 사용 가능 엔드포인트를 찾는 범용 기능으로 오해되지 않도록 한다.
오류가 발생한 뒤 Salesforce는 첫 원격 요청이 약 2분 후 도착했다고 보고했다. 약 1분 뒤에는 프로브 트래픽의 약 78%가 원격으로 처리됐다. 전환 후 보고된 중앙 지연 시간은 약 0.2초로 돌아왔다.
이 회사는 리전 간 경로의 중앙 오버헤드가 100밀리초 미만이었다고도 보고했다. 트래픽은 약 10분에 걸쳐 복구된 로컬 대상으로 돌아왔다. 이는 설명된 테스트의 관찰 결과이며, 보장된 타이밍이나 성능 약속은 아니다.
이 구분은 인터랙티브 제품에 중요하다. AI 기능을 사용하는 사람은 기본 서비스가 오류를 반환하기 전에 작업을 포기할 수 있다. 그 사람의 관점에서는 기술적으로 성공한 응답도 너무 늦게 도착하면 쓸모가 없을 수 있다.
그렇다고 오류 기반 라우팅의 가치를 부정하는 것은 아니다. 이는 라우팅 목표와 애플리케이션 경험을 별도로 평가해야 한다는 점을 보여준다. 서비스는 비정상적인 대상에서의 복구를 개선할 수 있지만, 느린 운영의 모든 기간에 개입이 발생한다고 보장하지는 않는다.
중앙값 측정치 역시 중요한 질문에 답하지 못한다. 가장 느린 요청을 설명하지도, 모든 고객의 경험을 확정하지도 않는다. 공개된 설명은 프로덕션 동작의 완전한 특성화가 아니라 특정 테스트 시나리오를 뒷받침한다.
같은 주의는 원격 처리 비중에도 적용된다. 프로브 트래픽의 약 78%를 다른 곳으로 라우팅했다고 해서 일반적인 분배 목표가 확립되는 것은 아니다. 다른 사고 상황에서의 트래픽 할당은 대상, 그 상태, 그리고 허용된 라우팅 범위에 따라 달라진다.
이는 제품 팀에 실질적인 평가 과제를 만든다. 팀은 관찰된 라우팅 전환과 애플리케이션이 합리적으로 기다릴 수 있는 시간을 비교해야 한다. 또한 서비스의 복구 동작과 자체 타임아웃 및 오류 처리 선택을 구분해야 한다.
따라서 Salesforce의 리전 간 추론은 헤드라인의 성능 수치가 시사하는 것보다 더 좁은 신뢰성 문제를 다룬다. 보고된 복구는 테스트된 조건에서 고무적인 증거다. 그에 앞선 느린 응답 기간 역시 사용자 경험을 평가하는 이들에게 똑같이 중요한 증거로 남는다.
여유 용량에도 보호 장치가 필요하다
라우팅 계층은 수요를 재분배하지만, 수신 엔드포인트 역시 자체 호출자에게 피해를 주지 않고 이를 흡수할 충분한 용량이 필요하다.
과부하된 대상에서 요청을 옮기면 압력이 다른 곳으로 퍼질 수 있다. 수신 리전에는 이미 자체 워크로드가 있다. 유입 수요에 제한이 없으면 복구 조치가 로컬 부족 문제를 더 광범위한 서비스 문제로 바꿀 수 있다.
AWS는 cross-region traffic cap을 통해 수신 엔드포인트 보호 장치를 문서화하고 있다. 이 구성은 예상 인스턴스당 요청률과 허용되는 엔드포인트 용량 비율을 결합한다. 상한을 초과한 요청은 스로틀링 오류를 받는다.
이 상한은 추가 컴퓨팅 용량이 아니라 보호 메커니즘이다. 이는 대상이 수락하는 원격 트래픽의 양을 제한한다. 조직은 기존 수요를 계속 처리하면서 배포된 리소스가 어느 정도의 초과 수요를 감당할 수 있는지 여전히 결정해야 한다.
이 결정은 원격 엔드포인트가 일반 조건에서 정상인지 확인하는 것만으로는 충분하지 않다. 부하가 가벼운 엔드포인트도 다른 리전의 트래픽을 수용한 뒤 제약을 받을 수 있다. 용량 계획은 사고 중 유입되는 결합 수요를 고려해야 한다.
수요 변화에 따라 컴퓨팅 리소스를 추가하거나 제거하는 자동 확장은 여전히 시스템의 별도 부분이다. 라우팅은 대상 중에서 선택할 수 있고, 각 대상은 자체 리소스를 관리한다. 이 과정들은 사용 가능한 용량과 그 변화 속도에 대해 서로 호환되는 가정을 가져야 한다.
라우터는 배포 일관성도 해결하지 않는다. Salesforce의 설명에 따르면 등록된 대상에는 일치하는 모델과 아티팩트, 즉 해당 모델을 실행하는 데 필요한 파일이 있어야 한다. 그렇지 않으면 요청이 계속 성공하더라도 리전 전환이 서비스의 응답을 바꿀 수 있다.
구매자에게 이는 기능적 일관성 역시 가용성의 일부임을 뜻한다. 다른 위치의 응답은 동일한 애플리케이션 계약을 충족할 때만 유용하다. 지리적 이중화가 고객 워크플로에 서로 다른 모델 동작을 조용히 도입해서는 안 된다.
대상의 존재와 준비 상태도 구분해야 한다. 권한, 모델 구성, 서빙 상태는 모두 해당 대상이 요청을 처리할 수 있는지에 영향을 준다. 라우팅 대상에 리소스 이름을 추가하는 것은 신뢰할 수 있는 대안을 구축하는 과정의 한 단계일 뿐이다.
운영 기록을 통해 시스템을 이해하는 능력인 관측 가능성은 여기서 필수적이다. Salesforce의 설명은 요청별 대상 및 라우팅 이유 정보를 언급한다. 이러한 기록은 팀이 라우팅 변경을 모델 변경이나 용량 문제와 구분하는 데 도움이 된다.
하지만 대상 기록이 모든 거버넌스 질문에 답해 주지는 않는다. 이는 호출이 실행된 위치를 식별한다. 해당 대상이 적절했는지 설명하려면 팀은 여전히 주변 요청 맥락, 구성 이력, 정책 기록이 필요하다.
이 증거를 관리하는 엔지니어는 결정과 사고에 대한 공동 기록이 필요하다. 검색 가능한 지식 베이스는 리전 적격성 및 복구 선택의 근거를 보존하는 데 도움이 될 수 있다.
해결되지 않은 질문은 이러한 제어 장치들이 장기간의 압박 아래에서 함께 어떻게 작동하는가이다. Salesforce는 추가 작업으로 더 긴 포화 테스트와 연쇄적인 리전 동작의 평가를 포함한다고 밝혔다. 이러한 계획된 검증은 성공적인 제한적 실험과 더 폭넓은 운영에 대한 신뢰 사이의 간극을 다룬다.
더 폭넓은 도입에는 세 가지 종류의 증거가 필요하다
다음으로 유용한 증거는 더 넓은 배포, 지속적인 장애 테스트, 그리고 라우팅 전환 중 성능에 관한 더 명확한 설명이다.
첫째, Salesforce가 보고서에 설명된 구성 범위를 넘어 확장했는지 확인해야 한다. 회사는 더 폭넓은 리전 배포를 계획된 작업으로 제시한다. 이 표현은 전체 서빙 플릿이 이미 라우터를 사용한다는 발표와 구분되어야 한다.
더 광범위한 배포는 통합이 서로 다른 운영 환경에서 작동한다는 근거를 강화할 것이다. 가장 강력한 업데이트는 어떤 워크로드가 이동했고 어떤 워크로드가 로컬에 남았는지, 그리고 어떤 배포 제약이 나타났는지를 설명할 것이다. 단순히 수가 늘어나는 것만으로는 실질적인 신뢰성에 대해 알 수 있는 점이 적다.
모든 모델 서비스가 같은 동작을 보이지 않기 때문에 워크로드 다양성은 중요하다. 요청 기간, 대상 적격성, 용량 요구 사항은 다를 수 있다. 이러한 조건 전반의 증거는 독자가 초기 패턴이 테스트 설정을 넘어 적용되는지 판단하는 데 도움이 될 것이다.
둘째, 지속적인 포화 테스트와 수신 한도가 연쇄적 과부하를 막는다는 증거를 살펴봐야 한다. Salesforce는 특히 더 긴 테스트와 리전 간 상한 동작을 추가 평가 영역으로 지목했다. 이는 아키텍처의 핵심 약속을 직접 검증하는 테스트다.
유리한 결과는 수신 대상이 자체 호출자를 계속 처리하는 동안 리디렉션된 수요가 제한된 범위에 머문다는 점을 보여줄 것이다. 불리한 결과는 적격 플릿에 충분한 여유 용량이 없는 조건을 드러낼 것이다. 어느 결과든 초기 지연 시간 수치를 반복하는 것보다 더 많은 정보를 제공할 것이다.
이 테스트는 여러 대상이 동시에 어려움을 겪을 때 무슨 일이 일어나는지도 명확히 해야 한다. 라우팅은 허용된 다른 엔드포인트가 작업을 수락할 수 있을 때 가장 유용하다. 전체 적격 집합이 제약을 받는다면, 애플리케이션은 사용 불가능한 용량에 대한 정의된 대응을 여전히 갖춰야 한다.
셋째, 전환 자체에 대한 더 상세한 측정치를 살펴봐야 한다. Salesforce는 더 정밀한 리전 간 지연 시간 평가를 계획하고 있다. 독자는 안정적인 원격 운영과 요청이 이동하기 전 기간, 대상 간 전환, 로컬 서비스로의 복귀를 구분해야 한다.
더 폭넓은 성능 설명은 이러한 단계 전반에서 예측 가능한 동작을 보인다면 주장을 강화할 것이다. 성공적인 복구가 애플리케이션 기대치를 넘는 지연 뒤에 일관되게 발생한다면 과도한 주장은 약화될 것이다. 두 결과 모두 팀이 적합한 워크로드를 선택하는 데 도움이 된다.
기업 구매자에게 의사결정은 실제로 사용하는 서비스와 계속 연결되어야 한다. 어떤 처리 위치가 허용되는지, 무엇이 전환을 유발하는지, 승인된 모든 대상이 바쁠 때 어떤 일이 일어나는지 물어야 한다. 이러한 질문은 인프라 주장을 계약 및 운영 현실과 연결한다.
개발자에게 이 보고서는 애플리케이션 책임을 제거하지 않은 채 라우팅 책임을 옮기는 구체적인 사례를 제공한다. 정책 분류, 응답 처리, 배포 일관성, 사용자 기대는 여전히 제품의 일부다. 관리형 서비스는 이러한 요소를 없애는 것이 아니라 라우팅과의 관계를 바꾼다.
유사한 아키텍처를 도입하기 전에 장애 동작을 애플리케이션의 실제 대기 예산 및 처리 경계와 비교하라. 어떤 요청이 홈 리전을 벗어날 수 있는지 식별한 뒤, 승인된 대상이 수요가 겹치는 동안 충분한 용량을 유지하는지 검토하라. 정상적인 응답 시간과 함께 전환 측정치를 검토해야 한다. 정상적인 원격 성능은 트래픽이 이동하기 전의 지연을 설명하지 않기 때문이다. 팀이 나중에 동작을 설명할 수 있도록 레지던시 결정, 대상 구성, 사고 증거를 연결해 두어야 한다. Salesforce의 리전 간 추론은 맞춤형 라우팅 작업을 줄이기 위한 구체적인 방향을 제시한다. 다음 배포 및 테스트 업데이트를 통해 이 방향이 자체 신뢰성 요구 사항에 어디까지 부합하는지 판단하라.



