La inferencia entre regiones de Salesforce utiliza SageMaker AI
Salesforce probó el enrutamiento de inferencias entre regiones en dos regiones de AWS, conectando capacidad de modelos existente y manteniendo locales las solicitudes restringidas por residencia. La inferencia entre regiones de Salesforce utiliza Amazon SageMaker AI para redirigir solicitudes elegibles cuando los recursos de servicio locales dejan de estar disponibles. El cambio aborda un problema práctico: la capacidad disponible en otro lugar no puede proteger un servicio sobrecargado a menos que las solicitudes puedan llegar a ella de forma segura.
AWS publicó el caso de Salesforce el 18 de noviembre de 2026, junto con su anuncio de disponibilidad general para las regiones compatibles con endpoints comerciales en tiempo real. La inferencia, el proceso de ejecutar un modelo entrenado sobre una entrada, depende de algo más que del hardware de cómputo disponible. Para Salesforce, el desafío incluye decidir qué solicitudes pueden trasladarse, autorizar sus destinos y explicar cada decisión de enrutamiento.
La principal comparación es con el enfoque anterior de Salesforce: mantener la lógica de conmutación regional dentro de su propia puerta de enlace, el servicio que reenvía las solicitudes de las aplicaciones. Los despliegues globales de modelos de Microsoft ofrecen otra referencia del sector para distribuir la inferencia entre ubicaciones. El caso de Salesforce se refiere al enrutamiento entre endpoints que ya opera, mientras la política de la aplicación sigue determinando qué destinos están permitidos.
La inferencia entre regiones de Salesforce conecta capacidad existente
El cambio proporciona a Salesforce una capa de enrutamiento administrada entre despliegues existentes, en lugar de crear automáticamente una flota mayor para servir modelos.
Según el caso publicado sobre inferencia entre regiones, Salesforce probó destinos en Oregón y Ohio, incluido un endpoint propiedad de otra cuenta. Un endpoint es un servicio desplegado que acepta solicitudes de modelos. El router proporciona una ruta de invocación entre esos destinos, reduciendo la lógica de aplicación necesaria para seleccionar una alternativa.
Esa distinción importa al interpretar el anuncio. Salesforce describe una forma diferente de utilizar recursos que ya existen. No informa de que el router despliegue modelos, copie sus archivos ni aporte capacidad de cómputo adicional durante un incidente.
La API de inference router de AWS describe objetivos de enrutamiento, grupos con nombre de destinos capaces de servir un modelo concreto. Esos destinos pueden pertenecer a diferentes cuentas y regiones dentro de la misma partición de AWS, una agrupación de infraestructura con límites de servicio separados. La aplicación selecciona el objetivo lógico, mientras el router elige un destino elegible.
Para una organización de ingeniería, esto cambia dónde recae la responsabilidad operativa. Los equipos de aplicaciones aún necesitan un contrato coherente para servir modelos, pero ya no tienen que implementar de forma independiente cada decisión de conmutación regional. Un servicio de enrutamiento compartido pasa a ser responsable de evaluar la salud de los destinos y seleccionar adónde van las solicitudes elegibles.
El beneficio potencial es una coordinación más sencilla entre recursos gestionados de forma independiente. Un equipo con capacidad en otra cuenta puede exponer un destino permitido sin transferir la propiedad de esa infraestructura. La aplicación consumidora obtiene otra opción de servicio, mientras el propietario del destino conserva el control sobre el acceso.
Sin embargo, que un destino aparezca en la configuración no es prueba suficiente de que pueda aceptar tráfico de producción. AWS documenta comprobaciones del estado y los permisos del destino. Esto crea una separación útil entre declarar un plan de enrutamiento y establecer que ese plan funciona.
Por eso el ejemplo de Salesforce merece atención más allá de la mecánica de cambiar una llamada de aplicación. La fragmentación regional de capacidad es en parte un problema de asignación y en parte un problema de coordinación operativa. El enrutamiento administrado aborda el segundo problema y permite aprovechar mejor los recursos disponibles para el primero.
El anuncio también exige un lenguaje cuidadoso sobre los plazos. El 18 de noviembre es la fecha de disponibilidad y publicación comunicada. No establece que Salesforce completara un despliegue global en esa fecha ni que todas las cargas de trabajo ya utilicen el router.
Por tanto, el cambio inmediato es concreto pero limitado. Salesforce ha probado una ruta administrada entre destinos existentes. Su importancia más amplia depende de cómo se comporte esa ruta con más cargas de trabajo, incidentes más prolongados y un conjunto mayor de regiones elegibles.
La capacidad regional somete a presión a los equipos de plataforma
La presión recae sobre los equipos que deben mantener disponibles los servicios de modelos mientras respetan los límites de las ubicaciones de procesamiento permitidas para cada cliente.
Una aplicación puede tener capacidad suficiente en toda su flota y aun así tener dificultades en una ubicación concreta. Los recursos en otros lugares ofrecen poca protección cuando las solicitudes siguen vinculadas a un servicio regional saturado. La flota parece adecuada en conjunto, mientras un cliente experimenta retrasos o errores.
Esto hace que la planificación de capacidad sea más compleja que contar instancias desplegadas, los recursos de cómputo que ejecutan un modelo. Los equipos deben considerar dónde llega la demanda, qué destinos pueden atender solicitudes equivalentes y qué clientes permiten el procesamiento en otros lugares. Cada restricción reduce la capacidad que está disponible en la práctica.
El enfoque anterior de puerta de enlace de Salesforce situaba la responsabilidad de la conmutación regional más cerca de la infraestructura de la aplicación. Trasladar esa responsabilidad a un router administrado cambia la carga de mantenimiento. También plantea una pregunta más clara para los propietarios de plataformas: qué decisiones deben seguir siendo política de la empresa y cuáles deben convertirse en comportamiento del servicio.
La respuesta de la empresa conserva la decisión de residencia en su puerta de enlace. La residencia de datos describe los requisitos que rigen dónde se almacena o procesa la información. Las solicitudes con restricciones regionales permanecen locales, mientras que las solicitudes elegibles pueden utilizar el conjunto más amplio de destinos.
Eso significa que los beneficios variarán entre cargas de trabajo. Una carga de trabajo flexible puede recurrir a recursos remotos aprobados cuando su servicio local tiene dificultades. Una carga de trabajo vinculada a una región sigue dependiendo de la capacidad y fiabilidad disponibles dentro de ese límite.
Ninguno de los dos resultados hace que la política sea incoherente. El sistema aplica requisitos diferentes a solicitudes diferentes. El desafío operativo consiste en asegurar que los equipos de producto entiendan esas diferencias antes de prometer un rendimiento o una disponibilidad uniformes.
Para los compradores empresariales, esto cambia las preguntas que conviene plantear sobre la infraestructura de modelos. La presencia geográfica total de un proveedor no revela qué recursos pueden atender a un cliente concreto. El alcance relevante es el conjunto de ubicaciones permitidas para las solicitudes reales de ese cliente.
Para los desarrolladores, el problema se extiende al comportamiento de la aplicación durante una degradación. Una solicitud que finalmente tiene éxito aún puede superar el tiempo que un usuario está dispuesto a esperar. Trasladar la responsabilidad del enrutamiento no elimina la necesidad de definir tiempos de respuesta aceptables.
Para los responsables de plataforma, la oportunidad consiste en reducir el trabajo de infraestructura repetido. Mantener reglas de conmutación separadas entre aplicaciones crea más lugares donde el comportamiento operativo puede divergir. Centralizar ese comportamiento ofrece coherencia, siempre que los equipos comprendan los desencadenantes y las limitaciones del router.
El caso económico sigue estando menos demostrado que el operativo. Compartir capacidad elegible sugiere una forma de reducir recursos desaprovechados, pero el informe no cuantifica ahorros verificados. Los despliegues adicionales, el procesamiento remoto y las salvaguardas operativas siguen requiriendo recursos.
La conclusión útil es más acotada: Salesforce está sustituyendo parte del trabajo de enrutamiento personalizado por una capacidad administrada. Que eso mejore la economía de la flota depende de los patrones reales de demanda, el tráfico elegible y la capacidad disponible mantenida en los destinos receptores.
Las reglas de residencia definen el límite del enrutamiento
La principal disyuntiva está entre acceder a una mayor capacidad de servicio y respetar los límites de procesamiento que debe cumplir cada solicitud.
La arquitectura de Salesforce mantiene la decisión de elegibilidad antes del enrutamiento entre regiones. Este orden importa porque la lógica de disponibilidad debe operar dentro de un conjunto aprobado de destinos. No debería decidir, tras un fallo, que una ubicación previamente prohibida se ha vuelto aceptable.
Por tanto, una solicitud restringida al procesamiento local recibe un alcance de enrutamiento diferente al de una solicitud sin restricciones. El router puede mejorar la selección de destinos dentro de ese alcance. No puede ampliar legítimamente el alcance solo porque el servicio local se haya congestionado.
La distinción también aclara qué significa “global” en este contexto. La inferencia entre regiones de Salesforce no implica que todas las solicitudes puedan desplazarse a cualquier lugar. Describe un esquema de servicio en el que las solicitudes elegibles pueden llegar a recursos aprobados a través de límites regionales y de cuentas.
La autorización entre cuentas añade otro límite. El propietario de una cuenta debe permitir el acceso a su endpoint, en lugar de depender únicamente de la configuración de enrutamiento del solicitante. Esto importa desde el punto de vista organizativo porque la disponibilidad compartida no debería eliminar la propiedad de la infraestructura.
El permiso del propietario del destino y la política de residencia de la aplicación responden a preguntas distintas. El permiso establece si un solicitante puede invocar un recurso. La política de residencia establece si una solicitud concreta debe procesarse allí. Un despliegue necesita que ambas decisiones estén alineadas.
Los tipos de despliegue de modelos de Microsoft ofrecen una comparación útil. Su documentación distingue el procesamiento global, el procesamiento dentro de zonas de datos especificadas y el procesamiento dentro de una geografía de Azure seleccionada. Estas opciones conectan de forma similar el acceso a la capacidad con el alcance de procesamiento permitido.
Los productos no deben tratarse como intercambiables. Los tipos de despliegue documentados por Microsoft se aplican a su oferta de modelos sin servidor, mientras que el ejemplo de Salesforce enruta entre sus destinos existentes de SageMaker AI. El problema común del sector es definir dónde puede producirse la inferencia antes de distribuir la demanda.
Microsoft también distingue el procesamiento entre ubicaciones de la recuperación regional a nivel de aplicación. Su guía de resiliencia de despliegues indica que el alcance de enrutamiento permitido no sustituye la lógica necesaria para cambiar entre endpoints regionales de recursos. Esto refuerza una precaución más amplia: el procesamiento distribuido no protege automáticamente todas las capas de una aplicación.
Para Salesforce, mantener las comprobaciones de residencia en la puerta de enlace preserva un punto de control explícito. El diseño sigue dependiendo de una clasificación precisa de las solicitudes y de una configuración correcta de los destinos. Un router administrado no puede establecer de forma independiente que una organización haya interpretado correctamente cada compromiso con sus clientes.
Esa limitación debe orientar el lenguaje utilizado en torno a la gobernanza. La arquitectura proporciona mecanismos para hacer cumplir límites. Que esos mecanismos satisfagan un compromiso concreto depende del despliegue completo, de su configuración y de la política aplicada.
La implicación práctica más importante es que la flexibilidad de enrutamiento pasa a ser un atributo de la carga de trabajo. Las empresas pueden evaluar qué servicios se benefician de capacidad remota autorizada y cuáles requieren un aprovisionamiento local más sólido. Esto genera un plan de disponibilidad más realista que tratar la infraestructura global como un único recurso sin restricciones.
Las respuestas lentas no activan automáticamente una vía de escape
La prueba reportada muestra que la recuperación ante errores y una latencia aceptable para el usuario son objetivos distintos.
En la prueba de Salesforce, el equipo saturó su endpoint local mientras sondeaba solicitudes a través del enrutador. El tiempo de respuesta mediano reportado aumentó de aproximadamente 0,2 segundos a entre 45 y 58 segundos. La mediana, o p50, significa que la mitad de las respuestas medidas fueron más rápidas y la otra mitad más lentas.
El tráfico inicialmente permaneció local pese a esa ralentización. Según el informe, la latencia por sí sola no desencadena un cambio regional. Una respuesta lenta del modelo puede reflejar trabajo legítimo, incluida una entrada o salida más extensa, y no necesariamente un destino en mal estado.
En cambio, el enrutador responde a resultados fallidos, incluidos errores, limitación de solicitudes y tiempos de espera agotados. La limitación de solicitudes significa que un servicio rechaza peticiones porque se ha alcanzado un límite. Este comportamiento evita que el mecanismo central del artículo se confunda con una búsqueda universal del endpoint disponible más rápido.
Una vez que aparecieron errores, Salesforce informó que las primeras solicitudes remotas llegaron aproximadamente dos minutos después. Cerca de un minuto más tarde, aproximadamente el 78 por ciento del tráfico de sondeo se atendía de forma remota. Tras el cambio, la latencia mediana reportada volvió a aproximadamente 0,2 segundos.
La empresa también informó de menos de 100 milisegundos de sobrecarga mediana para la ruta entre regiones. El tráfico volvió al destino local recuperado a lo largo de aproximadamente 10 minutos. Estas son observaciones de la prueba descrita, no compromisos garantizados de tiempo ni rendimiento.
La distinción es relevante para los productos interactivos. Una persona que usa una función de IA puede abandonar una tarea antes de que el servicio subyacente devuelva un error. Desde la perspectiva de esa persona, una respuesta técnicamente correcta puede llegar demasiado tarde para resultar útil.
Esto no invalida el enrutamiento basado en errores. Muestra que el objetivo del enrutamiento y la experiencia de la aplicación deben evaluarse por separado. Un servicio puede mejorar la recuperación ante destinos en mal estado sin garantizar que cada periodo de operación lenta desencadene una intervención.
Las mediciones medianas también dejan preguntas importantes sin responder. No describen las solicitudes más lentas ni establecen la experiencia de cada cliente. El relato publicado respalda una narrativa de prueba específica, en lugar de una caracterización completa del comportamiento en producción.
La misma cautela se aplica a la proporción remota. Enrutar aproximadamente el 78 por ciento del tráfico de sondeo a otro lugar no establece un objetivo general de distribución. La asignación de tráfico durante otro incidente dependerá de los destinos, de su estado y del alcance de enrutamiento permitido.
Esto crea una tarea práctica de evaluación para los equipos de producto. Deben comparar las transiciones de enrutamiento observadas con el tiempo que su aplicación puede esperar razonablemente. También deben distinguir el comportamiento de recuperación del servicio de sus propias decisiones sobre tiempos de espera y gestión de errores.
Por lo tanto, la inferencia entre regiones de Salesforce aborda un problema de fiabilidad más acotado de lo que podrían sugerir las cifras de rendimiento del titular. La recuperación reportada es una evidencia alentadora para las condiciones probadas. El periodo previo de respuestas lentas sigue siendo una evidencia igualmente relevante para cualquiera que evalúe la experiencia de usuario.
La capacidad de reserva también necesita protección
Una capa de enrutamiento redistribuye la demanda, pero los endpoints receptores aún necesitan capacidad suficiente para absorberla sin perjudicar a sus propios usuarios.
Alejar solicitudes de un destino sobrecargado puede distribuir la presión en otros lugares. Una Region receptora ya tiene su propia carga de trabajo. Sin un límite para la demanda importada, una acción de recuperación puede convertir una escasez local en un problema de servicio más amplio.
AWS documenta una salvaguarda para endpoints receptores mediante su límite de tráfico entre regiones. La configuración combina una tasa esperada de solicitudes por instancia con un porcentaje permitido de la capacidad del endpoint. Las solicitudes que exceden el límite reciben un error de limitación.
El límite es un mecanismo de protección, no capacidad de cómputo adicional. Limita cuánto tráfico remoto acepta un destino. Una organización aún debe decidir cuánto exceso de carga pueden gestionar sus recursos desplegados mientras siguen atendiendo la demanda existente.
Esa decisión exige más que comprobar si un endpoint remoto está en buen estado en condiciones normales. Un endpoint con poca carga puede verse limitado después de aceptar tráfico de otra Region. La planificación de capacidad debe considerar la demanda combinada que llega durante el incidente.
El escalado automático, que añade o elimina recursos de cómputo según cambia la demanda, sigue siendo una parte independiente del sistema. El enrutamiento puede seleccionar entre destinos, mientras cada destino gestiona sus propios recursos. Esos procesos necesitan supuestos compatibles sobre cuánta capacidad hay disponible y con qué rapidez cambia.
El enrutador tampoco resuelve la coherencia del despliegue. El informe de Salesforce afirma que los destinos registrados necesitan modelos y artefactos coincidentes, los archivos requeridos para ejecutar esos modelos. De lo contrario, un cambio regional puede modificar las respuestas del servicio incluso cuando las solicitudes siguen teniendo éxito.
Para los compradores, esto convierte la coherencia funcional en parte de la disponibilidad. Una respuesta desde otra ubicación solo es útil si cumple el mismo contrato de aplicación. La redundancia geográfica no debería introducir silenciosamente un comportamiento de modelo diferente en el flujo de trabajo de un cliente.
También existe una diferencia entre la existencia de un destino y su preparación. Los permisos, la configuración del modelo y el estado de servicio afectan a su capacidad de gestionar solicitudes. Añadir un nombre de recurso a un objetivo de enrutamiento es solo un paso para establecer una alternativa fiable.
La observabilidad, la capacidad de comprender un sistema a través de sus registros operativos, se vuelve esencial aquí. El informe de Salesforce describe información por solicitud sobre el destino y el motivo de enrutamiento. Estos registros ayudan a los equipos a diferenciar un cambio de enrutamiento de un cambio de modelo o un problema de capacidad.
Sin embargo, un registro de destino no responde a todas las cuestiones de gobernanza. Identifica dónde se ejecutó una invocación. Los equipos aún necesitan el contexto de la solicitud, el historial de configuración y los registros de políticas para explicar si ese destino era adecuado.
Los ingenieros que mantienen esta evidencia necesitan un registro compartido de decisiones e incidentes. Una base de conocimiento con búsqueda puede ayudar a preservar el razonamiento detrás de las decisiones de elegibilidad regional y recuperación.
La cuestión sin resolver es cómo se comportan estos controles conjuntamente bajo presión prolongada. Salesforce afirma que el trabajo adicional incluye pruebas de saturación más largas y evaluación del comportamiento regional en cascada. Esas comprobaciones previstas abordan la brecha entre un experimento limitado exitoso y la confianza en una operación más amplia.
Una adopción más amplia necesita tres tipos de evidencia
La siguiente evidencia útil es un despliegue más amplio, pruebas sostenidas de fallos y una explicación más clara del rendimiento durante las transiciones de enrutamiento.
Primero, hay que observar si Salesforce confirma una expansión más allá de las configuraciones descritas en el informe. La empresa identifica un despliegue regional más amplio como trabajo planificado. Esa formulación debe mantenerse diferenciada de un anuncio que afirme que toda la flota de servicio ya utiliza el enrutador.
Un despliegue más amplio reforzaría la idea de que la integración funciona en distintos entornos operativos. La actualización más sólida explicaría qué cargas de trabajo se trasladaron, cuáles permanecieron locales y qué restricciones de despliegue surgieron. Un recuento mayor por sí solo revelaría menos sobre la fiabilidad práctica.
La diversidad de cargas de trabajo importa porque no todos los servicios de modelos presentan el mismo comportamiento. La duración de las solicitudes, la elegibilidad de los destinos y los requisitos de capacidad pueden diferir. La evidencia en esas condiciones ayudaría a los lectores a juzgar si el patrón inicial se traslada más allá de la configuración de prueba.
Segundo, hay que observar pruebas de saturación sostenida y evidencia de que los límites de recepción evitan sobrecargas en cascada. Salesforce identifica específicamente las pruebas más largas y el comportamiento de los límites entre regiones como áreas para evaluación adicional. Son pruebas directas de la promesa central de la arquitectura.
Un resultado favorable mostraría que la demanda redirigida sigue acotada mientras los destinos receptores continúan atendiendo a sus propios usuarios. Un resultado desfavorable expondría condiciones en las que la flota elegible carece de suficiente margen de capacidad. Cualquiera de los dos resultados sería más informativo que repetir la cifra inicial de latencia.
Estas pruebas también deberían aclarar qué sucede cuando varios destinos afrontan dificultades a la vez. El enrutamiento resulta más útil cuando otro endpoint permitido puede aceptar trabajo. Si todo el conjunto elegible está limitado, la aplicación aún necesita una respuesta definida para la capacidad no disponible.
Tercero, hay que observar mediciones más detalladas de la propia transición. Salesforce planea una evaluación más precisa de la latencia entre regiones. Los lectores deben diferenciar la operación remota estable del periodo antes de que se muevan las solicitudes, el cambio entre destinos y el regreso al servicio local.
Una explicación de rendimiento más amplia reforzaría el argumento si mostrara un comportamiento predecible en esas fases. Debilitaría las afirmaciones expansivas si una recuperación exitosa siguiera sistemáticamente a retrasos que superan las expectativas de la aplicación. Ambos hallazgos ayudarían a los equipos a elegir cargas de trabajo adecuadas.
Para los compradores empresariales, la decisión debe seguir vinculada al servicio que realmente consumen. Pregunten qué ubicaciones de procesamiento están permitidas, qué desencadena un cambio y qué sucede cuando todos los destinos aprobados están ocupados. Estas preguntas conectan las afirmaciones de infraestructura con la realidad contractual y operativa.
Para los desarrolladores, el informe ofrece un ejemplo concreto de cómo trasladar la responsabilidad del enrutamiento sin eliminar la responsabilidad de la aplicación. La clasificación de políticas, la gestión de respuestas, la coherencia del despliegue y las expectativas de los usuarios siguen formando parte del producto. El servicio gestionado cambia su relación con el enrutamiento, en lugar de hacer que desaparezca.
Antes de adoptar una arquitectura similar, compare su comportamiento ante fallos con el presupuesto real de espera y los límites de procesamiento de su aplicación. Identifique qué solicitudes pueden salir de su Region de origen y examine después si los destinos aprobados conservan suficiente capacidad durante una demanda simultánea. Revise las mediciones de transición junto con los tiempos de respuesta normales, porque un rendimiento remoto saludable no describe el retraso antes de que se mueva el tráfico. Mantenga conectadas las decisiones de residencia, la configuración de destinos y la evidencia de incidentes para que los equipos puedan explicar el comportamiento más adelante. La inferencia entre regiones de Salesforce ofrece una dirección concreta para reducir el trabajo de enrutamiento personalizado. Utilice las próximas actualizaciones de despliegue y pruebas para juzgar dónde encaja esa dirección en sus propios requisitos de fiabilidad.



