El coach de IA Nu de Numan antepone los criterios de evaluación al ajuste de prompts
Numan ha detallado un enfoque centrado primero en la evaluación para su coach de salud Nu, cuestionando la idea de que mejores prompts sean el ingrediente principal para ofrecer orientación fiable. El caso de estudio del coach de IA Nu de Numan, publicado el 19 de octubre, da más importancia a definir el comportamiento aceptable antes de optimizar las respuestas.
La tensión central está entre comprobar si una respuesta parece buena y establecer si una conversación sigue siendo útil y se mantiene dentro de su ámbito. Una evaluación, o eval, es una prueba estructurada que mide un sistema de IA frente a expectativas especificadas. Esas expectativas adquieren importancia cuando los usuarios plantean preguntas personales sobre salud en un intercambio abierto.
Esa tensión también aparece en Dot de Included Health y en otros asistentes orientados a pacientes. Para desarrolladores y compradores empresariales, la cuestión va más allá de la selección del modelo: ¿quién define el comportamiento aceptable y qué evidencia justifica confiar en esa definición?
Lo que Numan reveló sobre Nu
La revelación relevante se refiere a cómo se evalúa Nu, incluidas las pruebas experimentales que aún no pueden respaldar decisiones de lanzamiento.
Según el informe de Numan sobre la evaluación de su coach de salud, Nu utiliza LangGraph, un framework para coordinar flujos de trabajo de agentes, y LangSmith, una plataforma de trazabilidad y evaluación. Un modelo supervisor dirige a agentes especializados.
Numan describe conjuntos de datos puntuados por categorías para comprobaciones acotadas y un prototipo en el que un modelo más económico simula a pacientes. Las respuestas estáticas no captaban el contexto conversacional; los intercambios guionizados dejaron de corresponderse con la conversación.
Las regresiones de seguridad existentes bloquean los lanzamientos. La capa de simulación no lo hace, a la espera de la aprobación clínica de su rúbrica de puntuación, es decir, sus criterios de calificación escritos.
La empresa también describe salvaguardas de respuesta, muestreo humano diario y pruebas mediante el grafo de producción. Los criterios contradictorios sobre dosis olvidadas pusieron de manifiesto desacuerdos acerca de las respuestas aceptables. La puntuación continua en línea sigue siendo un paso previsto.
Estas distinciones ponen el anuncio en perspectiva. Se trata de un informe de ingeniería sobre diseño de evaluaciones, más que de evidencia independiente de mejores resultados para los pacientes. Su importancia radica en hacer visible el estándar de aceptación lo suficiente como para cuestionarlo.
Para un comprador, esto cambia la conversación de seguimiento útil. Preguntar si un asistente cuenta con pruebas de seguridad es demasiado amplio para revelar mucho. Preguntar qué prueba puede detener un lanzamiento muestra hasta qué punto una organización se toma en serio sus límites declarados.
Lo mismo se aplica al trabajo experimental. Un prototipo puede revelar patrones de fallo útiles sin estar preparado para certificar nada. Tratar ambos papeles por separado deja espacio para la investigación sin permitir que los resultados preliminares se conviertan en garantías de producto.
Por tanto, un sistema de evaluación necesita una explicación clara de su propia autoridad. Algunos resultados orientan las prioridades de desarrollo. Otros establecen si un comportamiento previamente aceptable se ha deteriorado. Solo las comprobaciones validadas adecuadamente deberían tener el peso que se les asigna.
Esto también cambia cómo los lectores deberían interpretar la expresión “primero la evaluación”. Debería describir una relación entre la evidencia y las decisiones. La mera presencia de un panel de puntuación no puede establecer esa relación.
Una organización podría generar puntuaciones extensas mientras permite que los plazos de lanzamiento prevalezcan sobre cada resultado incómodo. A la inversa, un conjunto más reducido de comprobaciones bien definidas podría tener un valor operativo considerable si los fallos desencadenan investigaciones de forma fiable.
La revelación invita a esa interpretación más exigente. La cuestión relevante es si los estándares escritos controlan de manera consistente las decisiones de producto, incluso cuando retrasan mejoras que por lo demás parecen atractivas.
Esta cuestión alcanza a las personas responsables de lanzar el asistente. Los ingenieros necesitan una especificación aplicable. Los revisores clínicos necesitan autoridad sobre los límites pertinentes. Los responsables de producto deben entender qué les permite afirmar realmente un resultado aprobado.
Por qué la calidad de las respuestas deja expuestos a los coaches de salud
Una respuesta pulida es evidencia sobre una respuesta; no establece la calidad de la interacción que la rodea.
Consideremos un intercambio hipotético de orientación sobre la dificultad para mantener una rutina. Un usuario podría describir inicialmente una motivación baja y revelar después un obstáculo práctico tras una pregunta del asistente. Un consejo dado de inmediato podría pasar por alto por completo ese obstáculo.
Una respuesta de referencia, es decir, un ejemplo preparado para comparar, puede hacer que el consejo inmediato parezca un éxito. Sin embargo, un coach que plantee una pregunta de seguimiento relevante podría servir mejor a la conversación. La decisión de calificación depende de lo que la prueba pretenda medir.
Esto crea un problema para los equipos que comprimen todos los comportamientos deseables en cada respuesta individual. La empatía, la aclaración, la educación y el manejo de límites no necesariamente pertenecen en cantidades iguales en todas partes. Exigirlos todos puede premiar respuestas recargadas.
También es posible cometer el error opuesto. Un asistente puede seguir haciendo preguntas mientras evita ofrecer una respuesta útil. La paciencia conversacional necesita un punto final, y ese punto final depende de la situación, no de una preferencia universal por intercambios más largos.
La explicación de Anthropic sobre la evaluación de agentes conversacionales también trata la calidad de la interacción y la finalización de tareas como necesidades de evaluación distintas. Describe a los usuarios simulados como una forma de poner a prueba intercambios adaptativos. También subraya que las evaluaciones automatizadas deben acompañarse de supervisión en producción, comentarios de los usuarios y revisión humana.
Esa perspectiva respalda la dirección general sin validar a Nu en sí. El acuerdo sobre el diseño de la evaluación no establece acuerdo sobre una respuesta concreta de orientación sanitaria. El estándar específico del ámbito aún necesita su propia justificación.
Un paciente guionizado puede crear otro punto ciego. Si el asistente formula una pregunta inesperada pero pertinente, una respuesta predeterminada podría ignorarla. La transcripción resultante mide entonces el comportamiento bajo un malentendido artificial.
Un paciente simulado ofrece una oportunidad de prueba diferente porque sus respuestas pueden reaccionar al asistente. Sin embargo, el realismo es una hipótesis que debe investigarse. La fluidez por sí sola no demuestra que la persona simulada represente a usuarios reales.
Por ejemplo, un usuario simulado podría explicar sus objetivos con más claridad que una persona bajo estrés. Podría colaborar con solicitudes de aclaración que un usuario frustrado abandonaría. También podría seguir una descripción de personaje con demasiada coherencia.
Estas posibilidades importan porque un producto de orientación funciona a través de la propia interacción. La conversación influye en qué información llega a estar disponible, qué incertidumbres permanecen sin resolver y si el usuario entiende el siguiente paso.
Para los desarrolladores, la presión consiste en evaluar ese proceso sin fingir que toda conversación válida tiene un guion predeterminado. Para los compradores, la presión consiste en preguntar qué tipos de comportamiento el entorno de pruebas hace fácil pasar por alto.
Cuanto más se adapta un asistente, menos informativa resulta una única respuesta ideal. La evaluación aún debe identificar condiciones concretas de éxito, permitiendo a la vez distintos caminos legítimos para alcanzarlas.
Este es un problema de especificación más difícil que comprobar si una respuesta contiene frases preferidas. También explica por qué invertir en mejores criterios puede importar antes de seguir experimentando con prompts.
El coach de IA Nu de Numan plantea la cuestión de quién es dueño del estándar
El estándar de aceptación conlleva decisiones que la ingeniería de prompts por sí sola no puede resolver.
Un prompt indica a un modelo qué debe hacer. Una rúbrica indica a un evaluador qué se considera aceptable. Cuando esos documentos discrepan, mejorar el prompt no puede resolver la disputa subyacente sobre políticas.
Imaginemos una evaluación hipotética que premie la información general útil mientras otra penalice cualquier respuesta que vaya más allá de redirigir. La misma respuesta podría recibir juicios incompatibles. La optimización movería entonces el sistema entre expectativas en competencia.
Ese desacuerdo necesita un responsable con autoridad para resolverlo. De lo contrario, la respuesta más fácil es modificar la redacción hasta que mejoren las puntuaciones. Una puntuación superior ocultaría una decisión de producto no resuelta.
Las implicaciones se extienden a la estructura organizativa. Los ingenieros pueden expresar las reglas con precisión e implementar comprobaciones a su alrededor. La experiencia clínica aporta un juicio distinto sobre qué tipo de asistencia es apropiada en un contexto de salud.
Ninguno de los dos roles deja de ser necesario cuando un evaluador automatizado entra en el proceso. La automatización amplía el alcance del juicio ya codificado. No puede aportar el acuerdo que falta sobre el juicio en sí.
El CEO de Included Health, Owen Tripp, describe un énfasis comparable en la gobernanza en las salvaguardas clínicas de IA de la empresa. La compañía afirma que Dot se somete a validación dirigida por clínicos, umbrales definidos antes del lanzamiento y supervisión continua. También afirma que su producto añade salvaguardas más allá de las proporcionadas por los modelos subyacentes.
Dot y Nu abordan flujos de trabajo diferentes, por lo que sus afirmaciones de seguridad no deben clasificarse como resultados intercambiables. La comparación útil se refiere a la responsabilidad: ambos informes sitúan el juicio del ámbito alrededor del modelo, en lugar de depender únicamente de su comportamiento predeterminado.
El informe independiente de LangChain sobre los flujos de trabajo de evaluación sanitaria describe cómo Abridge convierte anotaciones de expertos en evaluadores reutilizables. También describe pruebas por etapas y revisión en producción. Como material publicado por un proveedor, ofrece contexto de implementación complementario, no una auditoría comparativa independiente.
En conjunto, estos ejemplos sugieren una presión competitiva práctica. Una demostración de producto muestra lo que ocurrió en un intercambio seleccionado. Un proceso de aceptación documentado puede ayudar a explicar por qué una organización espera un comportamiento aceptable más allá de esa demostración.
Esa expectativa sigue siendo condicional. Un equipo debe mantener el estándar a medida que cambia el producto, resolver desacuerdos entre revisores e investigar casos que quedan fuera de las categorías existentes. La reutilización no elimina el mantenimiento.
Para los compradores empresariales, la distinción afecta a la diligencia debida. Pedir una puntuación global de calidad ofrece poco contexto sin conocer la población evaluada, las reglas de calificación y las definiciones de gravedad. Una puntuación se vuelve útil cuando sus límites son comprensibles.
También hay una dimensión de gestión del conocimiento. Las decisiones de revisión pierden valor cuando su razonamiento permanece disperso entre mensajes y documentos aislados. Una base de conocimientos de ingeniería con capacidad de búsqueda puede ayudar a preservar ese razonamiento junto con los ejemplos que regula.
La documentación no establece validez clínica. Su función es hacer que las decisiones sean inspeccionables, rastreables y accesibles cuando cambios futuros reabran una cuestión anterior.
Por tanto, la historia del coach de IA Nu de Numan plantea una exigente prueba organizativa: ¿puede el equipo explicar quién aprobó un estándar y por qué sigue siendo apropiado?
Un filtro de lanzamiento hace que la definición de fallo sea determinante
Una prueba adquiere significado operativo cuando su resultado cambia lo que la organización tiene permitido lanzar.
Una regresión es un deterioro de un comportamiento que antes cumplía un estándar aceptado. Una puerta de lanzamiento es una condición que debe superarse antes de que un cambio llegue a los usuarios. Conectarlas convierte la evaluación de una observación en un mecanismo de decisión.
Esa conexión también eleva el coste de las calificaciones ambiguas. Si una prueba solo informa a un panel, un resultado controvertido puede generar una conversación molesta. Si bloquea un lanzamiento, el desacuerdo necesita una resolución defendible.
Por eso los informes a nivel de categoría merecen atención. Un agregado puede ayudar a seguir movimientos amplios, pero también puede permitir que fortalezas no relacionadas compensen una debilidad grave. La interpretación adecuada depende de si se acepta la compensación entre categorías.
En una evaluación sensible a la seguridad, algunas categorías pueden representar condiciones que deben cumplirse de forma independiente. Un mejor tono no puede compensar lógicamente una instrucción inaceptable. El diseño de la puntuación debe reflejar esa asimetría en lugar de ocultarla en un resultado combinado.
Al mismo tiempo, unas puertas más estrictas no son automáticamente mejores. Un evaluador mal calibrado puede bloquear mejoras válidas o fomentar comportamientos forzados que satisfagan la prueba. El estándar debe examinarse en ambas direcciones.
Un falso positivo, es decir, un resultado seguro etiquetado incorrectamente como problemático, consume tiempo de revisión y puede desalentar una asistencia útil. Un falso negativo, es decir, un resultado problemático aceptado incorrectamente, puede generar una confianza injustificada. Ambos afectan a la autoridad que merece una puerta.
Esto convierte el desacuerdo entre revisores en una evidencia valiosa. El desacuerdo puede revelar una regla ambigua, contexto insuficiente o un juicio realmente difícil. Suprimirlo para producir un panel más limpio debilitaría la especificación.
El mismo razonamiento se aplica al entorno de pruebas. Una prueba debe ejercitar el comportamiento relevante para la afirmación que se realiza. Probar un componente simplificado no puede establecer automáticamente el comportamiento de cada flujo de trabajo que lo utiliza.
En un sistema multiagente, es decir, componentes coordinados impulsados por modelos con responsabilidades distintas, las propias transferencias entre componentes merecen atención. Un especialista puede producir una respuesta aceptable mientras el flujo de trabajo general sigue gestionando mal la necesidad del usuario.
Esa es una consecuencia analítica de la composición. La calidad de cada parte no garantiza que las partes reciban el contexto adecuado ni que se activen en el momento correcto. Las afirmaciones a nivel de sistema requieren evidencia a nivel de sistema.
Por tanto, un comprador debe distinguir la calidad del modelo de la fiabilidad del producto. Las comparaciones de modelos pueden orientar la elección de componentes. No resuelven si la aplicación ensamblada enruta las solicitudes adecuadamente, conserva la información relevante o gestiona con claridad los intentos fallidos.
La cuestión comercial más difícil se refiere a las excepciones. Si un lanzamiento no supera una comprobación importante, ¿quién puede anular el resultado y qué evidencia debe acompañar esa decisión? Una anulación sin explicación puede socavar el valor de la puerta.
Estas consideraciones presionan la gobernanza de lanzamiento, no solo el rendimiento de ingeniería. Un programa de evaluación significativo hace que algunos lanzamientos sean más fáciles de justificar y otros más difíciles. Esa fricción forma parte de su propósito.
Mejores puntuaciones en las pruebas no demuestran mejores resultados de salud
Los resultados de evaluación respaldan afirmaciones sobre comportamientos probados; el beneficio clínico requiere evidencia ajustada a esa afirmación más amplia.
La distinción importa porque “seguro”, “útil” y “eficaz” pueden referirse a resultados diferentes. Un asistente puede evitar una respuesta prohibida y, aun así, dejar al usuario confundido. Puede ofrecer orientación satisfactoria sin mejorar un resultado relacionado con la salud.
Estas posibilidades no invalidan las pruebas de comportamiento. Definen sus límites. Un programa de evaluación útil puede establecer si se produjeron comportamientos especificados en condiciones determinadas, dejando sin respuesta otras preguntas.
La investigación independiente ilustra por qué la competencia general de un chatbot no debería sustituir ese trabajo. Un estudio sobre consejos médicos dirigido por médicos, publicado como preprint en 2025, evaluó 888 respuestas a 222 preguntas de pacientes. Examinó Claude, Gemini, GPT-4o y Llama3-70B.
Los investigadores informaron de tasas de respuestas inseguras de entre el 5 % y el 13 % en los sistemas probados. Esos hallazgos se refieren a modelos, preguntas y condiciones de evaluación concretos. No miden Nu ni predicen su rendimiento.
Su relevancia es más acotada y útil: los asistentes de propósito general pulidos todavía pueden producir respuestas que los médicos consideran inseguras. Por tanto, las afirmaciones sobre productos específicos de un dominio necesitan evidencia más allá de la reputación del modelo subyacente.
El posicionamiento regulatorio también exige cautela. La Medicines and Healthcare products Regulatory Agency del Reino Unido proporciona orientación sobre software médico que explica que muchos productos de software e IA están sujetos a la regulación de dispositivos médicos. La descripción elegida por una empresa no constituye por sí misma el respaldo de un regulador.
Para los lectores, la implicación práctica es separar la intención del producto de la garantía externa. Una descripción de bienestar explica el papel que una empresa pretende que desempeñe su asistente. No debe interpretarse como una confirmación general de cada posible interacción.
La simulación introduce otra limitación. Un paciente generado por un modelo es un instrumento de prueba con su propio comportamiento. Si ese instrumento pasa por alto sistemáticamente un patrón de interacción difícil, ejecutar más conversaciones puede reproducir la misma omisión a mayor escala.
Del mismo modo, un juez automatizado puede recompensar formulaciones conocidas sin reconocer un problema más profundo. El acuerdo entre el asistente y su evaluador podría reflejar supuestos compartidos en lugar de una evaluación fiable de la situación del usuario.
Estos son motivos para buscar comprobaciones independientes, ejemplos variados y desacuerdos documentados. No son motivos para asumir que se produjo un fallo concreto en Nu. La evidencia disponible respalda el escrutinio, no esa conclusión.
La privacidad forma parte de la misma discusión. Los registros de evaluación pueden contener información sensible incluso cuando el sistema está destinado a la orientación. Reutilizar conversaciones plantea cuestiones sobre el acceso, la retención y los fines para los que pueden procesarse esos registros.
Una organización debería explicar esas decisiones junto con sus afirmaciones de rendimiento. Un proceso de puntuación fiable y una gestión responsable del material puntuado son requisitos independientes. El éxito en uno no demuestra el otro.
El relato sobre el coach de IA Nu de Numan resulta más útil cuando se interpreta dentro de estos límites. Ofrece un caso a favor de un mejor diseño de evaluación, al tiempo que deja la eficacia de los resultados y la validación independiente como cuestiones distintas.
Tres señales mostrarán si el enfoque se sostiene
La próxima evidencia útil se refiere a estándares aprobados, rendimiento en producción y la relación entre el comportamiento simulado y el real.
Desde finales de octubre de 2026 hasta enero de 2027, la primera señal que observar es la aprobación clínica de los criterios experimentales de puntuación de conversaciones. Se trata de una ventana de observación, no de una fecha límite anunciada por la empresa.
El desarrollo informativo incluiría una descripción clara de qué se aprobó y qué decisiones respaldan ahora los criterios aprobados. Una aprobación sin explicación de su alcance dejaría a los lectores especulando sobre su significado.
La evidencia de desacuerdos resueltos reforzaría el argumento central. Mostraría que el trabajo de evaluación produjo un estándar aplicable, en lugar de otra colección de preferencias enfrentadas. La ambigüedad continuada debilitaría la confianza en la optimización automatizada frente a ese estándar.
La segunda señal es la evidencia de la evaluación en producción. Un informe útil distinguiría las alertas automatizadas de los problemas confirmados por revisores humanos. También explicaría la cobertura de revisión y el tratamiento de los casos no detectados.
Una tasa de alertas por sí sola sería difícil de interpretar. Más alertas podrían reflejar una cobertura más amplia, un evaluador más estricto o un comportamiento peor. Menos alertas podrían reflejar una mejora o una sensibilidad reducida.
Lo importante es la relación entre la detección y la adjudicación, es decir, la decisión final revisada sobre un caso señalado. Informar sobre esa relación ayudaría a los lectores a entender si la automatización centra eficazmente la atención de los expertos.
La tercera señal es el acuerdo entre las pruebas simuladas y la revisión de conversaciones reales. Un relato convincente mostraría si los tipos de fallos descubiertos durante las pruebas se parecen a los que importan tras el despliegue.
Si un cambio mejora el rendimiento simulado mientras los revisores observan problemas persistentes en el uso ordinario, el método de prueba necesita revisión. Si ambos mejoran bajo definiciones estables, resulta más fácil justificar la confianza en el enfoque de evaluación.
La misma comparación debería examinar quién sigue estando mal representado. Un promedio amplio puede ocultar un rendimiento desigual entre estilos de comunicación o circunstancias de los usuarios. Una evidencia más sólida describiría el alcance de esas comprobaciones sin afirmar una cobertura universal.
Estas señales reforzarían o debilitarían el argumento de priorizar la evaluación de formas concretas. Los criterios aprobados respaldan la autoridad del estándar. Una detección útil en producción respalda su valor operativo. El acuerdo entre las pruebas y el despliegue respalda la relevancia del entorno de pruebas.
Ninguna exige prometer que todas las conversaciones saldrán bien. Exigen evidencia de que la organización puede identificar problemas significativos, preservar lo que ya funciona y explicar sus decisiones cuando los resultados entran en conflicto.
Para los desarrolladores que evalúan el coach de IA Nu de Numan, lean el caso de estudio junto con las reglas de aceptación que rigen su propio asistente. Identifiquen qué decisiones controlan realmente esas reglas. Pregúntense dónde sigue sin resolverse el desacuerdo experto, si sus pruebas permiten una variación conversacional válida y cómo las interacciones reales de los usuarios desafían sus supuestos. Para los compradores, soliciten evidencia que conecte una mejora afirmada con un comportamiento definido y un proceso de revisión responsable. Mantengan separadas la reputación del modelo, las puntuaciones de evaluación y las afirmaciones sobre resultados al valorar esa evidencia. La siguiente pregunta más útil es concreta: ¿qué fallo recién descubierto haría que el equipo cambiara su estándar, retrasara un lanzamiento o limitara el papel prometido del producto?
