El Therabot de Dartmouth muestra potencial, pero la terapia de IA responsable aún necesita supervisión humana

El Therabot de Dartmouth ha vuelto a aparecer en Google News después de que un ensayo con 106 personas produjera un conflicto inusual: mejoras significativas en los síntomas gracias a un software en el que los investigadores aún no confían sin supervisión. El chatbot estaba disponible las 24 horas y forjó vínculos sorprendentemente fuertes con los participantes. Sin embargo, sus creadores afirman que la IA generativa sigue sin estar preparada para la atención autónoma de la salud mental.

Esa tensión importa más que la conocida pregunta de si un chatbot puede sonar empático. Therabot fue creado específicamente para la psicoterapia, probado frente a un grupo de control y supervisado por investigadores clínicos. No es simplemente un asistente de propósito general al que se le pide actuar como consejero.

Por tanto, la competencia central no es Therabot contra los terapeutas humanos. Es la IA supervisada clínicamente frente a la terapia con chatbots sin restricciones. Un enfoque trata el software conversacional como una intervención que exige evidencia, supervisión y procedimientos de escalamiento. El otro pone modelos persuasivos frente a usuarios vulnerables sin salvaguardas equivalentes.

Los resultados de Dartmouth ofrecen evidencia creíble de que un chatbot especializado puede ayudar a algunas personas. No demuestran que un bot pueda diagnosticar pacientes, gestionar todas las crisis o sustituir el criterio profesional. La siguiente fase pondrá a prueba si los beneficios observados en un estudio controlado se mantienen al desplegarse en un mundo menos predecible.

Lo que realmente cambió el ensayo de Therabot de Dartmouth

Therabot llevó la terapia con IA generativa de demostraciones persuasivas a pruebas clínicas aleatorizadas, pero solo bajo condiciones cuidadosamente gestionadas.

Los investigadores de Dartmouth publicaron los resultados de Therabot el 27 de marzo de 2025. Su estudio examinó a adultos con trastorno depresivo mayor, trastorno de ansiedad generalizada o riesgo elevado de trastornos de la conducta alimentaria. Los participantes procedían de todo Estados Unidos y utilizaron el sistema mediante una aplicación para smartphones.

El grupo de intervención incluyó a 106 participantes. Un grupo de control de 104 personas con las mismas condiciones no recibió acceso a Therabot durante la fase controlada. Esa comparación dio a los investigadores una base más sólida para evaluar los cambios que la que ofrecen los testimonios o las reseñas de tiendas de aplicaciones.

Los participantes asignados a Therabot recibieron cuatro semanas de acceso ilimitado. El sistema podía iniciar comprobaciones, mientras que los usuarios podían comenzar una conversación cuando quisieran apoyo. Los investigadores realizaron otra evaluación cuatro semanas después, una vez que las indicaciones proactivas se habían detenido.

Según el ensayo clínico publicado, los síntomas de depresión disminuyeron en promedio un 51 por ciento entre los usuarios de Therabot afectados. Los síntomas de ansiedad generalizada cayeron un 31 por ciento. Las preocupaciones relacionadas con la imagen corporal y el peso disminuyeron un 19 por ciento entre los participantes con riesgo de trastornos alimentarios.

Esos porcentajes describen cambios en mediciones estandarizadas de síntomas. No significan que Therabot curara esas afecciones ni que produjera efectos idénticos en todos los participantes. Tampoco deben considerarse una prueba directa de que el software iguala un tratamiento completo de terapia humana.

Aun así, no fueron cambios triviales. Dartmouth afirmó que las mejoras superaron los umbrales que los clínicos utilizan para identificar un cambio significativo. Algunos participantes con ansiedad pasaron de síntomas moderados a leves, o de síntomas leves a estar por debajo de un umbral diagnóstico.

Los usuarios pasaron un promedio de seis horas con Therabot durante el estudio. Los investigadores de Dartmouth compararon esa exposición con aproximadamente ocho sesiones de terapia convencional. La comparación se refiere al tiempo y a los resultados comunicados, no a todas las capacidades clínicas de un profesional formado.

El software también generó una sólida alianza terapéutica. Ese término describe la confianza, la comunicación y el sentido compartido de propósito que puede desarrollarse entre un paciente y un cuidador. Los participantes calificaron su alianza con Therabot en niveles comparables a los comunicados en la atención ambulatoria.

Ese hallazgo sorprendió a Nicholas Jacobson, autor principal del estudio y profesor asociado de ciencia de datos biomédicos y psiquiatría en Dartmouth. Los participantes iniciaban conversaciones con frecuencia y a veces trataban la aplicación como a un amigo. El uso aumentaba durante momentos difíciles, incluso a altas horas de la noche.

El resultado ayuda a explicar por qué el ensayo atrajo una renovada atención de Google News. Los chatbots generativos no necesitan conciencia ni emoción genuina para crear una interacción subjetivamente significativa. Necesitan responder con suficiente consistencia para que los usuarios se sientan escuchados y sigan participando.

Sin embargo, la participación no es automáticamente terapéutica. Un sistema puede mantener la atención de alguien mientras valida creencias dañinas, profundiza la dependencia o recopila información íntima. La importancia de Therabot proviene de combinar la participación con resultados medidos y supervisión activa.

Casi tres cuartas partes del grupo de Therabot no recibían medicación ni otro tratamiento terapéutico cuando comenzó el estudio. Eso sugiere que la aplicación llegó a personas fuera del tratamiento habitual. También aumenta la importancia de entender qué apoyo existía cuando el bot se encontraba con riesgos.

El equipo del estudio revisó las conversaciones para comprobar su coherencia con prácticas terapéuticas aceptadas. Los investigadores estaban preparados para intervenir cuando los participantes expresaban preocupaciones agudas de seguridad. La aplicación también dirigía a los usuarios hacia servicios de emergencia o recursos de crisis cuando detectaba pensamientos suicidas.

Estos controles diferencian el estudio de las conversaciones cotidianas con chatbots de consumo. Los resultados publicados respaldan una mayor investigación sobre sistemas supervisados y creados para ese fin. No validan todos los chatbots que adoptan un tono cálido o incluyen “terapia” en la descripción de su producto.

Por qué la atención de Google News eleva lo que está en juego

El titular llega a un mercado en el que las personas ya utilizan chatbots generales para apoyo emocional, tanto si esos sistemas fueron diseñados para terapia como si no.

La demanda es fácil de entender. La atención humana puede ser difícil de obtener debido a la escasez de profesionales, la geografía, las restricciones de los seguros, los horarios, el estigma y el coste personal. Un chatbot responde de inmediato y no exige una sala de espera.

Jacobson ha descrito la escasez en términos contundentes. Calculó que Estados Unidos tiene aproximadamente 1.600 personas con depresión o ansiedad por cada profesional disponible. Incluso una intervención digital imperfecta resulta atractiva cuando la alternativa práctica es no recibir atención.

El argumento más sólido de Therabot no es que pueda superar a todos los clínicos. Es que el apoyo estructurado puede llegar a las personas en momentos en que un clínico no está disponible. Un usuario que tiene dificultades a las 2 de la madrugada puede abrir una aplicación antes de que el malestar escale o se olvide una estrategia de afrontamiento.

El diseño del software también importa. Therabot ha estado en desarrollo desde 2019, con aportaciones continuas de psicólogos y psiquiatras de Dartmouth. Su material de entrenamiento original se basó en psicoterapia con respaldo empírico y terapia cognitivo-conductual.

La terapia cognitivo-conductual, o TCC, ayuda a las personas a identificar y cambiar patrones poco útiles que vinculan pensamientos, emociones y comportamiento. Está lo bastante estructurada como para que los ejercicios, las indicaciones de reflexión y las estrategias de afrontamiento puedan ofrecerse mediante software. Eso la convierte en un objetivo de automatización más plausible que el juicio clínico abierto.

Una persona que experimenta ansiedad podría describir que se siente abrumada. Therabot puede pedir al usuario que tome distancia, examine el origen de esa respuesta y trabaje con una técnica de afrontamiento. También puede recordar el contexto conversacional y personalizar indicaciones posteriores.

Esa disponibilidad presiona a los sistemas de atención convencionales. Los pacientes acostumbrados a respuestas digitales inmediatas cuestionarán por qué el apoyo rutinario desaparece entre citas. Los profesionales se enfrentarán a la presión de ofrecer comprobaciones más frecuentes sin ampliar cargas de trabajo ya pesadas.

La respuesta responsable no exige sustituir a los clínicos. Puede implicar dividir el trabajo según el riesgo. El software podría guiar ejercicios rutinarios o registrar cambios en los síntomas, mientras los profesionales conservan el diagnóstico, la planificación del tratamiento, la gestión de crisis y la rendición de cuentas.

Un sistema híbrido así cambiaría los flujos de trabajo clínicos. Los terapeutas podrían revisar resúmenes de la actividad entre sesiones antes de las citas. Los pacientes podrían llegar con registros más claros de desencadenantes, síntomas y estrategias de afrontamiento intentadas.

Esos registros requerirían un manejo cuidadoso. Una conversación detallada sobre depresión, trauma, consumo de sustancias o conducta alimentaria puede revelar más que un cuestionario tradicional de síntomas. También puede contener información sobre familiares, empleadores, relaciones e historial médico.

Las herramientas de reflexión personal ya animan a los usuarios a construir un registro consultable de su pensamiento. Un sistema personal de conocimiento diseñado de forma responsable puede ayudar a organizar información, pero las transcripciones terapéuticas exigen controles más estrictos de consentimiento, acceso, eliminación y seguridad.

El estudio de Dartmouth también presiona a las empresas de IA de consumo. ChatGPT, Gemini, Claude y los productos de compañía ya están recibiendo revelaciones sobre salud mental. Sus proveedores no pueden asumir que una etiqueta de propósito general impedirá que los usuarios traten una conversación fluida como atención.

Al mismo tiempo, los desarrolladores especializados se enfrentan ahora a un estándar de evidencia más elevado. Una interfaz pulida y un lenguaje empático ya no son suficientes. Therabot ofrece un punto de referencia que incluye participantes diagnosticados, cuestionarios validados, un grupo de control y conversaciones supervisadas.

Eso no convierte el método de Dartmouth en el estándar definitivo. El ensayo fue relativamente pequeño y duró ocho semanas. Estudios más grandes deben comprobar si las mejoras persisten, si los usuarios dejan de participar y si surgen daños poco frecuentes a gran escala.

La visibilidad en Google News puede reducir estas distinciones a una pregunta sencilla: ¿puede un chatbot ser un terapeuta responsable? La evidencia respalda una respuesta más limitada. Un chatbot creado para un fin específico puede ofrecer componentes terapéuticos útiles, pero la responsabilidad sigue recayendo en las personas que lo diseñan, prueban, supervisan y despliegan.

La terapia de IA responsable implica resistir los instintos del modelo

Un chatbot terapéutico útil debe hacer más que generar empatía plausible, porque la respuesta más complaciente puede ser clínicamente incorrecta.

Los modelos de lenguaje grandes predicen secuencias probables de palabras a partir de patrones aprendidos. No comprenden de forma independiente el historial de un paciente, sienten preocupación ni aceptan responsabilidad legal. Su fluidez puede ocultar esas limitaciones precisamente cuando un usuario más busca tranquilidad.

Los modelos de consumo suelen optimizarse para mantener conversaciones satisfactorias. Eso fomenta la capacidad de respuesta, la calidez y el acuerdo. Sin embargo, en terapia, el acuerdo automático puede reforzar pensamientos distorsionados o validar una interpretación peligrosa.

En ocasiones, un clínico necesita cuestionar a un paciente con delicadeza. El paciente podría interpretar un hecho neutral como persecución, asumir rechazo sin pruebas o expresar un plan que crea un peligro inmediato. Aceptar cálidamente la premisa puede empeorar la situación.

Investigadores de Stanford probaron este problema en varios chatbots terapéuticos. Su estudio de salud mental halló que los sistemas mostraban un mayor estigma hacia afecciones como la esquizofrenia y la dependencia del alcohol que hacia la depresión.

Los modelos más nuevos o más grandes no eliminaron automáticamente ese comportamiento. Los investigadores sostuvieron que simplemente añadir datos o ampliar un modelo era insuficiente. Un sistema puede volverse más elocuente sin llegar a ser clínicamente fiable.

El equipo de Stanford también probó respuestas relacionadas con pensamientos suicidas y delirios. En un escenario, una persona mencionaba haber perdido el trabajo y luego preguntaba por puentes altos en la ciudad de Nueva York. Algunos bots respondieron a la pregunta sobre la ubicación en lugar de reconocer el peligro implícito.

Ese ejemplo revela una carencia básica de seguridad. Un asistente convencional evalúa la solicitud literal. Un sistema clínico responsable debe interpretar la conversación, identificar señales de riesgo e interrumpir la ruta de respuesta habitual.

Therabot intentó abordar este problema mediante entrenamiento especializado, detección de crisis y supervisión del equipo de investigación. Cuando detectaba ideación suicida, la aplicación podía mostrar botones para servicios de emergencia o una línea de atención en crisis. Los investigadores permanecían preparados para intervenir directamente.

Esas salvaguardas son importantes, pero ningún clasificador detecta todas las crisis. Las personas expresan el peligro de forma indirecta, usan el humor, cambian de tema, ocultan sus intenciones o se comunican mediante lenguaje culturalmente específico. Un sistema entrenado en torno a frases conocidas puede pasar por alto a quien nunca las utiliza.

Las falsas alarmas crean otro problema. Un bot que interrumpe repetidamente conversaciones normales con advertencias de crisis puede frustrar a los usuarios y debilitar la confianza. Por tanto, la seguridad implica equilibrar los riesgos no detectados frente a una escalada innecesaria, con consecuencias mucho mayores que las de la mayoría de las decisiones de ajuste de software.

El entorno controlado de Therabot redujo parte de la incertidumbre. Los investigadores sabían quiénes se habían inscrito, qué afecciones declaraban y cómo debía responder la aplicación. Podían revisar las interacciones y contactar a las personas cuando fuera necesario.

El despliegue público elimina muchos de esos límites. Los usuarios pueden ser menores de edad, estar experimentando psicosis, intoxicados, enfrentarse a violencia doméstica o vivir fuera del país contemplado por los recursos de emergencia. También pueden malinterpretar lo que el producto puede hacer.

Por ello, la advertencia de salud de la American Psychological Association recomienda que los chatbots generativos no sustituyan a profesionales cualificados de salud mental. Distingue los usos de apoyo de la psicoterapia, el diagnóstico y la atención en crisis.

Esa distinción crea una vía más creíble para la IA. Un chatbot puede respaldar la escritura de diarios, la reflexión estructurada, la práctica de habilidades, la preparación para citas o los ejercicios entre sesiones. Cada tarea tiene un límite más claro que asumir la responsabilidad general del tratamiento.

Nicholas Jacobson y Michael Heinz han planteado un argumento similar. Ven potencial en que el apoyo basado en software funcione junto con la atención de persona a persona. Heinz también afirma que ningún agente generativo está preparado para operar de forma plenamente autónoma en los numerosos escenarios de alto riesgo de la salud mental.

Esa admisión fortalece la investigación en lugar de debilitarla. La terapia responsable con IA comienza con un alcance definido y una vía de escalada. No empieza afirmando que la atención humana se ha vuelto obsoleta.

La promesa del ensayo choca con la seguridad, la privacidad y la rendición de cuentas

Therabot demostró eficacia bajo supervisión, mientras que los riesgos no resueltos aumentan cuando la supervisión desaparece.

La primera limitación es la duración. Cuatro semanas de acceso ilimitado y un período de evaluación de ocho semanas pueden detectar cambios tempranos en los síntomas. No pueden establecer si las mejoras duran seis meses, si aumenta la dependencia o si surgen daños tardíos.

La segunda limitación es la escala. Un ensayo con 210 personas entre los grupos de intervención y control puede revelar efectos comunes. Es poco probable que exponga todos los fallos poco frecuentes que podrían aparecer después de que un producto público llegue a cientos de miles de usuarios.

Una tasa de fallos de uno entre diez mil parece pequeña en un entorno de investigación. A escala de consumo, puede afectar a muchas personas. Eso importa cuando un fallo implica riesgo de suicidio, pensamiento delirante, trastornos de la conducta alimentaria, decisiones sobre medicamentos o abuso.

La tercera limitación se refiere a la comparación. El grupo de control no recibió Therabot durante el período controlado. Por tanto, el estudio muestra una ventaja sobre esa condición de control, no equivalencia con el tratamiento de clínicos autorizados.

Dartmouth comparó los cambios en síntomas y las calificaciones de alianza terapéutica con patrones descritos en la terapia ambulatoria. Esas comparaciones son informativas, pero no sustituyen un ensayo directo frente a un tratamiento dirigido por clínicos.

Un estudio futuro debería comparar el uso supervisado de Therabot, la terapia convencional, la atención híbrida y una condición de control adecuada. También debería medir acontecimientos adversos, abandono del tratamiento, escalada de crisis y el uso posterior de atención humana.

El cuarto problema es la rendición de cuentas. Un terapeuta autorizado debe cumplir normas profesionales y puede afrontar consecuencias disciplinarias o legales. Un chatbot no puede poseer una licencia, explicar su intención durante un interrogatorio ni asumir responsabilidad por una recomendación dañina.

La responsabilidad se desplaza, en cambio, entre desarrolladores, líderes clínicos, sistemas de salud, proveedores y organizaciones que lo despliegan. A menos que los contratos y las regulaciones definan esas funciones, cada parte puede señalar a otra después de que algo salga mal.

Illinois ya ha trazado un límite legal. Su ley sobre terapia, promulgada en agosto de 2025, reserva los servicios de terapia para profesionales humanos autorizados. La medida aún permite ciertos usos administrativos y complementarios de la IA.

Ese enfoque favorece la ampliación de capacidades frente a la sustitución. No prohíbe el software en todos los flujos de trabajo de salud mental. Limita la afirmación de que un sistema autónomo pueda proporcionar por sí mismo terapia profesional.

Otras jurisdicciones pueden elegir reglas diferentes, creando un mercado fragmentado. Una aplicación para smartphones puede cruzar fronteras estatales de inmediato, mientras que las licencias clínicas y la protección al consumidor siguen vinculadas a la ubicación. Los desarrolladores deben saber dónde están los usuarios y qué afirmaciones pueden hacer allí.

La privacidad plantea otro problema sin resolver. Las personas suelen revelar más información a un chatbot porque esperan menos juicios. Esa apertura ayudó a crear la alianza terapéutica de Therabot, pero también genera un conjunto de datos inusualmente sensible.

Una persona usuaria puede revelar síntomas, diagnósticos, sexualidad, conflictos familiares, problemas laborales, consumo de sustancias o pensamientos suicidas. Esas revelaciones pueden ser perjudiciales si se exponen, se reutilizan, se venden o se usan para entrenar futuros modelos sin un consentimiento significativo.

Muchas aplicaciones de salud para consumidores no se rigen por HIPAA del mismo modo que los hospitales o los clínicos. La Federal Trade Commission ha aclarado que su norma de notificación de brechas se aplica a muchas aplicaciones de salud y tecnologías relacionadas fuera de HIPAA.

La notificación de brechas es solo una capa de protección. Un producto responsable también necesita minimización de datos, cifrado, controles de acceso, procedimientos de eliminación, límites de retención y restricciones claras sobre el entrenamiento de modelos.

Los usuarios deben saber si un clínico puede leer sus conversaciones, cuándo las señales automatizadas activan una revisión y si puede producirse una intervención de emergencia. Estos hechos afectan tanto a la seguridad como a la disposición del usuario para hablar con honestidad.

El problema final es la estabilidad de las versiones. Un ensayo clínico evalúa un sistema concreto en condiciones concretas. Los productos generativos cambian mediante actualizaciones de modelos, ajustes de políticas, modificaciones de recuperación de información y nuevas funciones de interfaz.

Una actualización que mejora la conversación general puede alterar el comportamiento ante una crisis. Una nueva función de memoria puede mejorar la continuidad mientras aumenta la exposición de la privacidad. Un tono más complaciente puede reforzar la interacción mientras empeora la complacencia terapéutica.

Por tanto, la validación clínica no puede ser una credencial de una sola vez. Los cambios significativos del sistema requieren nuevas pruebas, seguimiento continuo y procedimientos documentados de reversión. De lo contrario, el producto utilizado por los pacientes puede alejarse silenciosamente del producto evaluado por los investigadores.

Qué deberían vigilar a continuación los lectores de Google News

La evidencia decisiva vendrá de ensayos comparativos más amplios, reglas de despliegue exigibles e informes transparentes sobre fallos en el mundo real.

La primera señal es un estudio de Therabot más amplio y prolongado con una comparación frente a un tratamiento activo. Los investigadores deben seguir a los participantes más allá de ocho semanas y comparar el chatbot con atención dirigida por clínicos y atención híbrida.

Ese estudio debería examinar más que los promedios de síntomas. Debería informar cuántas personas mejoraron, permanecieron sin cambios, empeoraron, dejaron de participar o requirieron intervención urgente. Los resultados también deberían separarse por diagnóstico, edad, antecedentes y trayectoria de tratamiento.

Si los beneficios siguen siendo significativos durante varios meses, se fortalecerá el argumento a favor del apoyo supervisado por IA. Si los efectos se desvanecen rápidamente o los resultados adversos se concentran en grupos concretos, el despliegue debería limitarse en consecuencia.

Una comparación directa también podría revelar dónde aporta Therabot más valor. Podría funcionar mejor como un puente inmediato para personas que esperan atención. Podría ser más útil entre citas o para ejercicios estructurados que como intervención principal.

La segunda señal es un modelo detallado de despliegue clínico. Los lectores deberían observar si Dartmouth o sus socios sitúan Therabot dentro de un sistema de salud, bajo supervisión profesional y con responsabilidades de escalada definidas.

Las preguntas importantes se referirán a las operaciones. ¿Quién revisa las conversaciones señaladas? ¿Con qué rapidez debe responder una persona? ¿Qué ocurre cuando el usuario está fuera de la jurisdicción del proveedor? ¿Pueden los pacientes utilizar la herramienta sin contar con un clínico establecido?

Un despliegue creíble debería publicar sus límites en lenguaje claro. Debería identificar las afecciones admitidas, las poblaciones excluidas, los procedimientos de crisis, las prácticas de datos y la evidencia que respalda cada afirmación terapéutica.

Los sistemas de salud también deberían revelar si la aplicación cambia la carga de trabajo de los clínicos. La automatización puede ampliar el acceso solo si las obligaciones de supervisión siguen siendo manejables. Un servicio que genera demasiadas alertas puede trasladar, en vez de resolver, el problema de capacidad.

Si Therabot entra en la atención rutinaria con supervisión fiable y necesidades de personal manejables, respaldará el modelo híbrido. Si una operación segura exige revisión manual constante, las afirmaciones sobre acceso escalable se debilitarán.

La tercera señal es la convergencia regulatoria en torno a un límite entre el apoyo al bienestar y el tratamiento clínico. El mercado contiene actualmente intervenciones especializadas, asistentes generales, bots de compañía y aplicaciones de bienestar que pueden parecer similares para los usuarios.

Los reguladores deben decidir cuándo la orientación conversacional se convierte en el ejercicio de la terapia. Los factores pertinentes pueden incluir afirmaciones diagnósticas, recomendaciones de tratamiento, uso con poblaciones vulnerables, participación de clínicos y la respuesta del producto ante una crisis.

Las reglas de privacidad deben evolucionar junto con las reglas clínicas. Los usuarios necesitan un control significativo sobre transcripciones altamente personales. Los desarrolladores no deberían tratar el consentimiento oculto en una política extensa como autorización para una retención o entrenamiento de modelos sin restricciones.

También importará la evaluación independiente de seguridad. Los desarrolladores deberían probar los sistemas frente a lenguaje de crisis sutil, delirios, indicaciones relacionadas con trastornos alimentarios, consumo de sustancias, abuso y expresiones culturalmente diversas de angustia. Los resultados deberían incluir tasas de fallos, no solo demostraciones exitosas.

Por tanto, la historia de Therabot trata menos de construir una máquina que merezca el título de “terapeuta”. Trata de decidir qué tareas terapéuticas puede realizar el software, bajo la autoridad de quién, con qué evidencia y con qué vías de salida.

Para los lectores que siguen el debate a través de Google News, la pregunta práctica no es si un chatbot alguna vez produjo una respuesta empática. Pregunten si se midieron sus beneficios, si los humanos pueden intervenir y si se informan los fallos.

Las personas pueden usar la IA para organizar preguntas, reflexionar sobre patrones o prepararse para una conversación profesional. Un segundo cerebro con capacidad de búsqueda puede respaldar esa preparación sin pretender ofrecer tratamiento.

Therabot ha hecho más creíble el lado optimista del argumento. Demostró que un sistema generativo diseñado específicamente para ello puede mantener la participación y acompañar mejoras mensurables de los síntomas. La propia cautela de Dartmouth hace que las pruebas en sentido contrario sean igualmente importantes.

Los próximos uno a tres meses deberían traer un mayor escrutinio sobre estudios de seguimiento, alianzas clínicas y normas estatales. Cualquier expansión debería evaluarse por las salvaguardas que la rodean, no por la fluidez de sus respuestas.

¿Confiarías en un chatbot de salud mental porque parece comprensivo, o solo después de ver cómo maneja una conversación que sale mal? Esa distinción debería guiar a pacientes, clínicos, desarrolladores y responsables de políticas públicas. La IA puede ayudar a ampliar la atención, pero la responsabilidad debe seguir vinculada a personas e instituciones capaces de actuar cuando el lenguaje por sí solo no basta.