Investigadores de USC prueban apoyo adaptativo de IA para reducir la sobreconfianza peligrosa
Investigadores de USC probaron cinco intervenciones adaptativas frente a un persistente problema de la IA: las personas suelen confiar demasiado en los consejos o rechazarlos cuando deberían tenerlos en cuenta. El estudio, destacado en la cobertura de Google News, concluyó que cambiar el comportamiento de un asistente en función del nivel de confianza del usuario mejoró varios resultados de decisión.
El resultado central no es que las personas necesiten más explicaciones. Las explicaciones persistentes a veces empeoraron las decisiones. En cambio, los investigadores descubrieron que el apoyo funcionaba mejor cuando se ofrecía en momentos específicos de confianza inusualmente alta o baja.
Esta distinción cuestiona una estrategia de producto conocida. Muchos sistemas de IA ofrecen las mismas señales de confianza, explicaciones y velocidad de interacción a todos los usuarios. La nueva investigación sostiene que un apoyo a la toma de decisiones más seguro requiere un objetivo cambiante: la interfaz debe responder a cómo evoluciona la confianza durante interacciones repetidas.
Los hallazgos proceden de estudios controlados con preguntas de ciencias, diagnósticos clínicos simulados y un asistente basado en un modelo de lenguaje de gran tamaño. Ofrecen una dirección práctica para el diseño, pero no demuestran que los productos reales puedan inferir de forma fiable la confianza o reproducir los resultados en entornos laborales reales.
Qué cambió realmente el estudio de USC
Los investigadores trataron la confianza del usuario como una entrada cambiante para la interfaz, no como una actitud fija medida después de la sesión.
Tejas Srinivasan y Jesse Thomason analizaron cómo la confianza afecta a que las personas acepten recomendaciones de IA. Su artículo, Adjust for Trust, apareció en las actas de la Conferencia ACM 2026 sobre Interfaces de Usuario Inteligentes.
La toma de decisiones asistida por IA implica que una persona toma la decisión final después de recibir una recomendación de un modelo. La dependencia adecuada se produce cuando la persona acepta buenos consejos y rechaza los malos.
La dependencia inadecuada incluye dos fallos opuestos. La sobreconfianza ocurre cuando alguien acepta una recomendación incorrecta. La dependencia insuficiente ocurre cuando alguien rechaza un consejo útil que habría corregido un error inicial.
Los investigadores hallaron relaciones sólidas entre la confianza declarada por los participantes y su comportamiento posterior. En las condiciones evaluadas, las correlaciones entre la confianza y el cambio a la respuesta de la IA oscilaron entre 0,796 y 0,949.
El patrón cobró especial importancia en los extremos. Los participantes del ámbito médico aceptaron el 26% de los diagnósticos incorrectos de IA cuando la confianza era alta, frente al 8% cuando era menor.
La baja confianza produjo el problema inverso. Los médicos rechazaron diagnósticos correctos de IA el 68% de las veces durante interacciones de baja confianza, frente al 40% en otras interacciones.
Estos resultados importan porque una única instrucción de «verificar la salida de la IA» no puede resolver ambos fallos. Un usuario desconfiado necesita evidencia que facilite evaluar una buena recomendación. Un usuario excesivamente confiado necesita fricción que haga más difícil aceptar automáticamente una recomendación incorrecta.
Por ello, el estudio probó intervenciones adaptativas a la confianza. Se trata de cambios en la interfaz que se activan cuando la confianza declarada por el usuario supera un umbral definido.
Cuando la confianza estaba por debajo de 5 en una escala de 10 puntos, el asistente podía ofrecer una explicación de apoyo. Cuando estaba por encima de 8, podía proporcionar una contraexplicación que describiera por qué su recomendación podría ser errónea.
Los investigadores también probaron interacciones más lentas. Una intervención exigía a los usuarios con alta confianza esperar 10 segundos antes de enviar una decisión final. Esa pausa buscaba interrumpir un cambio inmediato hacia la respuesta de la IA.
Estas intervenciones modificaron al asistente sin cambiar su capacidad predictiva subyacente. El sistema no se volvió más preciso porque recibiera un modelo mejor. Cambió cómo y cuándo presentaba la información.
Ese es el acontecimiento clave del estudio. El apoyo adaptativo a la toma de decisiones pasó de ser una propuesta general de diseño a una prueba controlada en varias condiciones de dependencia, incluido un experimento con un modelo de lenguaje de gran tamaño.
Google News dio al hallazgo una audiencia más amplia mediante la cobertura de Tech Xplore. Sin embargo, la evidencia pertinente procede del artículo revisado por pares y de sus experimentos reportados, no de la capa de agregación de noticias.
Por qué a los lectores de Google News debería importarles una confianza calibrada en la IA
El estudio desplaza la responsabilidad de los usuarios por sí solos hacia los equipos que diseñan cómo les llegan los consejos de IA.
La mayor parte de las orientaciones de seguridad pide a los usuarios que mantengan el escepticismo, comprueben las fuentes y conserven a un humano en el circuito. Estas prácticas siguen siendo importantes. Sin embargo, presuponen que la vigilancia se mantiene estable durante una larga secuencia de decisiones.
El artículo presenta la confianza como algo dinámico. Una respuesta correcta puede aumentar la confianza en el asistente, mientras que un error visible puede reducirla bruscamente. Los resultados recientes pueden entonces sesgar la forma en que el usuario aborda la siguiente recomendación.
Esto presiona a las empresas que desarrollan copilotos, sistemas clínicos, herramientas financieras y agentes empresariales. Una interfaz estática puede amplificar la experiencia de ayer incluso cuando la recomendación de hoy merece una respuesta diferente.
Un usuario que ve varias respuestas correctas puede empezar a aceptar sugerencias posteriores sin suficiente escrutinio. Otro usuario puede encontrarse con un fallo evidente e ignorar luego buenas recomendaciones durante el resto de la tarea.
Ninguna de las dos respuestas refleja la fiabilidad real del modelo en el caso actual. La interfaz debe ayudar al usuario a evaluar cada recomendación sin fingir que la confianza ha desaparecido del proceso.
Las explicaciones de apoyo ayudaron cuando la confianza era baja. En las condiciones pertinentes, el estudio informó reducciones de entre el 13% y el 31% en la dependencia insuficiente. La dependencia inadecuada total cayó entre un 9% y un 38%.
La precisión de las decisiones finales mejoró entre un 10% y un 19% en esas condiciones de baja confianza. Las mayores ganancias aparecieron cuando la IA simulada mostraba un exceso de confianza, un contexto en el que los usuarios tenían más motivos para desarrollar una confianza baja.
Las contraexplicaciones abordaron el otro extremo. Cuando la confianza era alta, redujeron la sobreconfianza entre un 10% y un 23%. La dependencia inadecuada total cayó entre un 19% y un 36%, mientras que la precisión final mejoró entre un 8% y un 20%.
La cifra más visible del titular es una reducción de hasta el 38% en la dependencia inadecuada. Otro experimento produjo una mejora de precisión de hasta el 20%.
Se trata de mejoras relativas en condiciones experimentales concretas. No deben interpretarse como una garantía universal de rendimiento para las interfaces adaptativas.
La presión también se extiende más allá de los desarrolladores de modelos. Los compradores empresariales deben decidir si los controles de seguridad de un producto tienen sentido durante el uso real. Una advertencia genérica mostrada durante la incorporación dice poco sobre cómo responde el sistema después de que cambie la confianza.
Los responsables de producto necesitan un plan de medición distinto. La adopción, el tiempo ahorrado y la aceptación de respuestas son métricas incompletas si un sistema recompensa la dependencia indiscriminada.
Una alta tasa de aceptación puede parecer un éxito mientras oculta el sesgo de automatización, la tendencia a seguir consejos automatizados incluso cuando existe evidencia contraria. Una baja tasa de aceptación puede ocultar capacidad desperdiciada y trabajo manual innecesario.
La dependencia adecuada ofrece un objetivo más útil. Los equipos deberían medir si las personas distinguen las buenas recomendaciones de las malas, no si están de acuerdo con el sistema con más frecuencia.
Esto importa a los lectores que encontraron la historia a través de Google News porque el resultado se aplica al uso cotidiano de la IA, no solo al software médico especializado. Los asistentes de búsqueda, las herramientas de escritura y los copilotos laborales moldean la confianza a lo largo de intercambios repetidos.
Los trabajadores del conocimiento ya pueden conservar material de apoyo y comparar las respuestas de IA con documentos originales. Una base de conocimiento personal con capacidad de búsqueda ofrece una forma de mantener la evidencia cerca de la decisión.
Aun así, la disciplina personal no puede compensar todas las decisiones de interfaz. Los sistemas que siempre hablan con fluidez, responden de inmediato y muestran una confianza uniforme pueden dificultar la evaluación cuidadosa más de lo necesario.
El apoyo adaptativo supera a las explicaciones que nunca se desactivan
El mecanismo importante es la intervención selectiva, porque las explicaciones pueden generar nuevos errores cuando aparecen en el momento equivocado.
La IA explicable suele asumir que más razonamiento producirá una mejor supervisión. El estudio complica esa premisa.
Los investigadores compararon explicaciones adaptativas de apoyo con explicaciones mostradas de forma persistente. Mostrar siempre una explicación no produjo las mismas mejoras.
En una condición de diagnóstico, las explicaciones persistentes empeoraron la precisión final. En otra tarea, aumentaron la dependencia insuficiente durante interacciones de baja confianza.
Los autores sugieren que la exposición repetida a explicaciones engañosas puede reducir la confianza en las propias explicaciones. Un razonamiento de apariencia plausible vinculado a una respuesta incorrecta también puede fomentar la aceptación en lugar del escrutinio.
Este es el conflicto principal detrás de la investigación: asistencia estática frente a asistencia adaptativa a la confianza. Los sistemas estáticos proporcionan la misma intervención independientemente del estado del usuario. Los sistemas adaptativos deciden si el apoyo adicional, la contradicción o la fricción son adecuados para ese momento.
La contraexplicación es especialmente notable. En lugar de añadir más apoyo a su respuesta preferida, el sistema presenta una razón por la que esa respuesta podría ser errónea.
Este diseño rompe con el estilo conversacional de muchos asistentes. Los productos actuales suelen aspirar a una respuesta clara respaldada por una justificación coherente. La coherencia puede hacer menos visible la incertidumbre, especialmente cuando el lenguaje del modelo suena más confiado de lo que justifican sus pruebas.
Una contraexplicación introduce una duda estructurada. No le dice al usuario que rechace la recomendación. Crea un argumento competidor que hace menos atractiva la aceptación automática.
El experimento de pausa forzada persiguió el mismo objetivo sin generar texto explicativo adicional. Los usuarios con alta confianza tuvieron que esperar 10 segundos antes de tomar su decisión final.
Esa demora redujo la dependencia inadecuada y mejoró la precisión en el contexto evaluado. El resultado respalda la imposición cognitiva, una técnica de interfaz que exige una acción deliberada antes de que los usuarios puedan seguir consejos automatizados.
La fricción suele tener una connotación negativa en el diseño de productos. Los equipos eliminan clics, reducen esperas y acortan flujos de trabajo porque las interacciones más rápidas a menudo mejoran la adopción.
El apoyo a la toma de decisiones cambia ese cálculo. La velocidad se convierte en un riesgo cuando el usuario puede aprobar una recomendación incierta antes de considerar evidencia contradictoria.
Una pausa bien situada puede proteger el juicio. Una pausa colocada antes de cada acción de bajo riesgo puede generar fatiga por alertas y animar a los usuarios a sortear el sistema.
El enfoque del artículo intenta distinguir esos casos mediante la confianza. Cuando la confianza declarada es alta, una breve demora o un contraargumento pueden ralentizar la aceptación. Cuando la confianza es baja, una explicación de apoyo puede evitar el rechazo reflejo.
El experimento con modelo de lenguaje de gran tamaño añade otra capa. Los participantes utilizaron un asistente Llama 3.1 para responder preguntas del AI2 Reasoning Challenge.
Los investigadores generaron múltiples pares de respuesta y razonamiento. La respuesta mayoritaria sirvió como predicción del modelo, mientras que su frecuencia entre las generaciones actuó como una estimación de confianza.
Cuando la confianza era baja, el sistema mostraba un razonamiento que respaldaba la predicción del modelo. Cuando la confianza era alta, seleccionaba un razonamiento que apoyaba la respuesta alternativa, si existía alguno entre las muestras generadas.
La precisión de las decisiones alcanzó el 67,8% con el LLM adaptativo, frente al 58,4% sin intervención. La dependencia inapropiada total cayó del 83,5% al 68,2%.
La infradependencia en momentos de baja confianza cayó del 65,1% al 44,4%. La sobredependencia en momentos de alta confianza cayó del 56,4% al 42,4%.
Estos resultados refuerzan el mecanismo, pero también revelan su dependencia del razonamiento generado. Un LLM puede producir una explicación persuasiva que contenga detalles inventados o sin respaldo.
Los autores identifican explícitamente las explicaciones alucinadas como una preocupación en entornos de alto riesgo. La entrega adaptativa no puede hacer seguro un razonamiento poco fiable simplemente al elegir un mejor momento para mostrarlo.
La investigación independiente también advierte contra tratar las explicaciones como un remedio universal. Un estudio de 2026 sobre la dificultad de los errores de IA concluyó que las explicaciones eran más útiles para errores de dificultad moderada que los usuarios todavía podían verificar.
Ese límite encaja con los hallazgos de USC. El apoyo adaptativo funciona al fomentar la evaluación. No puede ayudar demasiado cuando la persona carece de la información, experiencia o tiempo necesarios para evaluar la recomendación.
La lección práctica es más acotada que “personalizar cada interfaz de IA”. Los equipos deberían identificar primero dónde la confianza afecta la aceptación y luego probar una intervención pequeña frente a errores de decisión medibles.
La detección de confianza crea su propio problema de seguridad
Un asistente no puede adaptarse de forma segura a la confianza a menos que pueda estimarla sin manipular a los usuarios, invadir su privacidad o confundir la confianza con la competencia.
Los experimentos se basaron en confianza autodeclarada explícitamente. Los participantes informaron cuánto confiaban en el asistente, y unos umbrales predefinidos determinaban cuándo intervenía el sistema.
La mayoría de las herramientas comerciales no solicitan una puntuación de confianza después de cada interacción. Las encuestas repetidas ralentizarían los flujos de trabajo y podrían cambiar el comportamiento que se pretende medir.
La estimación implícita ofrece una alternativa. Un producto podría inferir la confianza a partir de la aceptación de respuestas, patrones de edición, tiempo de respuesta, solicitudes de fuentes o anulaciones repetidas.
Cada señal es ambigua. Una aceptación rápida podría indicar confianza, presión por una fecha límite, distracción o conocimientos previos sólidos. El rechazo podría reflejar escepticismo justificado, preferencia personal o malentendido.
Por tanto, el sistema podría aplicar la intervención equivocada. Podría confrontar a un experto cuidadoso con contraargumentos innecesarios mientras tranquiliza a un principiante inseguro con una explicación débil.
Ese fallo sería más que un problema de usabilidad. Un asistente adaptativo a la confianza puede influir en el estado psicológico que afirma medir.
Por ejemplo, mostrar “la IA está pensando” puede aumentar la percepción de esfuerzo y competencia. Una contraexplicación puede reducir la confianza incluso cuando la recomendación original está bien respaldada.
El artículo probó una demora de “la IA está pensando” durante momentos de baja confianza y no encontró el mismo beneficio que con una explicación de apoyo. Esperar por sí solo no aportó la evidencia necesaria para reevaluar una recomendación útil.
El hallazgo destaca la diferencia entre fricción productiva y teatralidad. Una demora puede fomentar la reflexión cuando alguien se apresura a aceptar. No debería imitar un razonamiento más profundo cuando no se produce ningún razonamiento adicional.
La privacidad plantea otro problema. Un modelo detallado de confianza podría convertirse en un perfil conductual que abarque vacilación, conformidad, experiencia y susceptibilidad a la persuasión.
Las organizaciones necesitarían límites claros sobre la recopilación, retención y uso secundario. Las señales de confianza recogidas para seguridad no deberían convertirse silenciosamente en puntuaciones de desempeño o datos para segmentación.
El despliegue clínico eleva aún más lo que está en juego. El estudio utilizó tareas de diagnóstico simuladas, no atención real a pacientes. Los experimentos controlados ofrecen consistencia interna, pero omiten presiones institucionales, historiales incompletos, preocupaciones de responsabilidad y revisión multidisciplinaria.
Los médicos también difieren en especialidad, experiencia y familiaridad con un caso. Un umbral fijo en una escala de confianza de 10 puntos no puede captar todas las fuentes relevantes de incertidumbre.
El artículo reconoce otra limitación: los entornos reales suelen carecer de retroalimentación inmediata sobre si una decisión fue correcta. Sin información sobre los resultados, ni el usuario ni el sistema pueden ajustar la confianza frente a una verdad de referencia fiable.
Muchas decisiones empresariales producen resultados tardíos o controvertidos. Una recomendación de contratación, alerta de fraude o previsión estratégica puede no recibir una etiqueta clara de corrección durante meses.
La calibración de la confianza se vuelve más difícil en esos entornos. El asistente podría adaptarse a señales de confianza sin poder determinar si esa confianza está justificada.
El estudio también contabiliza la infradependencia y la sobredependencia dentro de una medida combinada de dependencia inapropiada. Sin embargo, los costes de esos errores varían según el ámbito.
Un falso negativo en medicina puede tener consecuencias diferentes de las pruebas innecesarias. Una institución financiera puede valorar de forma distinta la detección de fraude frente a la reducción de falsas alarmas.
Por tanto, los equipos de producto necesitan modelos de utilidad que reflejen daños reales. Mejorar una puntuación combinada puede ocultar un aumento peligroso del tipo de error más costoso.
Una investigación publicada en PLOS One propuso anteriormente una calibración adaptativa de la confianza basada en el comportamiento de dependencia y señales cognitivas. El trabajo de USC añade evidencia controlada, pero el despliegue real sigue requiriendo validación más allá de una interfaz de laboratorio.
Un estudio independiente de Communications Psychology descubrió que las personas ajustaban su dependencia entre asesores artificiales con perfiles distintos. Su integración se mantuvo significativamente por debajo de un óptimo modelado.
En conjunto, estos estudios sugieren que la adaptación es posible, pero imperfecta. Las personas responden a la calidad percibida de los asesores. No combinan de forma consistente los consejos de la manera que maximiza la precisión.
El riesgo es que las empresas traten la adaptación a la confianza como otra función de personalización. Las afirmaciones de seguridad exigen un estándar más alto, incluidas evaluaciones preregistradas, costes de error específicos del ámbito y pruebas contra la manipulación.
Por ello, los lectores de Google News deberían interpretar el resultado principal como evidencia de una hipótesis de diseño, no como una capa de seguridad terminada. Los experimentos muestran que las intervenciones sensibles al contexto merecen ser probadas. No demuestran que ningún asistente actual entienda cuándo un usuario concreto confía demasiado en él.
Qué sigue para el apoyo adaptativo a la toma de decisiones con IA
La siguiente fase depende de tres señales: pruebas de campo, estimaciones fiables de confianza y evidencia de que las interfaces adaptativas protegen las habilidades con el tiempo.
La primera señal es la replicación en el trabajo real. Los investigadores necesitan estudios de campo en los que los profesionales afronten restricciones auténticas, retroalimentación tardía y consecuencias que vayan más allá de las puntuaciones experimentales.
La atención sanitaria ofrece un caso de prueba evidente, pero el despliegue debería comenzar con decisiones acotadas y revisión independiente. Los investigadores deberían informar tasas separadas de aceptación de consejos incorrectos y rechazo de consejos correctos.
Si las intervenciones adaptativas mejoran ambas medidas sin aumentar la carga de trabajo ni la fatiga por alertas, la afirmación central del artículo se vuelve más sólida. Si las mejoras desaparecen fuera de las tareas controladas, el mecanismo necesitará un uso más limitado.
La segunda señal es un método defendible para estimar la confianza. Las valoraciones explícitas son transparentes pero gravosas. La inferencia conductual es menos intrusiva durante el trabajo, pero más fácil de malinterpretar.
Un sistema creíble debería mostrar qué señales activan una intervención. Los usuarios deberían poder corregir la estimación y desactivar la personalización sin perder acceso a información básica de seguridad.
Las evaluaciones también deberían analizar diferencias demográficas y de experiencia. Un detector de confianza que funciona para un grupo puede clasificar erróneamente las vacilaciones, patrones de lenguaje o velocidad de interacción de otro.
La tercera señal es evidencia sobre la retención de habilidades a largo plazo. Los experimentos breves miden elecciones inmediatas, mientras que el uso diario de IA puede transformar cómo las personas buscan, verifican y recuerdan.
Un estudio clínico de 2025 informó que la detección no asistida de adenomas por parte de médicos disminuyó tras la exposición regular a la detección asistida por ordenador. Los hallazgos clínicos00139-7) suscitaron debate sobre una posible pérdida de habilidades y explicaciones alternativas, incluida la carga de trabajo.
Por tanto, el apoyo adaptativo debería evaluarse en dos horizontes temporales. Debe mejorar la decisión actual sin debilitar la capacidad de la persona para decidir cuando el sistema no está disponible.
Ese requisito favorece las interfaces que mantienen visible la evidencia y fomentan el juicio independiente. Desaconseja las herramientas que simplemente añaden texto persuasivo alrededor de una recomendación.
Para el trabajo cotidiano del conocimiento, los usuarios pueden crear su propia capa de verificación. Guardar material fuente, documentar por qué se aceptó una recomendación y utilizar knowledge blending puede facilitar la revisión posterior.
Los equipos de producto pueden comenzar con controles igualmente modestos. Pueden probar contraargumentos tras una aceptación rápida, solicitar evidencia antes de acciones de alto impacto y rastrear si los usuarios detectan errores introducidos deliberadamente por el modelo.
Deberían evitar inferir que la vacilación equivale a desconfianza o que el acuerdo equivale al éxito. El objetivo es la calidad de las decisiones, no el cumplimiento con el asistente.
La atención de Google News en torno a esta investigación refleja una preocupación más amplia por la dependencia de la IA. El artículo aporta algo más útil que otra advertencia: un mecanismo comprobable para cambiar las interfaces cuando la confianza se vuelve extrema.
Su resultado más sólido es también el más cauteloso. Más explicación no siempre fue mejor. El apoyo mejoró las decisiones cuando su forma y momento coincidían con el estado del usuario.
La siguiente pregunta útil no es si las personas deberían confiar en la IA. Es si un sistema concreto les ayuda a reconocer cuándo la confianza está justificada, cuándo la duda es necesaria y cuándo ni el usuario ni el modelo tienen evidencia suficiente.
Preste atención a los productos que publican esas mediciones en lugar de ofrecer garantías genéricas. Pregunte si sus avisos de seguridad cambian el comportamiento, si los usuarios pueden inspeccionar el desencadenante y si el rendimiento se mantiene fuera de una demostración controlada.
El apoyo adaptativo a la toma de decisiones solo gana credibilidad cuando mejora el juicio sin convertir la propia confianza en otra predicción opaca.
