El sesgo de la IA de Stanford para el cáncer de piel muestra a quiénes dejan atrás los algoritmos
La investigación de Stanford sobre el sesgo de la IA para el cáncer de piel ha dejado al descubierto un serio conflicto bajo años de impresionantes afirmaciones sobre precisión. Los algoritmos pueden identificar bien las lesiones malignas en pruebas seleccionadas, pero su rendimiento disminuye cuando los pacientes tienen piel más oscura o afecciones poco comunes.
Esa brecha cuestiona la promesa más atractiva del cribado dermatológico automatizado. La IA debería ampliar el acceso al conocimiento especializado, especialmente allí donde los dermatólogos escasean. Sin embargo, las personas que más podrían beneficiarse quizá reciban las predicciones menos fiables.
Los sistemas más recientes intentan cerrar esa brecha mediante mejores conjuntos de datos, análisis estructural de imágenes y entrenamiento orientado a la equidad. Sin embargo, la evidencia reciente todavía separa el rendimiento de laboratorio del uso clínico seguro. La competencia ya no es IA contra dermatólogos. Es precisión de titulares frente a un rendimiento fiable en los pacientes que realmente utilizarán la tecnología.
El sesgo de la IA para el cáncer de piel sobrevivió al auge de la precisión
La IA mejoró en la clasificación de lesiones cutáneas conocidas antes de que los investigadores demostraran que funcionaba igual de bien en todos los tonos de piel.
El auge moderno de la IA en dermatología se remonta a clasificadores de imágenes entrenados con grandes colecciones de fotografías etiquetadas de lesiones. Estos sistemas aprenden patrones estadísticos que vinculan píxeles con diagnósticos. En comparaciones controladas, algunos lograron resultados cercanos a los de dermatólogos experimentados.
Este logro era importante porque la evaluación de la piel comienza como una tarea visual. Un paciente o clínico observa una mancha sospechosa y luego evalúa su forma, color, borde y evolución con el tiempo. Un modelo que reconozca patrones preocupantes podría ayudar a priorizar derivaciones o respaldar a profesionales sin formación especializada.
Sin embargo, la puntuación global de un algoritmo puede ocultar quién aparece en sus datos de prueba. Muchas colecciones influyentes de imágenes contienen muchos más ejemplos de pacientes de piel clara que de pacientes de piel oscura. Varias también enfatizan afecciones comunes y lesiones capturadas de forma impecable.
Por ello, el modelo recibe su formación más sólida en los casos representados con mayor frecuencia. Una alta precisión agregada puede coexistir con un rendimiento débil en un grupo demográfico más pequeño. Esta limitación pasa fácilmente desapercibida cuando los investigadores informan una única puntuación para todo el conjunto de prueba.
Un equipo liderado por Stanford puso el problema en mayor relieve al crear el conjunto de datos Diverse Dermatology Images, o DDI. Contiene 656 fotografías de lesiones confirmadas mediante patología, el examen de laboratorio de tejido obtenido por biopsia.
La colección incluye 208 imágenes de personas con tipos de piel Fitzpatrick I y II, 241 de los tipos III y IV, y 207 de los tipos V y VI. Los tipos Fitzpatrick describen cómo responde la piel a la exposición ultravioleta, aunque los investigadores reconocen cada vez más que la escala es un indicador imperfecto del tono de piel.
El equipo probó sistemas consolidados con este punto de referencia deliberadamente diverso. Su estudio de imágenes clínicas encontró limitaciones sustanciales para tonos de piel oscuros y enfermedades poco comunes. Los dermatólogos que proporcionaron etiquetas para conjuntos de datos de IA también obtuvieron peores resultados en esos casos más difíciles.
El hallazgo no significaba que todos los modelos fallaran con todos los pacientes de piel más oscura. Mostró que el rendimiento promedio era una afirmación de seguridad incompleta. Un modelo podía parecer competente en un punto de referencia conocido y perder fiabilidad al cambiar la población de pacientes.
Los investigadores también encontraron una vía práctica para mejorar. Ajustar los modelos con imágenes diversas y confirmadas por patología redujo la brecha de rendimiento entre los grupos de piel clara y oscura. Una mejor representación cambió el resultado porque los datos de entrenamiento determinan qué patrones aprende un modelo.
Esta es la inversión central en la historia de la IA para el cáncer de piel. Los avances de la tecnología en reconocimiento de imágenes son reales, pero también lo es la estrechez de la evidencia que respalda muchos de ellos. Un sistema puede volverse excelente en un punto de referencia sin convertirse en fiable para todos.
Los pacientes que necesitan un acceso más amplio afrontan la evidencia más débil
La brecha de equidad es más trascendental allí donde la IA se presenta como sustituto de un acceso escaso a especialistas.
Los investigadores han estimado que aproximadamente 3.000 millones de personas carecen de acceso adecuado a atención dermatológica. La geografía, el coste, la escasez de profesionales y los retrasos en las derivaciones contribuyen a ese déficit.
El cribado automatizado parece adecuado para este problema. Un profesional de atención primaria podría fotografiar una lesión y recibir una evaluación de riesgo. Un servicio de telesalud podría priorizar los casos sospechosos. Una aplicación dirigida al paciente podría recomendar una evaluación profesional cuando una mancha parezca preocupante.
Estos escenarios también llevan al modelo más allá del entorno en el que fue desarrollado. La iluminación varía, las cámaras de los teléfonos inteligentes procesan los colores de manera diferente y los pacientes encuadran las lesiones de forma inconsistente. La prevalencia de enfermedades cambia entre las consultas de especialistas, la atención primaria y el cribado comunitario.
El tono de piel es solo una parte de ese cambio. La combinación de enfermedades también importa. Un modelo entrenado principalmente para diferenciar lunares benignos comunes de melanoma puede tener dificultades ante afecciones inflamatorias, infecciones o tumores raros.
Un preprint de septiembre de 2026 examinó esta distinción al comparar la representación de tonos de piel con cambios en la distribución de enfermedades. Los investigadores evaluaron un sistema entrenado para cáncer, dos modelos fundacionales de dermatología y un modelo de visión de propósito general.
Su análisis de generalización sostiene que el tono de piel y la prevalencia de enfermedades a menudo están confundidos. Un modelo desplegado en una población desatendida puede encontrarse tanto con piel más oscura como con una colección distinta de afecciones.
Esto importa porque añadir tonos de piel diversos a un conjunto de datos de cáncer por lo demás limitado no resuelve todos los problemas de despliegue. El modelo también debe reconocer las enfermedades presentes en el entorno donde se utilizará. De lo contrario, una intervención de equidad puede mejorar un punto de referencia mientras deja intacto un fallo más amplio de generalización.
Los pacientes de piel más oscura ya afrontan disparidades diagnósticas establecidas. Algunos cánceres de piel son menos frecuentes en estas poblaciones, pero una menor incidencia no elimina el riesgo. El reconocimiento tardío puede producir peores resultados cuando se pasan por alto lesiones peligrosas.
Las lesiones también pueden verse de manera diferente sobre pigmentaciones de fondo distintas. El enrojecimiento, la inflamación y las variaciones de color pueden ser menos evidentes visualmente en piel oscura. Un modelo entrenado principalmente con piel clara puede aprender contrastes que no se transfieren de manera consistente.
Las prácticas de recopilación de imágenes añaden otra complicación. Las imágenes dermatoscópicas utilizan un instrumento de aumento con iluminación controlada, mientras que las fotografías clínicas ordinarias incluyen más variación de fondo. No se puede confiar automáticamente en un sistema entrenado en un formato para otro.
Por tanto, la presión recae en hospitales, desarrolladores de aplicaciones, fabricantes de dispositivos y reguladores. Deben establecer dónde funciona un modelo, qué pacientes fueron evaluados y qué sucede cuando la confianza es baja.
Una única cifra de sensibilidad no puede responder a esas preguntas. Los compradores necesitan resultados desglosados por tono de piel, enfermedad, dispositivo de imagen, entorno asistencial y factores demográficos relevantes. También necesitan estimaciones de incertidumbre y procedimientos ante fallos.
Sin esa evidencia, un acceso más amplio puede reproducir el acceso desigual de una nueva forma. Más personas pueden llegar a un algoritmo, pero no todas reciben una evaluación igual de fiable.
Mejores datos de entrenamiento ayudan, pero la representación no es una casilla de verificación
La solución más directa consiste en obtener datos clínicos más representativos, aunque recopilarlos correctamente es más difícil que añadir imágenes a una carpeta.
Los resultados de DDI ofrecen una señal alentadora. Los modelos mejoraron después de que los investigadores los ajustaran con casos diversos y confirmados por patología. Esto sugiere que la brecha observada no es una propiedad inevitable de la visión por computadora.
La confirmación patológica es importante porque la apariencia por sí sola no proporciona un diagnóstico definitivo de cáncer. Una biopsia ofrece una etiqueta de referencia más sólida que un pie de foto en línea o un consenso visual.
Las etiquetas deficientes pueden entrenar un modelo para reproducir la incertidumbre humana. En una auditoría analizada dentro del trabajo de Stanford, especialistas revisaron un subconjunto de imágenes de un atlas público. Solo el 69 por ciento parecía ser diagnóstico de la afección asignada.
Un conjunto de datos más grande no es necesariamente mejor cuando sus etiquetas no son fiables. Las imágenes repetidas, los diagnósticos inconsistentes, las marcas clínicas y la calidad desigual de las imágenes pueden crear señales engañosas.
Consideremos una imagen en la que un clínico dibujó un círculo alrededor de la lesión sospechosa. Un clasificador puede asociar la marca con el cáncer en lugar de aprender la biología de la lesión. Puede obtener una buena puntuación cuando aparecen marcas similares durante las pruebas y luego fallar ante una fotografía sin marcas.
Los datos representativos deben abarcar más que la complexión. Deben incluir localizaciones anatómicas, edades de los pacientes, tipos de cámara, entornos clínicos, etapas de enfermedad y afecciones benignas que se asemejan al cáncer. Cada variable puede afectar al rendimiento.
Los investigadores también necesitan una forma defendible de describir el tono de piel. La escala Fitzpatrick se desarrolló en torno a la respuesta al sol, no a la equidad en visión por computadora. Asignarla retrospectivamente a partir de fotografías o historiales puede introducir discrepancias.
Un estudio prospectivo de 2025 comparó métodos para etiquetar conjuntos de datos de dermatología. Descubrió que la escala Monk Skin Tone captaba algunas diferencias en las puntuaciones de IA para melanoma con mayor eficacia que las categorías Fitzpatrick. La evaluación del tono de piel refuerza una lección básica: la medición utilizada para auditar el sesgo puede moldear el sesgo que observan los investigadores.
La obtención de datos plantea más preguntas. Las imágenes de un centro académico pueden reflejar patrones locales de derivación y prácticas fotográficas. Pueden mejorar la diversidad y seguir siendo geográficamente limitadas.
La recopilación multicéntrica ofrece una cobertura mejor, pero dificulta la estandarización. Las cámaras, los umbrales para biopsias, los sistemas de registros y las prácticas de etiquetado difieren. Los requisitos de privacidad también pueden restringir cómo se comparten las imágenes clínicas.
Las imágenes sintéticas han surgido como otra solución propuesta. Los modelos generativos pueden modificar la pigmentación o crear nuevos ejemplos de lesiones, ofreciendo una forma más rápida de equilibrar un conjunto de datos.
Sin embargo, la diversidad sintética no es lo mismo que la diversidad clínica. Un generador aprende de imágenes existentes y puede conservar sus sesgos ocultos. También puede producir combinaciones médicamente inverosímiles o hacer que una lesión parezca pegada sobre un fondo diferente.
Los ejemplos sintéticos pueden respaldar la ampliación de datos, es decir, variaciones controladas añadidas durante el entrenamiento. No deben sustituir casos reales y confirmados de las poblaciones en las que operará un sistema.
La estrategia de datos más sólida combina una inclusión representativa, etiquetas clínicamente significativas, confirmación patológica cuando corresponda y pruebas externas. Trata la diversidad como parte del diseño del estudio, en lugar de una auditoría final.
Este enfoque cuesta más y avanza más lentamente que extraer imágenes públicas. También produce evidencia que hospitales y pacientes pueden interpretar.
Los nuevos modelos están aprendiendo a ver estructura, no solo color
Una respuesta técnica prometedora reduce la dependencia del modelo del color, al tiempo que preserva las señales visuales que los clínicos necesitan.
Las lesiones cutáneas contienen información estructural en sus bordes, asimetría, textura y patrones internos. El color sigue siendo clínicamente relevante, pero un algoritmo que depende demasiado del contraste de color puede volverse sensible al tono de piel de fondo.
Un estudio de julio de 2026 propuso un sistema guiado por bocetos diseñado para equilibrar esas señales. El método combina imágenes convencionales en rojo, verde y azul con bocetos estructurales generados automáticamente.
Codificadores independientes procesan la imagen en color y su boceto. Después, un componente de fusión con compuertas decide cuánta información extraer de cada representación. La destilación de características anima a la vía del color a alinearse con patrones estructurales sin descartar señales cromáticas útiles.
Los investigadores evaluaron el enfoque con Fitzpatrick17k y DDI. También lo probaron en fuentes de imágenes independientes para medir el rendimiento fuera de su distribución principal de entrenamiento.
Su modelo consciente de la equidad mostró menores disparidades medidas que los métodos de referencia, al tiempo que mantuvo puntuaciones competitivas de precisión y F1. Los resultados de DDI también mostraron menor variación entre grupos de tonos de piel.
Un experimento ayuda a explicar el mecanismo. Un clasificador predijo el tipo Fitzpatrick con una precisión del 42,7 por ciento a partir de imágenes en color. La precisión descendió al 32,3 por ciento con bocetos, lo que sugiere que la representación estructural eliminó parte de la información sobre el tono de piel.
La representación combinada aún permitió una precisión del 39,2 por ciento. El modelo redujo la codificación del tono de piel, pero no la eliminó.
Ese equilibrio es importante. Eliminar toda señal asociada al tono de piel no es necesariamente seguro, porque la pigmentación puede contener información clínicamente relevante. El objetivo es evitar una dependencia irrelevante, no hacer que el sistema sea ciego a las características del paciente.
La técnica también evita exigir una etiqueta de tono de piel para cada imagen de entrenamiento. Esto puede ayudar cuando los conjuntos de datos contienen diagnósticos y fotografías, pero carecen de anotaciones demográficas consistentes.
Aun así, los autores describen sus hallazgos con cautela. El generador de bocetos se entrenó con imágenes naturales, no con imágenes dermatológicas. Sus abstracciones podrían variar entre lesiones o condiciones fotográficas.
El estudio utilizó conjuntos de datos públicos y desidentificados, y no realizó un nuevo ensayo clínico prospectivo. Una menor disparidad en los benchmarks no demuestra que el sistema mejore los resultados de los pacientes.
Otros enfoques abordan el mismo problema desde direcciones distintas. Los desarrolladores pueden reponderar casos infrarrepresentados, ajustar umbrales de decisión según una población validada, aprender características invariantes al dominio o añadir ejemplos diversos durante el ajuste fino.
Los modelos fundacionales ofrecen otra vía. Estos sistemas aprenden representaciones generales de imágenes a partir de grandes conjuntos de datos y luego se adaptan a tareas clínicas. Un preentrenamiento más amplio puede ayudar, pero la escala por sí sola no garantiza una representación médica.
Una enorme colección de imágenes de propósito general aún puede contener pocas lesiones confirmadas por patología en piel oscura. También puede codificar correlaciones sociales o fotográficas no relacionadas con la enfermedad.
Por tanto, la comparación significativa no es entre una arquitectura antigua y una nueva. Es entre desarrollar en función de la precisión agregada y desarrollar en torno a la fiabilidad por subgrupos.
Lo segundo exige que los ingenieros definan el fallo antes del despliegue. Deben decidir qué brechas entre subgrupos son inaceptables, cómo la incertidumbre activa la revisión humana y si el rendimiento se mantiene estable cuando cambian las condiciones de imagen.
Las clínicas reales revelan riesgos que los benchmarks no detectan
Una alta tasa de detección de cáncer no convierte a un sistema de IA en un diagnosticador preciso ni en un sustituto seguro de la revisión humana.
Un estudio observacional prospectivo de 2026 siguió a un algoritmo de cáncer de piel durante sus primeros tres meses en un departamento de dermatología terciaria del noroeste de Inglaterra. La evaluación incluyó todas las lesiones analizadas por el sistema.
El algoritmo alcanzó una sensibilidad del 95,3 por ciento, la proporción de cánceres que señaló correctamente. Los dermatólogos alcanzaron una sensibilidad del 88,5 por ciento en la comparación.
Ese resultado parece decisivo hasta que aparecen las demás medidas. El valor predictivo positivo del sistema fue del 46,5 por ciento, frente al 62,1 por ciento de los dermatólogos. El valor predictivo positivo describe con qué frecuencia un resultado positivo es realmente correcto.
La IA identificó correctamente el diagnóstico preciso en el 28,6 por ciento de los casos. Los dermatólogos lo hicieron en el 61,6 por ciento. El algoritmo identificó el tipo correcto de tumor o lesión en el 51,4 por ciento de los casos, frente al 75,5 por ciento de los dermatólogos.
Lo más preocupante es que aparecieron cuatro cánceres entre las lesiones que el sistema clasificó como benignas. Esos pacientes habrían recibido el alta sin revisión humana bajo la vía evaluada.
La evaluación en condiciones reales concluyó que eliminar la validación humana sería prematuro. También advirtió sobre el sesgo de automatización, la tendencia a aceptar con demasiada facilidad una recomendación de la máquina.
La sensibilidad sigue siendo valiosa. Una herramienta de cribado debería pasar por alto la menor cantidad posible de cánceres. Sin embargo, los falsos positivos pueden generar derivaciones, biopsias, ansiedad y carga de trabajo clínico innecesarias.
Los falsos negativos conllevan un peligro diferente. Un resultado tranquilizador puede retrasar la evaluación, especialmente cuando los pacientes creen que el software emitió un diagnóstico en lugar de una evaluación preliminar de riesgo.
Esta distinción debería definir el lenguaje del producto. “Detecta el cáncer de piel” implica certeza diagnóstica. “Apoya el triaje de lesiones sospechosas” describe una tarea más limitada, con una decisión humana aún integrada en el proceso.
Las condiciones de despliegue determinan si ese apoyo ayuda. Un especialista puede reconocer de inmediato un resultado inverosímil. Un paciente que usa una aplicación móvil puede no saber cuándo la calidad de la imagen es insuficiente o cuándo el modelo queda fuera de su ámbito validado.
El contexto clínico también incluye información que falta en una fotografía. Los dermatólogos consideran el historial de la lesión, los síntomas, la ubicación anatómica, los antecedentes familiares, la medicación, el estado inmunitario y los cambios a lo largo del tiempo.
Los modelos pueden incorporar algunas de esas variables, pero cada entrada adicional debe recopilarse con precisión. Un contexto ausente o erróneo puede alterar una predicción.
El rendimiento también puede desviarse tras el lanzamiento. Las cámaras de los teléfonos cambian, los sistemas de compresión de imágenes evolucionan y las poblaciones de pacientes difieren entre regiones. Un estudio de validación fijo no puede garantizar un comportamiento estable indefinidamente.
La autorización regulatoria proporciona un punto de control necesario, pero no constituye una aprobación universal de todos los usos. La FDA afirma que los dispositivos de IA incluidos en su lista han cumplido los requisitos precomercialización aplicables para sus usos previstos. Su lista de dispositivos médicos también señala que el recurso no es exhaustivo.
El uso previsto es la expresión clave. La evidencia para el apoyo a la decisión clínica no justifica automáticamente el diagnóstico directo al consumidor. La evidencia obtenida con dermatoscopia no se transfiere automáticamente a una cámara ordinaria de teléfono.
Los hospitales que consideren estos sistemas deberían solicitar resultados por subgrupos y validación local. También deberían supervisar los cánceres no detectados, el volumen de derivaciones, el comportamiento de anulación y los resultados después del despliegue.
Los desarrolladores deben divulgar las reglas de abstención, es decir, cuándo el modelo se niega a clasificar un caso. Una negativa segura puede ser más útil que una respuesta segura de sí misma ante datos desconocidos.
Los pacientes deberían considerar cualquier lesión preocupante o cambiante como motivo para buscar atención profesional, independientemente del resultado de una aplicación. El resultado de la IA no debe sustituir una biopsia ni una evaluación clínica.
Tres señales mostrarán si la brecha se está cerrando
El progreso debe juzgarse por evidencia prospectiva, informes transparentes por subgrupos y flujos de trabajo que mantengan la responsabilidad humana.
La primera señal es la validación prospectiva y multicéntrica con suficientes participantes de piel más oscura para respaldar conclusiones significativas. Un estudio no puede demostrar equidad cuando un subgrupo contiene muy pocos cánceres para obtener estimaciones estables.
Los investigadores deberían publicar sensibilidad, especificidad, valores predictivos y calibración para cada grupo pertinente. La calibración mide si el riesgo previsto coincide con la frecuencia de enfermedad real.
Esos resultados deberían abarcar más que las categorías Fitzpatrick. Las evaluaciones necesitan incluir tipo de enfermedad, método de imagen, edad, sexo, sitio anatómico y entorno asistencial cuando los tamaños de muestra lo permitan.
Si los estudios prospectivos mantienen un rendimiento sólido en esos grupos, se reforzará el argumento a favor de la adopción clínica. Si las brechas reaparecen fuera de conjuntos de datos seleccionados, las mejoras recientes en los benchmarks parecerán menos transferibles.
La segunda señal es la transparencia de producto y regulatoria. Los desarrolladores deberían indicar el usuario previsto, las cámaras compatibles, las condiciones excluidas, la población de entrenamiento, la población de validación y los requisitos de revisión humana.
Una cifra de precisión global nunca debería sustituir esa información. Los hospitales necesitan suficientes detalles para determinar si sus pacientes se parecen a la población evaluada.
Los resúmenes públicos también deberían explicar las actualizaciones del modelo. Un cambio en los datos de entrenamiento, la arquitectura o el umbral de decisión puede alterar el rendimiento por subgrupos. Cada actualización significativa necesita una validación proporcional a su efecto clínico.
Un etiquetado claro debilitaría las afirmaciones exageradas y reforzaría los sistemas creíbles. Ayudaría a los compradores a distinguir una herramienta clínica autorizada de una aplicación general de bienestar que utiliza un lenguaje de marketing similar.
La tercera señal es la evidencia procedente de flujos de trabajo reales. Los investigadores deberían rastrear qué hacen los clínicos después de recibir un resultado de IA, no solo si la predicción coincide con la patología.
Un sistema podría aumentar la sensibilidad y, al mismo tiempo, producir tantas falsas alarmas que las clínicas se sobrecarguen. Podría funcionar bien técnicamente, pero hacer que los clínicos ignoren su propio criterio. Podría mejorar la velocidad de derivación para un grupo mientras retrasa a otro.
Las medidas operativas útiles incluyen el tiempo hasta la revisión por un dermatólogo, el rendimiento de las biopsias, la tasa de cánceres no detectados, la frecuencia de anulación y el rendimiento después de cambios en la cámara o el software. Estas medidas conectan la precisión del algoritmo con la atención al paciente.
La supervisión humana también debe ser sustantiva. Un clínico que solo ve la conclusión del modelo puede quedar anclado a ella. Un flujo de trabajo que preserve una evaluación independiente antes de revelar el resultado de la IA puede reducir ese riesgo.
Por tanto, el sesgo de la IA para el cáncer de piel se está convirtiendo en una prueba para la IA médica en su conjunto. El campo ha aprendido que unos promedios impresionantes pueden ocultar un rendimiento desigual. Ahora está aprendiendo que las mejoras de equidad en conjuntos de datos estáticos aún requieren validación en clínicas.
El resultado esperanzador es que la brecha responde a una ingeniería deliberada. Los datos diversos confirmados por patología mejoraron modelos anteriores. Las representaciones estructurales redujeron las disparidades medidas en experimentos más recientes. Ninguno de estos resultados respalda el fatalismo tecnológico.
Tampoco respaldan una confianza prematura. Un algoritmo diseñado para mejorar el acceso no debería trasladar la incertidumbre a pacientes que ya reciben menos atención especializada.
La siguiente fase necesita una pregunta más estricta que si la IA puede igualar a un dermatólogo en imágenes seleccionadas. Los investigadores y compradores deberían preguntarse si sigue siendo fiable entre tonos de piel, enfermedades, cámaras y entornos clínicos.
Ese es el estándar que los desarrolladores deben cumplir antes de que el cribado automatizado cumpla su promesa. Hasta entonces, trate las evaluaciones de IA como apoyo a la decisión, exija evidencia por subgrupos y busque evaluación profesional para lesiones sospechosas. La tecnología está mejorando en la detección del cáncer, pero su prueba más importante es si ese progreso llega a todos los pacientes.
