Il bias dell'AI di Stanford sul cancro della pelle mostra chi gli algoritmi lasciano indietro

La ricerca di Stanford sui bias dell'AI per il cancro della pelle ha messo in luce un grave conflitto dietro anni di impressionanti dichiarazioni di accuratezza. Gli algoritmi possono identificare bene le lesioni maligne in test selezionati, eppure le loro prestazioni calano quando i pazienti hanno la pelle più scura o condizioni rare.

Questa disparità mette in discussione la promessa più allettante dello screening cutaneo automatizzato. L'AI dovrebbe ampliare l'accesso alle conoscenze specialistiche, soprattutto dove i dermatologi scarseggiano. Invece, le persone che potrebbero beneficiarne di più potrebbero ricevere le previsioni meno affidabili.

I sistemi più recenti stanno cercando di colmare questo divario con dataset migliori, analisi strutturali delle immagini e addestramento attento all'equità. Tuttavia, le prove recenti continuano a distinguere le prestazioni di laboratorio dall'uso clinico sicuro. La sfida non è più AI contro dermatologi. È accuratezza da titolo di giornale contro prestazioni affidabili per i pazienti che useranno davvero la tecnologia.

Il bias dell'AI per il cancro della pelle è sopravvissuto al boom dell'accuratezza

L'AI è diventata più efficace nel classificare lesioni cutanee familiari prima che i ricercatori dimostrassero che funzionasse altrettanto bene su tutte le tonalità della pelle.

La moderna crescita dell'AI in dermatologia risale ai classificatori di immagini addestrati su grandi raccolte di fotografie etichettate di lesioni. Questi sistemi apprendono schemi statistici che collegano i pixel alle diagnosi. In confronti controllati, alcuni hanno ottenuto risultati vicini a quelli di dermatologi esperti.

Questo risultato era importante perché la valutazione della pelle inizia come compito visivo. Un paziente o un clinico nota una macchia sospetta, quindi ne valuta forma, colore, bordi e cambiamenti nel tempo. Un modello che riconosce schemi preoccupanti potrebbe aiutare a dare priorità agli invii o sostenere clinici senza formazione specialistica.

Tuttavia, il punteggio complessivo di un algoritmo può nascondere chi è presente nei suoi dati di test. Molte raccolte di immagini influenti contengono molti più esempi di pazienti dalla pelle chiara rispetto a pazienti dalla pelle scura. Diverse privilegiano inoltre condizioni comuni e lesioni acquisite in modo ordinato.

Di conseguenza, il modello riceve la formazione più solida sui casi rappresentati più spesso. Un'elevata accuratezza aggregata può coesistere con prestazioni deboli in un gruppo demografico più piccolo. Questa limitazione diventa facile da non notare quando i ricercatori riportano un solo punteggio per l'intero set di test.

Un team guidato da Stanford ha portato il problema maggiormente a fuoco creando il dataset Diverse Dermatology Images, o DDI. Contiene 656 fotografie di lesioni confermate tramite anatomia patologica, ossia l'esame di laboratorio del tessuto sottoposto a biopsia.

La raccolta include 208 immagini di persone con tipi di pelle Fitzpatrick I e II, 241 con tipi III e IV e 207 con tipi V e VI. I tipi Fitzpatrick descrivono il modo in cui la pelle risponde all'esposizione ai raggi ultravioletti, sebbene i ricercatori riconoscano sempre più che la scala è un indicatore imperfetto della tonalità della pelle.

Il team ha testato sistemi già affermati su questo benchmark volutamente diversificato. Il suo studio sulle immagini cliniche ha riscontrato limitazioni sostanziali per le tonalità della pelle scura e per le malattie rare. Anche i dermatologi che fornivano etichette per i dataset di AI hanno ottenuto risultati peggiori in questi casi più difficili.

Il risultato non significava che ogni modello fallisse con ogni paziente dalla pelle più scura. Mostrava che la prestazione media era un'affermazione di sicurezza incompleta. Un modello poteva apparire capace su un benchmark familiare, perdendo però affidabilità quando cambiava la popolazione dei pazienti.

I ricercatori hanno anche individuato una strada pratica per migliorare. Il fine-tuning dei modelli con immagini diversificate e confermate patologicamente ha ridotto il divario prestazionale tra i gruppi con pelle chiara e scura. Una migliore rappresentazione ha modificato l'output perché i dati di addestramento determinano quali schemi un modello apprende.

Questo è il ribaltamento centrale nella storia dell'AI per il cancro della pelle. I progressi della tecnologia nel riconoscimento delle immagini sono reali, ma lo è anche la ristrettezza delle prove che ne supportano molti. Un sistema può diventare eccellente in un benchmark senza diventare affidabile per tutti.

I pazienti che hanno più bisogno di un accesso più ampio affrontano le prove più deboli

Il divario di equità è più rilevante proprio dove l'AI viene presentata come sostituto di un accesso carente agli specialisti.

I ricercatori hanno stimato che circa 3 miliardi di persone non dispongano di un accesso adeguato alle cure dermatologiche. Geografia, costi, carenza di clinici e ritardi negli invii contribuiscono tutti a questa insufficienza.

Lo screening automatizzato sembra adatto a questo problema. Un medico di base potrebbe fotografare una lesione e ricevere una valutazione del rischio. Un servizio di telemedicina potrebbe dare priorità ai casi sospetti. Un'applicazione rivolta ai pazienti potrebbe raccomandare una valutazione professionale quando una macchia appare preoccupante.

Questi scenari spostano inoltre il modello oltre l'ambiente in cui è stato sviluppato. L'illuminazione varia, le fotocamere degli smartphone elaborano i colori in modo diverso e i pazienti inquadrano le lesioni in modo non uniforme. La prevalenza delle malattie cambia tra cliniche specialistiche, cure primarie e screening comunitario.

La tonalità della pelle è solo una parte di questo cambiamento. Conta anche la combinazione di malattie. Un modello addestrato principalmente a distinguere nei comuni benigni dal melanoma può avere difficoltà di fronte a condizioni infiammatorie, infezioni o tumori rari.

Un preprint del settembre 2026 ha esaminato questa distinzione confrontando la rappresentazione delle tonalità della pelle con i cambiamenti nella distribuzione delle malattie. I ricercatori hanno valutato un sistema addestrato sul cancro, due foundation model per la dermatologia e un modello di visione generalista.

La loro analisi della generalizzazione sostiene che tonalità della pelle e prevalenza delle malattie siano spesso fattori confusi. Un modello implementato in una popolazione poco servita può incontrare sia una pelle più scura sia una diversa raccolta di condizioni.

Questo conta perché aggiungere tonalità della pelle diverse a un dataset sul cancro altrimenti ristretto non risolve ogni problema di implementazione. Il modello deve anche riconoscere le malattie presenti nel contesto di destinazione. Altrimenti, un intervento di equità può migliorare un benchmark lasciando intatto un più ampio fallimento di generalizzazione.

I pazienti dalla pelle più scura affrontano già disparità diagnostiche consolidate. Alcuni tumori della pelle sono meno comuni in queste popolazioni, ma una minore incidenza non elimina il rischio. Un riconoscimento tardivo può produrre esiti peggiori quando lesioni pericolose vengono trascurate.

Le lesioni possono anche apparire diversamente su pigmentazioni di fondo differenti. Rossore, infiammazione e variazioni di colore possono essere meno visivamente evidenti nella pelle scura. Un modello addestrato principalmente su pelle chiara può apprendere contrasti che non si trasferiscono in modo coerente.

Le pratiche di raccolta delle immagini aggiungono un'altra complicazione. Le immagini dermoscopiche usano uno strumento di ingrandimento con illuminazione controllata, mentre le normali fotografie cliniche includono una maggiore variazione dello sfondo. Un sistema addestrato su un formato non può essere considerato automaticamente affidabile sull'altro.

La pressione ricade quindi su ospedali, sviluppatori di app, produttori di dispositivi e autorità regolatorie. Devono stabilire dove un modello funziona, quali pazienti sono stati valutati e cosa accade quando la confidenza è bassa.

Una singola cifra di sensibilità non può rispondere a queste domande. Gli acquirenti necessitano di prestazioni suddivise per tonalità della pelle, malattia, dispositivo di imaging, contesto di cura e fattori demografici rilevanti. Necessitano inoltre di stime dell'incertezza e procedure per i fallimenti.

Senza queste prove, un accesso più ampio può riprodurre l'accesso diseguale in una nuova forma. Più persone possono raggiungere un algoritmo, ma non tutte ricevono una valutazione ugualmente affidabile.

Dati di addestramento migliori aiutano, ma la rappresentazione non è una casella da spuntare

Il rimedio più diretto consiste in dati clinici più rappresentativi, anche se raccoglierli bene è più difficile che aggiungere immagini a una cartella.

I risultati del DDI offrono un segnale incoraggiante. I modelli sono migliorati dopo che i ricercatori li hanno sottoposti a fine-tuning su casi diversificati e confermati patologicamente. Ciò suggerisce che il divario osservato non sia una proprietà inevitabile della visione artificiale.

La conferma patologica è importante perché il solo aspetto non fornisce una diagnosi definitiva di cancro. Una biopsia offre un'etichetta di riferimento più solida rispetto a una didascalia online o a un consenso visivo.

Etichette di scarsa qualità possono addestrare un modello a riprodurre l'incertezza umana. In un audit discusso nel lavoro di Stanford, gli specialisti hanno esaminato un sottoinsieme di immagini provenienti da un atlante pubblico. Solo il 69 percento sembrava diagnostico della condizione assegnata.

Un dataset più grande non è necessariamente un dataset migliore quando le sue etichette sono inaffidabili. Immagini ripetute, diagnosi incoerenti, marcature cliniche e qualità disomogenea delle immagini possono tutti creare segnali fuorvianti.

Si consideri un'immagine in cui un clinico ha disegnato un cerchio intorno alla lesione sospetta. Un classificatore può associare la marcatura al cancro invece di apprendere la biologia della lesione. Può ottenere buoni risultati quando durante i test compaiono marcature simili, per poi fallire su una fotografia senza segni.

I dati rappresentativi devono coprire più della carnagione. Dovrebbero includere sedi anatomiche, età dei pazienti, tipi di fotocamera, contesti clinici, stadi della malattia e condizioni benigne che assomigliano al cancro. Ogni variabile può influire sulle prestazioni.

I ricercatori hanno inoltre bisogno di un metodo difendibile per descrivere la tonalità della pelle. La scala Fitzpatrick è stata sviluppata attorno alla risposta al sole, non all'equità nella visione artificiale. Assegnarla retrospettivamente da fotografie o cartelle cliniche può introdurre disaccordi.

Uno studio prospettico del 2025 ha confrontato metodi per etichettare i dataset dermatologici. Ha rilevato che la scala Monk Skin Tone catturava alcune differenze nei punteggi dell'AI per il melanoma più efficacemente delle categorie Fitzpatrick. La valutazione della tonalità della pelle rafforza una lezione di base: la misurazione utilizzata per verificare i bias può modellare il bias che i ricercatori osservano.

L'approvvigionamento dei dati solleva ulteriori interrogativi. Le immagini di un singolo centro accademico possono riflettere modelli locali di invio e pratiche fotografiche. Possono migliorare la diversità restando però geograficamente ristrette.

La raccolta multicentrica offre una copertura migliore, ma rende più difficile la standardizzazione. Fotocamere, soglie per la biopsia, sistemi di registrazione e pratiche di etichettatura differiscono. I requisiti sulla privacy possono inoltre limitare la condivisione delle immagini cliniche.

Le immagini sintetiche sono emerse come un'altra soluzione proposta. I modelli generativi possono modificare la pigmentazione o creare nuovi esempi di lesioni, offrendo un modo più rapido per bilanciare un dataset.

Tuttavia, la diversità sintetica non equivale alla diversità clinica. Un generatore apprende da immagini esistenti e può conservarne i bias nascosti. Può anche produrre combinazioni medicalmente implausibili o far sembrare una lesione incollata su uno sfondo differente.

Gli esempi sintetici possono sostenere l'augmentation, ovvero variazioni controllate aggiunte durante l'addestramento. Non dovrebbero sostituire casi reali e confermati provenienti dalle popolazioni in cui opererà un sistema.

La strategia sui dati più solida combina un arruolamento rappresentativo, etichette clinicamente significative, conferma patologica quando appropriata e test esterni. Tratta la diversità come parte della progettazione dello studio anziché come un audit finale.

Questo approccio costa di più e procede più lentamente rispetto allo scraping di immagini pubbliche. Produce però prove che ospedali e pazienti possono interpretare.

I nuovi modelli stanno imparando a vedere la struttura, non solo il colore

Una risposta tecnica promettente riduce la dipendenza del modello dal colore preservando al contempo gli indizi visivi di cui i clinici hanno bisogno.

Le lesioni cutanee contengono informazioni strutturali nei loro bordi, nell'asimmetria, nella consistenza e nei pattern interni. Il colore rimane clinicamente rilevante, ma un algoritmo che dipende eccessivamente dal contrasto cromatico può diventare sensibile alla tonalità della pelle di sfondo.

Uno studio del luglio 2026 ha proposto un sistema guidato da schizzi, progettato per bilanciare questi segnali. Il metodo combina normali immagini rosse, verdi e blu con schizzi strutturali generati automaticamente.

Codificatori separati elaborano l'immagine a colori e il relativo schizzo. Un componente di fusione con gating decide poi quante informazioni estrarre da ciascuna rappresentazione. La distillazione delle caratteristiche incoraggia il percorso del colore ad allinearsi ai pattern strutturali senza eliminare utili indizi cromatici.

I ricercatori hanno valutato l'approccio con Fitzpatrick17k e DDI. Lo hanno inoltre testato su fonti di immagini separate per misurarne le prestazioni al di fuori della principale distribuzione di addestramento.

Il loro modello attento all'equità ha mostrato disparità misurate inferiori rispetto ai metodi di riferimento, mantenendo al contempo accuratezza e punteggi F1 competitivi. I risultati DDI hanno inoltre evidenziato minori variazioni tra i gruppi di tonalità della pelle.

Un esperimento aiuta a spiegare il meccanismo. Un classificatore ha previsto il tipo Fitzpatrick con un'accuratezza del 42,7 percento a partire dalle immagini a colori. L'accuratezza è scesa al 32,3 percento con gli schizzi, suggerendo che la rappresentazione strutturale abbia rimosso parte delle informazioni sulla tonalità della pelle.

La rappresentazione combinata consentiva comunque un'accuratezza del 39,2 percento. Il modello ha ridotto la codifica della tonalità della pelle, ma non l'ha eliminata.

Questo equilibrio è importante. Rimuovere ogni segnale associato alla tonalità della pelle non è necessariamente sicuro, poiché la pigmentazione può contenere informazioni clinicamente rilevanti. L'obiettivo è evitare dipendenze irrilevanti, non rendere il sistema cieco alle caratteristiche del paziente.

La tecnica evita inoltre di richiedere un'etichetta relativa alla tonalità della pelle per ogni immagine di addestramento. Questo può essere utile quando i dataset contengono diagnosi e fotografie, ma mancano di annotazioni demografiche coerenti.

Tuttavia, gli autori descrivono i risultati con cautela. Il generatore di schizzi è stato addestrato su immagini naturali anziché su immagini dermatologiche. Le sue astrazioni potrebbero variare tra lesioni o condizioni fotografiche.

Lo studio ha utilizzato dataset pubblici e de-identificati e non ha condotto un nuovo trial clinico prospettico. Una minore disparità nei benchmark non dimostra che il sistema migliori gli esiti per i pazienti.

Altri approcci affrontano lo stesso problema da direzioni diverse. Gli sviluppatori possono ripesare i casi sottorappresentati, regolare le soglie decisionali in base a popolazioni validate, apprendere caratteristiche invarianti al dominio o aggiungere esempi diversificati durante il fine-tuning.

I modelli foundation offrono un'altra strada. Questi sistemi apprendono rappresentazioni generali delle immagini da grandi dataset, quindi si adattano a compiti clinici. Un preaddestramento più ampio può essere utile, ma la sola scala non garantisce una rappresentazione medica adeguata.

Un'enorme raccolta di immagini per uso generale può comunque contenere poche lesioni confermate istologicamente su pelle scura. Può inoltre codificare correlazioni sociali o fotografiche non correlate alla malattia.

Il confronto significativo non è quindi tra vecchia architettura e nuova architettura. È tra lo sviluppo basato sull'accuratezza aggregata e lo sviluppo incentrato sull'affidabilità nei sottogruppi.

Quest'ultimo richiede agli ingegneri di definire il fallimento prima della distribuzione. Devono decidere quali divari tra sottogruppi siano inaccettabili, in che modo l'incertezza attivi la revisione umana e se le prestazioni rimangano stabili quando le condizioni di imaging cambiano.

Le cliniche reali rivelano rischi che i benchmark non colgono

Un elevato tasso di rilevamento del cancro non rende un sistema di AI un diagnostico accurato né un sostituto sicuro della revisione umana.

Uno studio osservazionale prospettico del 2026 ha seguito un algoritmo per il cancro della pelle durante i suoi primi tre mesi in un dipartimento dermatologico terziario nel nord-ovest dell'Inghilterra. La valutazione ha incluso tutte le lesioni analizzate dal sistema.

L'algoritmo ha raggiunto una sensibilità del 95,3 percento, ossia la proporzione di tumori che ha correttamente segnalato. Nel confronto, i dermatologi hanno raggiunto una sensibilità dell'88,5 percento.

Questo risultato sembra decisivo finché non emergono le restanti misure. Il valore predittivo positivo del sistema era del 46,5 percento, rispetto al 62,1 percento dei dermatologi. Il valore predittivo positivo descrive quanto spesso un risultato positivo sia effettivamente corretto.

L'AI ha identificato correttamente la diagnosi precisa nel 28,6 percento dei casi. I dermatologi lo hanno fatto nel 61,6 percento. L'algoritmo ha identificato il tipo corretto di tumore o lesione nel 51,4 percento dei casi, rispetto al 75,5 percento dei dermatologi.

In modo più preoccupante, quattro tumori erano presenti tra le lesioni che il sistema ha classificato come benigne. In base al percorso valutato, quei pazienti sarebbero stati dimessi senza revisione umana.

La valutazione nel mondo reale ha concluso che eliminare la validazione umana sarebbe prematuro. Ha inoltre avvertito del rischio di bias da automazione, ossia la tendenza ad accettare troppo facilmente una raccomandazione della macchina.

La sensibilità resta preziosa. Uno strumento di screening dovrebbe mancare il minor numero possibile di tumori. Tuttavia, i falsi positivi possono generare invii non necessari, biopsie, ansia e carico di lavoro clinico.

I falsi negativi comportano un pericolo diverso. Un risultato rassicurante può ritardare la valutazione, soprattutto quando i pazienti ritengono che il software abbia formulato una diagnosi anziché una valutazione preliminare del rischio.

Questa distinzione dovrebbe orientare il linguaggio del prodotto. “Rileva il cancro della pelle” implica certezza diagnostica. “Supporta il triage delle lesioni sospette” descrive un compito più circoscritto, con una decisione umana ancora coinvolta.

Le condizioni di distribuzione determinano se questo supporto sia utile. Uno specialista può riconoscere subito un risultato implausibile. Un paziente che utilizza un'applicazione sul telefono potrebbe non sapere quando la qualità dell'immagine è inadeguata o il modello è al di fuori del proprio ambito validato.

Il contesto clinico include anche informazioni assenti in una fotografia. I dermatologi considerano la storia della lesione, i sintomi, la sede anatomica, la storia familiare, i farmaci, lo stato immunitario e i cambiamenti nel tempo.

I modelli possono incorporare alcune di queste variabili, ma ogni input aggiuntivo deve essere raccolto con precisione. Un contesto mancante o errato può modificare una previsione.

Le prestazioni possono inoltre cambiare dopo il lancio. Le fotocamere degli smartphone cambiano, i sistemi di compressione delle immagini evolvono e le popolazioni dei pazienti differiscono da regione a regione. Uno studio di validazione fisso non può garantire un comportamento stabile indefinitamente.

L'autorizzazione normativa costituisce un necessario punto di controllo, ma non è un'approvazione universale di ogni utilizzo. La FDA afferma che i dispositivi AI elencati hanno soddisfatto i requisiti pre-commercializzazione applicabili per i rispettivi usi previsti. Il suo elenco di dispositivi medici osserva inoltre che la risorsa non è esaustiva.

L'uso previsto è l'espressione chiave. Le prove a sostegno del supporto decisionale per i clinici non giustificano automaticamente una diagnosi diretta al consumatore. Le prove ottenute dalla dermoscopia non si trasferiscono automaticamente a una normale fotocamera di smartphone.

Gli ospedali che valutano questi sistemi dovrebbero richiedere risultati per sottogruppo e validazione locale. Dovrebbero inoltre monitorare i tumori non rilevati, il volume degli invii, il comportamento di annullamento delle decisioni e gli esiti dopo la distribuzione.

Gli sviluppatori devono dichiarare le regole di astensione, ossia quando il modello si rifiuta di classificare un caso. Un rifiuto sicuro può essere più utile di una risposta sicura di sé basata su dati non familiari.

I pazienti dovrebbero considerare qualsiasi lesione preoccupante o in evoluzione come un motivo per rivolgersi a un professionista, indipendentemente dal risultato di un'app. L'output dell'AI non dovrebbe sostituire una biopsia o una valutazione clinica.

Tre segnali mostreranno se il divario si sta colmando

I progressi dovrebbero essere giudicati in base a evidenze prospettiche, report trasparenti per sottogruppo e flussi di lavoro che mantengano gli esseri umani responsabili.

Il primo segnale è una validazione prospettica multicentrica con un numero sufficiente di partecipanti dalla pelle più scura da consentire conclusioni significative. Uno studio non può dimostrare equità quando un sottogruppo contiene troppo pochi tumori per stime stabili.

I ricercatori dovrebbero pubblicare sensibilità, specificità, valori predittivi e calibrazione per ciascun gruppo rilevante. La calibrazione misura se il rischio previsto corrisponde alla frequenza della malattia effettiva.

Questi risultati dovrebbero coprire più delle categorie Fitzpatrick. Le valutazioni devono includere tipo di malattia, metodo di imaging, età, sesso, sede anatomica e contesto assistenziale, laddove le dimensioni del campione lo consentano.

Se gli studi prospettici mantengono prestazioni elevate in tutti questi gruppi, le ragioni per l'adozione clinica diventano più solide. Se i divari ricompaiono al di fuori di dataset curati, i recenti miglioramenti nei benchmark appariranno meno trasferibili.

Il secondo segnale è la trasparenza del prodotto e della regolamentazione. Gli sviluppatori dovrebbero indicare l'utente previsto, le fotocamere supportate, le condizioni escluse, la popolazione di addestramento, la popolazione di validazione e i requisiti di revisione umana.

Un dato di accuratezza complessiva non dovrebbe mai sostituire queste informazioni. Gli ospedali hanno bisogno di dettagli sufficienti per stabilire se i loro pazienti somigliano alla popolazione valutata.

Le sintesi pubbliche dovrebbero inoltre spiegare gli aggiornamenti del modello. Una modifica ai dati di addestramento, all'architettura o alla soglia decisionale può alterare le prestazioni nei sottogruppi. Ogni aggiornamento significativo richiede una validazione proporzionata al suo effetto clinico.

Un'etichettatura chiara indebolirebbe le affermazioni esagerate, rafforzando al contempo i sistemi credibili. Aiuterebbe gli acquirenti a distinguere uno strumento clinico autorizzato da un'applicazione generica per il benessere che utilizza un linguaggio di marketing simile.

Il terzo segnale è costituito dalle evidenze provenienti dai flussi di lavoro reali. I ricercatori dovrebbero monitorare cosa fanno i clinici dopo aver ricevuto un risultato dell'AI, non soltanto se la previsione corrisponde alla patologia.

Un sistema potrebbe aumentare la sensibilità producendo però così tanti falsi allarmi da sovraccaricare le cliniche. Potrebbe ottenere buoni risultati tecnici ma indurre i clinici a ignorare il proprio giudizio. Potrebbe migliorare la rapidità di invio per un gruppo ritardandola per un altro.

Le misure operative utili includono il tempo alla valutazione dermatologica, la resa delle biopsie, il tasso di tumori non rilevati, la frequenza di annullamento delle decisioni e le prestazioni dopo cambiamenti della fotocamera o del software. Queste misure collegano l'accuratezza dell'algoritmo all'assistenza al paziente.

Anche la supervisione umana deve essere sostanziale. Un clinico che vede solo la conclusione del modello può esserne condizionato. Un flusso di lavoro che preserva una valutazione indipendente prima di rivelare il risultato dell'AI può ridurre questo rischio.

Il bias dell'AI per il cancro della pelle sta quindi diventando un banco di prova per l'AI medica nel suo complesso. Il settore ha imparato che medie impressionanti possono nascondere prestazioni disomogenee. Ora sta imparando che i miglioramenti in termini di equità sui dataset statici richiedono comunque validazione nelle cliniche.

Il risultato incoraggiante è che il divario risponde a un'ingegneria deliberata. Dati diversificati e confermati dalla patologia hanno migliorato i modelli precedenti. Le rappresentazioni strutturali hanno ridotto le disparità misurate in esperimenti più recenti. Nessuno dei due risultati giustifica il fatalismo tecnologico.

Ma non giustificano nemmeno una fiducia prematura. Un algoritmo progettato per l'accesso non dovrebbe trasferire l'incertezza sui pazienti che già ricevono meno assistenza specialistica.

La prossima fase richiede una domanda più rigorosa rispetto a quella se l'AI possa eguagliare un dermatologo su immagini selezionate. Ricercatori e acquirenti dovrebbero chiedersi se rimanga affidabile attraverso tonalità della pelle, malattie, fotocamere e contesti clinici.

Questo è lo standard che gli sviluppatori devono soddisfare prima che lo screening automatizzato mantenga la sua promessa. Fino ad allora, considerate le valutazioni dell'AI come supporto decisionale, richiedete evidenze per sottogruppo e cercate una valutazione professionale per lesioni sospette. La tecnologia sta migliorando nel rilevare il cancro, ma la sua prova più importante è se questo progresso raggiunga ogni paziente.