A cura di Gianmauro Numico, Elvio Russi

 

Oggi commentiamo:
Sikora A, Celi LA, Abdulnour RE. Can AI Say “I Don’t Know”?. N Engl J Med. 2026; 394(19):1873-1875.

Spunti di riflessione

  • Il rischio della certezza artificiale: in scenari clinici complessi o con evidenze contrastanti, l’incapacità degli attuali modelli di IA di esprimere dubbio rischia di indurre il clinico a una pericolosa conclusione diagnostica prematura.
  • Allucinazione metodologica: essendo basati sulla predizione statistica del termine successivo (next-token predictors), i Large Language Models (LLM) tendono ad assecondare i bias presenti nei prompt, amplificando dettagli clinici falsi o inesistenti anziché astenersi dal rispondere.
  • Ridefinizione della validazione: la proposta degli autori di valutare i software secondo il framework della Competency-Based Medical Education, trasformando il “non lo so” in un’attività professionale affidabile (EPA) anche per le macchine, preannuncia una potenziale tensione con gli attuali iter regolatori dei dispositivi medici.

Commento discorsivo

Nella pratica clinica quotidiana, poche situazioni si rivelano insidiose quanto un collega o un consulente fermamente convinto di un’affermazione errata. L’addestramento medico ha da tempo interiorizzato il valore dell’umiltà epistemica,  la consapevolezza dei limiti della propria conoscenza, e la trasforma in uno strumento operativo. Quando un medico in formazione affronta un caso con dati di laboratorio incongruenti e dichiara la propria incertezza, compie un passaggio essenziale: sospende il pensiero intuitivo, attiva il ragionamento analitico e previene l’errore cognitivo.

Oggi, tuttavia, ci troviamo ad accogliere in corsia e negli ambulatori una nuova tipologia di assistenti: i sistemi di Intelligenza Artificiale generativa. L’articolo Perspective pubblicato da Sikora e colleghi sul New England Journal of Medicine interviene in modo critico sull’onda di entusiasmo acritico che circonda i LLM in medicina, sollevando un limite architetturale profondo. Le macchine, per come sono attualmente concepite, non possiedono metacognizione. Generano testo basandosi su probabilità statistiche, privi della capacità intrinseca di riconoscere le proprie lacune: semplicemente, non “sanno” di non sapere.

Sebbene il lavoro non sia un trial clinico in grado di modificare direttamente l’algoritmo decisionale di una patologia, il suo impatto sulla nostra operatività è netto. I dati citati impongono grande cautela: messi di fronte a vignette cliniche contenenti informazioni deliberatamente falsificate, gli algoritmi hanno amplificato l’errore tra il 50% e l’82% delle volte. L’apice del paradosso si tocca osservando la reazione di un LLM di fronte a una lista di farmaci in cui era stato nascosto il nome di un Pokémon (Pikachu): invece di segnalare l’incongruenza, l’IA ha fornito sicure indicazioni posologiche per il trattamento del dolore neuropatico.

Nella pratica reale, l’articolo chiarisce che l’utilizzo di queste tecnologie non può attualmente prescindere dal filtro del dubbio medico. Gli autori propongono una via d’uscita affascinante: vincolare lo sviluppo e l’implementazione dell’IA agli stessi standard della formazione medica (Competency-Based Medical Education), rendendo l’espressione di “incertezza calibrata” un criterio di base per l’approvazione regolatoria dei software sanitari. Fino a quando un sistema non dimostrerà di sapersi fermare di fronte all’ambiguità, dichiarando la bassa confidenza della propria risposta, non dovrebbe essere autorizzato in contesti decisionali ad alto rischio.

L’invito alla lettura integrale di questo intervento nasce proprio da qui. Il paper non cambia le linee guida terapeutiche, ma ci impone un cambio di postura tecnologica. Il tono perentorio e sintatticamente perfetto delle risposte generate dall’IA rischia di sedurre la nostra attenzione e farci saltare gli step di monitoraggio cognitivo. Di fronte alla persuasività della macchina, il compito di difendere la sicurezza del paziente attraverso un sano “non lo so” rimane, ad oggi, un’esclusiva responsabilità umana.

Consigli pratici

  • Applicazioni pratiche: sfruttate i LLM per compiti organizzativi, stesura di bozze o recupero bibliografico di base, ma pretendete sempre la verifica della fonte primaria per qualsiasi decisione clinica.
  • Avvertenze: valutate le risposte dell’IA con lo stesso grado di scetticismo che riservereste a uno studente di medicina alle prime armi che si mostra eccessivamente sicuro di sé pur non conoscendo il paziente.
  • Cosa NON fare: non utilizzate gli algoritmi commerciali non certificati per dirimere incertezze diagnostiche o terapeutiche in casi “borderline” con evidenze scientifiche deboli o conflittuali.

 

Take Home Messages

  • I modelli di linguaggio (LLM) mancano di metacognizione e non possiedono meccanismi innati per riconoscere o comunicare i propri limiti di conoscenza clinica.
  • L’assenza di umiltà epistemica negli algoritmi aumenta drammaticamente il rischio di avallare “allucinazioni” e innescare bias di chiusura prematura nel medico.
  • L’espressione formale del dubbio e dell’incertezza deve diventare uno standard regolatorio e una competenza misurabile prima di introdurre l’IA nei flussi decisionali.
  • La supervisione clinica rigorosa e l’abitudine umana a mettere in discussione le evidenze rimangono la principale barriera contro l’errore derivato dalle tecnologie sanitarie.

Bibliografia

  1. Sikora A, Celi LA, Abdulnour RE. Can AI Say “I Don’t Know”?. N Engl J Med. 2026;394(19):1873-1875.