Oggi commentiamo: Di Bello F, Angioni D. (2026). Evidence-like error and physician responsibility in retrieval-augmented clinical artificial intelligence. AboutOpen; 13: 22-30.

Spunti di riflessione

  • La percezione di sicurezza indotta dai sistemi di IA con finalità cliniche (interfacce professionali, citazioni bibliografiche) spesso supera la loro reale validità scientifica, abbassando pericolosamente la nostra soglia di vigilanza.
  • Le architetture basate sul recupero delle fonti (sistemi RAG) riducono le allucinazioni ma non le eliminano: recuperare un documento non equivale a comprenderne il contesto clinico o le limitazioni.
  • Il rischio maggiore oggi non è l’errore grossolano dell’algoritmo, ma “l’errore plausibile”, ovvero un’informazione scorretta presentata con il vocabolario e il tono dell’autorità scientifica.
  • Il ricorso all’algoritmo crea un’illusione di oggettività che entra in cortocircuito con la deontologia: la macchina può supportare il ragionamento, ma la responsabilità della cura rimane unicamente in capo al professionista.

Commento discorsivo

L’irruzione dell’Intelligenza Artificiale generativa nei nostri ambulatori e nelle nostre corsie sta ridisegnando i confini del supporto decisionale. Il recente dibattito nato dall’indisponibilità temporanea in Europa di piattaforme cliniche come OpenEvidence ha polarizzato la discussione medica: da un lato l’entusiasmo per un’accelerazione tecnologica irrinunciabile, dall’altro il timore di una paralisi indotta dall’eccesso di regolamentazione europea (l’AI Act) rispetto al liberismo del mercato statunitense o al dirigismo cinese. Tuttavia, l’articolo di Di Bello e Angioni che presentiamo oggi sposta il baricentro della questione, ricordandoci che il vero nodo non è la velocità di adozione, ma la sicurezza epistemica e deontologica con cui integriamo questi strumenti.

Gli autori analizzano lucidamente l’architettura dei sistemi considerati oggi “più sicuri”, ovvero quelli basati sulla Retrieval-Augmented Generation (RAG). A differenza dei chatbot generalisti, che “inventano” risposte basate su pattern probabilistici, i sistemi RAG prima pescano informazioni da fonti certificate (linee guida, paper, database) e poi generano il testo. Questa dinamica ci rassicura. Il sistema ci parla con un linguaggio medico impeccabile, struttura le risposte e fornisce la bibliografia. Proprio qui, però, si annida il pericolo clinico maggiore: la medicalizzazione dell’interfaccia abbassa le nostre naturali difese critiche.

Lo studio ha il merito di smontare un falso mito: la presenza di una citazione non è garanzia di verità. Il sistema RAG legge i frammenti (chunking), li sintetizza e li reinterpreta. E in questo passaggio generativo, l’errore si traveste da evidenza. Gli autori propongono una tassonomia del rischio clinico in cui spiccano l'”over-inference” (trasformare un “può essere considerato” in un “è raccomandato”) e il “citation laundering” (usare una citazione reale per supportare un’affermazione che in quel paper, di fatto, non esiste).

Il banco di prova più critico, e quello in cui l’utilizzo acritico dell’IA può generare danni reali, è la farmacologia. Quando interroghiamo l’IA per un dosaggio o un’indicazione terapeutica, l’algoritmo potrebbe recuperare perfettamente il frammento sul dosaggio standard, ma omettere del tutto la controindicazione in caso di insufficienza epatica contenuta nel paragrafo successivo. Le macchine, per loro natura statistica, faticano a gestire le negazioni (“non raccomandato”, “controindicato”) e le gerarchie delle evidenze.

Cosa significa questo per noi? Questo lavoro non modificherà le linee guida sul trattamento delle patologie che affrontiamo ogni giorno, ma impone un cambio di paradigma radicale nel metodo di lavoro. Non è un invito al luddismo o a respingere l’innovazione, che rimane uno strumento formidabile per lo screening della letteratura o il riassunto di volumi imponenti di dati. Piuttosto, è un richiamo vigoroso alla nostra responsabilità inalienabile. Sebbene la tecnologia ci offra un assistente cognitivo straordinariamente veloce, il giudizio clinico, la valutazione del paziente e la responsabilità morale e legale della prescrizione non sono delegabili. L’algoritmo propone, ma la fatica della verifica e la solitudine della decisione restano un onere, e un privilegio, esclusivamente medico.

Il consiglio della redazione
Applicazioni pratiche

  • Utilizzare i sistemi IA (come i RAG) per generare ipotesi differenziali o per mappare rapidamente la letteratura disponibile su un argomento di nicchia.
  • Impiegare l’algoritmo come strumento di stesura iniziale per testi a bassa criticità clinica (es. riassunti narrativi di cartelle voluminose), da revisionare in toto.

Avvertenze

  • Trattare sempre le risposte dell’IA con “sospetto metodologico”, specialmente se il testo appare eccessivamente sicuro in aree grigie o di incertezza clinica.
  • Verificare sempre la fonte primaria: cliccare sul link fornito dall’IA non basta, bisogna leggere il paragrafo originale per escludere “citation laundering” o frammentazioni errate.

Cosa NON fare

  • Non basare mai una decisione prescrittiva o posologica esclusivamente sull’output di un’IA senza aver verificato la scheda tecnica (RCP) o la linea guida originale, specialmente in pazienti anziani, fragili o con insufficienze d’organo.
  • Non copiare e incollare bibliografie generate dall’IA in documenti clinico-legali o referti senza aver aperto e letto i paper citati.

    Take Home Messages

    • I sistemi RAG riducono le allucinazioni ma non le azzerano: la citazione generata non è una prova inconfutabile.
    • L’errore più insidioso dell’IA è quello plausibile, formulato con il lessico e il rigore apparente della letteratura scientifica.
    • Le negazioni e i caveat posologici (es. dosaggi in insufficienza renale) sono i “punti ciechi” degli algoritmi: la verifica sul documento originale è d’obbligo.
    • L’Intelligenza Artificiale è un assistente cognitivo, non un decisore: la responsabilità clinica e deontologica del trattamento resta unicamente del medico.

    Bibliografia

    1. Di Bello F, Angioni D. Evidence-like error and physician responsibility in retrieval-augmented clinical artificial intelligence. AboutOpen. 2026;13:22-30.