IA più brava dei medici: uno studio JAMA contro l'obbligo di supervisione umana

Un articolo pubblicato sulla rivista JAMA rilancia un tema destinato a far discutere: in alcuni ambiti della diagnostica medica, i sistemi di intelligenza artificiale hanno ormai superato le prestazioni dei medici umani, e imporre per legge la presenza di un supervisore umano ("human in the loop") potrebbe non solo essere inutile, ma addirittura peggiorare i risultati per i pazienti.

Il saggio, intitolato "Will Autonomous AI Exceed AI-Aided Physicians as the Best in Medical Care?" ed pubblicato il 14 agosto, è firmato dal bioeticista Ezekiel Emanuel, dal ricercatore Abe Baker-Butler e da Neal Khosla, amministratore delegato di Curai Health e figlio del noto venture capitalist Vinod Khosla. Gli autori si dichiarano in disaccordo con la posizione prevalente, sostenuta ad esempio dall'American College of Physicians, secondo cui l'intelligenza artificiale dovrebbe svolgere solo un ruolo di supporto nelle decisioni cliniche.

Come riporta Medical Economics, gli autori sostengono che i dati raccolti in medicina e in altri campi indicano che quando le prestazioni dell'IA da sola sono costantemente superiori a quelle dell'uomo da solo, l'IA da sola finisce per superare anche i sistemi ibridi uomo-macchina. In altre parole, avere un medico che controlla e corregge gli errori dell'intelligenza artificiale rischia paradossalmente di peggiorare, e non migliorare, il risultato finale rispetto a lasciare che sia l'IA a decidere in autonomia.

Gli autori paragonano l'evoluzione della medicina a quanto già accaduto negli scacchi: il supercomputer Deep Blue di IBM sconfisse il campione del mondo Garry Kasparov nel 1997, l'ultima vittoria di un umano non assistito contro un computer risale al 2005, e già nel 2017 l'intelligenza artificiale da sola aveva superato anche le migliori squadre miste uomo-macchina. Secondo il saggio, un percorso simile potrebbe ripetersi in alcuni settori della sanità.

Tra le evidenze citate dagli autori figura una ricerca su Articulate Medical Intelligence Explorer di Google, che sarebbe risultato "significativamente migliore" dei medici umani nel raccogliere i sintomi riferiti dai pazienti. Gli stessi autori, tuttavia, non nascondono i limiti di queste conclusioni: gran parte delle prove disponibili proviene da scenari di esame simulati e non da reali contesti clinici, mentre attuali vincoli di responsabilità legale, normativi e di rimborso limitano fortemente la possibilità di testare l'IA in autonomia in ambienti clinici reali. Gli stessi autori segnalano inoltre che restano irrisolti alcuni ostacoli legati a responsabilità, rimborsi e regolamentazione che, al momento, non permettono comunque a un'IA di somministrare cure senza alcun coinvolgimento umano.

Non manca chi invita alla cautela: un piccolo numero di studi pubblicati dal 2024 in avanti ha mostrato casi in cui i medici, da soli, hanno eguagliato o superato l'intelligenza artificiale, ad esempio nella diagnosi della fibrillazione atriale parossistica o in presenza di quadri clinici atipici. Resta inoltre da capire se e come una legislazione possa mai autorizzare "medici" completamente autonomi basati su IA.

Il dibattito si inserisce in un confronto più ampio nella comunità medica statunitense.

L'American Medical Association e l'American College of Physicians ribadiscono che l'intelligenza artificiale deve mantenere un ruolo di supporto, per garantire il massimo beneficio e il minimo danno ai pazienti. Di segno diverso la posizione di Robert Wachter, tra le voci più autorevoli sul tema negli Stati Uniti, secondo cui in futuro i medici assistiti dall'IA resteranno l'eccellenza della medicina, mentre ai pazienti di fascia "economica" toccherà una assistenza affidata solo all'intelligenza artificiale.

Gli autori del saggio JAMA concludono che medici, pazienti e responsabili delle politiche sanitarie devono iniziare fin da ora a riflettere su come utilizzare al meglio l'intelligenza artificiale in ambito clinico, invitando i regolatori a basare le proprie scelte sull'evidenza delle reali performance dei sistemi di IA, piuttosto che su un principio precauzionale generico che imponga sempre e comunque un controllo umano.