Rischiamo un diluvio di 'scienza' scritta dall'intelligenza artificiale che promuove gli interessi aziendali. Cosa fare
Negli anni 2000, l'azienda farmaceutica americana Wyeth fu citata in giudizio da migliaia di donne che avevano sviluppato un tumore al seno dopo aver assunto i suoi farmaci ormonali sostitutivi. Gli atti giudiziari rivelarono il ruolo di "decine di recensioni e commenti ghostwritten pubblicati su riviste mediche e integratori, utilizzati per promuovere benefici non dimostrati e minimizzare i danni" relativi ai farmaci.Wyeth, acquisita da Pfizer nel 2009, aveva pagato un'agenzia di comunicazione medica per produrre questi articoli, pubblicati a firma di medici di spicco del settore (con il loro consenso). Qualsiasi professionista sanitario che leggesse questi articoli e vi facesse affidamento per consigli sulle prescrizioni non avrebbe mai immaginato che dietro ci fosse Wyeth.
L'azienda farmaceutica ha insistito sul fatto che tutto ciò che veniva scritto era scientificamente accurato e – sorprendentemente – che pagare ghostwriter per tali servizi era una prassi comune nel settore. Pfizer ha finito per pagare oltre 1 miliardo di dollari (744 milioni di sterline) di danni per i danni causati dai farmaci.
Gli articoli in questione sono un ottimo esempio di "resmearch" – scienza falsa al servizio degli interessi aziendali. Mentre la stragrande maggioranza dei ricercatori è motivata a scoprire la verità e a verificare attentamente i propri risultati, il resmearch non si preoccupa della verità: cerca solo di persuadere.
Negli ultimi anni abbiamo visto numerosi altri esempi, come aziende di bevande analcoliche e produttori di carne che finanziano studi che hanno meno probabilità di dimostrare collegamenti tra i loro prodotti e i rischi per la salute rispetto a ricerche indipendenti.
Una delle principali preoccupazioni attuali è che gli strumenti di intelligenza artificiale riducano praticamente a zero i costi di produzione di tali prove. Solo pochi anni fa ci volevano mesi per produrre un singolo articolo. Ora, utilizzando l'intelligenza artificiale, un singolo individuo può produrre più articoli apparentemente validi nel giro di poche ore.
Questi studi si prestano a risultati speciosi. Quando i set di dati comprendono migliaia di persone e centinaia di informazioni su di loro, i ricercatori troveranno inevitabilmente correlazioni fuorvianti che si verificano per caso.
Una ricerca sui principali database accademici Scopus e Pubmed ha mostrato che tra il 2014 e il 2021 sono stati pubblicati in media quattro studi monofattoriali all'anno. Solo nei primi dieci mesi del 2024, ne sono stati pubblicati ben 190.
Questi non erano necessariamente motivati ??da interessi aziendali: alcuni potrebbero, ad esempio, essere il risultato di accademici che cercano di pubblicare più materiale per migliorare le proprie prospettive di carriera. Il punto è piuttosto che, con l'intelligenza artificiale che facilita questo tipo di studi, diventano un'ulteriore tentazione per le aziende che cercano di promuovere i loro prodotti.
Tra l'altro, il Regno Unito ha appena fornito ad alcune aziende un ulteriore incentivo per la produzione di questo materiale. Nuove linee guida governative impongono ai produttori di alimenti per l'infanzia di utilizzare affermazioni di marketing che suggeriscano benefici per la salute solo se supportate da prove scientifiche.
Pur essendo ben intenzionato, incentiverà le aziende a trovare risultati che dimostrino la salute dei loro prodotti. Ciò potrebbe aumentare la loro domanda di quel tipo di "prove scientifiche" assistite dall'intelligenza artificiale, sempre più disponibili.
Risolvere il problema
Un problema è che la ricerca non sempre viene sottoposta a revisione paritaria prima di essere utilizzata per formulare politiche. Nel 2021, ad esempio, il giudice della Corte Suprema degli Stati Uniti Samuel Alito, in un parere sul diritto al porto d'armi, ha citato un documento informativo di un accademico di Georgetown che presentava dati di un'indagine sull'uso delle armi .
L'indagine accademica e sulle armi è stata finanziata dal Constitutional Defence Fund , che il New York Times descrive come un'organizzazione no-profit pro-armi .
Poiché i dati dell'indagine non sono disponibili al pubblico e l'accademico si è rifiutato di rispondere a domande in merito, è impossibile sapere se i suoi risultati siano frutto di una nuova diffamazione. Tuttavia, gli avvocati hanno fatto riferimento al suo articolo in cause legali in tutti gli Stati Uniti per difendere gli interessi in materia di armi.
Una lezione ovvia è che chiunque faccia affidamento sulla ricerca dovrebbe diffidare di quella che non ha superato la revisione paritaria. Una lezione meno ovvia è che dovremo riformare anche la revisione paritaria. Negli ultimi anni si è molto discusso dell'esplosione della ricerca pubblicata e della misura in cui i revisori svolgono correttamente il loro lavoro.
Negli ultimi dieci anni circa , diversi gruppi di ricercatori hanno compiuto progressi significativi nell'identificazione di procedure che riducono il rischio di risultati speciosi negli articoli pubblicati. Tra i progressi rientrano l'obbligo per gli autori di pubblicare un piano di ricerca prima di iniziare qualsiasi lavoro (noto come preregistrazione), la successiva rendicontazione trasparente di tutte le fasi di ricerca svolte in uno studio e la verifica da parte dei revisori che tutto ciò sia in ordine.
Inoltre, per gli articoli monofattoriali, esiste un metodo recente chiamato analisi della curva di specificazione che testa in modo completo la robustezza della relazione dichiarata rispetto a metodi alternativi di suddivisione dei dati.
I direttori di riviste di molti settori hanno adottato queste proposte e aggiornato le loro regole anche in altri modi. Spesso ora richiedono agli autori di pubblicare i propri dati, il codice e il sondaggio o i materiali utilizzati negli esperimenti (come questionari, stimoli e così via). Gli autori devono inoltre dichiarare eventuali conflitti di interesse e fonti di finanziamento.
Alcune riviste sono andate oltre , ad esempio richiedendo agli autori, in risposta alla scoperta sull'uso di set di dati ottimizzati per l'intelligenza artificiale, di citare tutte le altre analisi secondarie simili alla loro che sono state pubblicate e di rivelare come l'intelligenza artificiale è stata utilizzata nel loro lavoro.
Alcuni campi sono stati sicuramente più riformisti di altri. Le riviste di psicologia, nella mia esperienza, si sono spinte più avanti nell'adottare questi processi rispetto alle riviste di economia.
Ad esempio, uno studio recente ha applicato ulteriori controlli di robustezza alle analisi pubblicate sulla prestigiosa rivista American Economic Review. Ciò ha suggerito che gli studi pubblicati sulla rivista sopravvalutavano sistematicamente la solidità delle prove contenute nei dati.
In generale, il sistema attuale sembra inadeguato a gestire la valanga di articoli che l'intelligenza artificiale genererà. I revisori devono investire tempo, impegno e scrupolosa attenzione nel controllo delle preregistrazioni, delle analisi delle curve di specifica, dei dati, del codice e così via.
Ciò richiede un meccanismo di revisione paritaria che premi i revisori per la qualità delle loro recensioni .
La fiducia del pubblico nella scienza rimane elevata in tutto il mondo. Questo è positivo per la società, perché il metodo scientifico è un giudice imparziale che privilegia ciò che è vero e significativo rispetto a ciò che è popolare o redditizio.
Eppure l'intelligenza artificiale minaccia di allontanarci più che mai da questo ideale. Se vogliamo che la scienza mantenga la sua credibilità, abbiamo urgente bisogno di incentivare una revisione paritaria significativa.
(Davide Comerford - Professore di Economia e Scienze Comportamentali, Università di Stirling - su The Conversation del 05/09/2025)
ADUC è indipendente
Nessun finanziamento pubblico né pubblicità. Solo le donazioni ci rendono liberi.
Sostienici →
Potrebbe interessarti