Dove finisce il pensiero umano e inizia l'intelligenza artificiale?
L'ultima generazione di modelli di intelligenza artificiale è più nitida e fluida, producendo testi rifiniti con meno errori e allucinazioni. Come professore di filosofia, ho una paura crescente: quando un saggio rifinito non dimostra più che uno studente ha ragionato, il voto che lo precede diventa vuoto, e così anche il diploma.Il problema non si limita alle lezioni in aula. In campi come il diritto, la medicina e il giornalismo, la fiducia dipende dalla consapevolezza che il giudizio umano ha guidato il lavoro. Un paziente, ad esempio, si aspetta che la prescrizione di un medico rifletta il pensiero e la formazione di un esperto.
I prodotti di intelligenza artificiale possono ora essere utilizzati per supportare le decisioni delle persone. Ma anche quando il ruolo dell'intelligenza artificiale in questo tipo di lavoro è limitato, non si può essere certi se il professionista abbia guidato il processo o si sia limitato a scrivere qualche suggerimento per svolgere il lavoro. Ciò che si dissolve in questa situazione è la responsabilità: la sensazione che istituzioni e individui possano rispondere di ciò che certificano. E questo avviene in un momento in cui la fiducia del pubblico nelle istituzioni civiche si sta già sgretolando .
Considero l'istruzione come il banco di prova per una nuova sfida: imparare a lavorare con l'intelligenza artificiale preservando l'integrità e la visibilità del pensiero umano. Risolvendo il problema qui, potrebbe emergere un modello per altri campi in cui la fiducia dipende dalla consapevolezza che le decisioni provengono ancora dalle persone. Nei miei corsi, stiamo testando un protocollo di authorship per garantire che la scrittura degli studenti rimanga connessa al loro pensiero, anche con l'intelligenza artificiale nel ciclo.
Quando l'apprendimento si interrompe
Il fondamentale scambio tra insegnante e studente è messo a dura prova. Un recente studio del MIT ha rilevato che gli studenti che utilizzano modelli linguistici complessi per aiutarsi nella stesura di saggi si sentono meno responsabili del proprio lavoro e ottengono risultati peggiori in parametri chiave relativi alla scrittura.
Gli studenti vogliono ancora imparare, ma molti si sentono sconfitti. Potrebbero chiedersi: "Perché pensarci da solo quando l'intelligenza artificiale può semplicemente dirmelo?". Gli insegnanti temono che il loro feedback non arrivi più. Come ha detto una studentessa del secondo anno della Columbia University al New Yorker dopo aver consegnato il suo saggio assistito dall'intelligenza artificiale: "Se non gli piace, non l'ho scritto io, capisci?".
Le università sono in difficoltà. Alcuni docenti stanno cercando di rendere i compiti "a prova di intelligenza artificiale ", passando a riflessioni personali o chiedendo agli studenti di includere i loro spunti e il loro processo. Negli ultimi due anni, ho sperimentato versioni di queste tecniche nei miei corsi, chiedendo persino agli studenti di inventare nuovi formati. Ma l'intelligenza artificiale può imitare quasi qualsiasi compito o stile.
Molte istituzioni ricorrono a divieti generalizzati o affidano il problema alle aziende di tecnologia educativa , i cui rilevatori registrano ogni battitura e riproducono le bozze come fossero film. Gli insegnanti setacciano le cronologie forensi; gli studenti si sentono sorvegliati. Troppo utile per essere bandita, l'intelligenza artificiale si insinua come merce di contrabbando.
La sfida non è che l'intelligenza artificiale renda disponibili argomentazioni convincenti; anche libri e colleghi lo fanno. La differenza è che l'intelligenza artificiale si insinua nell'ambiente, sussurrando costantemente suggerimenti all'orecchio dello studente. È fondamentale che lo studente li ripeta semplicemente o li integri nel proprio ragionamento, ma gli insegnanti non possono valutarlo a posteriori. Un elaborato convincente può nascondere dipendenza, mentre uno debole può riflettere una vera e propria difficoltà.
Nel frattempo, anche altri tratti distintivi del ragionamento di uno studente (frasi goffe che migliorano nel corso di un elaborato, la qualità delle citazioni, la fluidità generale della scrittura) vengono oscurati dall'intelligenza artificiale .
Ripristinare il collegamento tra processo e prodotto
Sebbene molti salterebbero volentieri lo sforzo di pensare con la propria testa, è proprio questo a rendere l'apprendimento duraturo e a preparare gli studenti a diventare professionisti e leader responsabili. Anche se affidare il controllo all'intelligenza artificiale fosse auspicabile, non può essere ritenuta responsabile, e i suoi creatori non vogliono questo ruolo . L'unica opzione, a mio avviso, è proteggere il legame tra il ragionamento di uno studente e il lavoro che lo costruisce.
Immaginate una piattaforma didattica in cui gli insegnanti stabiliscono le regole per ogni compito, scegliendo come utilizzare l'intelligenza artificiale. Un saggio di filosofia potrebbe essere eseguito in modalità "senza intelligenza artificiale": gli studenti scrivono in una finestra che disabilita il copia-incolla e le chiamate di intelligenza artificiale esterne, ma consente comunque loro di salvare le bozze. Un progetto di programmazione potrebbe consentire l'assistenza dell'intelligenza artificiale, ma interrompersi prima dell'invio per porre agli studenti brevi domande sul funzionamento del codice. Quando il lavoro viene inviato all'insegnante, il sistema emette una ricevuta sicura, un'etichetta digitale, simile a una busta sigillata per l'esame, che conferma che è stato prodotto nelle condizioni specificate.
Non si tratta di rilevamento: nessun algoritmo di scansione per i marcatori di intelligenza artificiale. E non si tratta di sorveglianza: nessuna registrazione delle battute sulla tastiera o spionaggio delle bozze. I termini di intelligenza artificiale dell'incarico sono integrati nel processo di invio. Un lavoro che non soddisfa queste condizioni semplicemente non verrà elaborato, come quando una piattaforma rifiuta un tipo di file non supportato.
Nel mio laboratorio alla Temple University , stiamo sperimentando questo approccio utilizzando il protocollo di verifica della paternità che ho sviluppato. Nella modalità principale di controllo della paternità, un assistente AI pone brevi domande colloquiali che riportano gli studenti al loro ragionamento: "Potresti ribadire il tuo punto principale più chiaramente?" oppure "Esiste un esempio migliore che mostri la stessa idea?". Le loro risposte brevi e immediate e le modifiche consentono al sistema di valutare quanto il loro ragionamento sia allineato alla bozza finale.
I prompt si adattano in tempo reale al lavoro di ogni studente, con l'intento di rendere il costo dell'imbroglio superiore allo sforzo di pensare. L'obiettivo non è quello di valutare o sostituire gli insegnanti, ma di ricollegare il lavoro consegnato dagli studenti al ragionamento che lo ha prodotto. Per gli insegnanti, questo ripristina la fiducia che il loro feedback si basi sul ragionamento effettivo di uno studente. Per gli studenti, sviluppa consapevolezza metacognitiva , aiutandoli a capire quando stanno pensando davvero e quando si stanno semplicemente scaricando.
Credo che insegnanti e ricercatori dovrebbero essere in grado di progettare i propri controlli di paternità, ognuno dei quali rilascia un tag sicuro che certifichi il lavoro superato attraverso il processo da loro scelto, un tag di cui le istituzioni possano poi decidere di fidarsi e di adottare.
Come interagiscono gli esseri umani e le macchine intelligenti
Sono in corso iniziative analoghe anche al di fuori dell'istruzione. Nell'editoria, le certificazioni stanno già sperimentando timbri "scritti da persone" . Tuttavia, senza una verifica affidabile, tali etichette si riducono a semplici proclami di marketing. Ciò che deve essere verificato non sono le sequenze di tasti premuti, ma il modo in cui le persone interagiscono con il proprio lavoro.
Ciò sposta la questione sull'autorialità cognitiva: non se o quanto l'IA sia stata utilizzata, ma come la sua integrazione influenzi la proprietà e la riflessione. Come ha recentemente osservato un medico , imparare a utilizzare l'IA in campo medico richiederà una scienza a sé stante. Lo stesso vale per qualsiasi campo che dipenda dal giudizio umano.
Vedo questo protocollo agire come un livello di interazione con tag di verifica che viaggiano con l'opera ovunque vada, come la posta elettronica che si sposta tra provider. Integrerebbe gli standard tecnici per la verifica dell'identità digitale e della provenienza dei contenuti già esistenti. La differenza fondamentale è che i protocolli esistenti certificano l'artefatto, non il giudizio umano che lo sostiene.
Senza dare alle professioni il controllo su come l'IA viene utilizzata e senza garantire il ruolo del giudizio umano nel lavoro assistito dall'IA, la tecnologia dell'IA rischia di dissolvere la fiducia da cui dipendono professioni e istituzioni civiche. L'IA non è solo uno strumento; è un ambiente cognitivo che rimodella il nostro modo di pensare. Per vivere in questo ambiente alle nostre condizioni, dobbiamo costruire sistemi aperti che mantengano il giudizio umano al centro.
(Eli Alshanetsky - Assistant Professor of Philosophy, Temple University - su The Conversation del 30/10/2025)
ADUC è indipendente
Nessun finanziamento pubblico né pubblicità. Solo le donazioni ci rendono liberi.
Sostienici →
Potrebbe interessarti