La scienza attraversa da tempo un periodo difficile. Sempre più spesso, infatti, le ricerche e gli studi pubblicati sulle riviste «peer reviewed» (quindi revisionati da colleghi dello stesso settore) si rivelano inaffidabili. Non «riproducibili». E quindi inadatti ad alimentare il castello di conoscenze condivise a cui lavora la comunità scientifica. Le cause sono molte: un ambiente accademico troppo competitivo, che premia chi pubblica a più non posso, anche a scapito della qualità (viene chiamato «publish or perish», pubblica o muori); il fiorire di predatory journal interessati a fare cassa, senza garantire l’attendibilità degli articoli che ospitano; un numero mai così grande di ricercatori attivi in tutto il globo, che si muovono in un mondo regolato da consuetudini nate quando la comunità scientifica era un club molto più ristretto ed esclusivo. Problemi noti da tempo e tutt’ora senza soluzione. A cui non mancano di aggiungersene di nuovi: l’arrivo dell’intelligenza artificiale (Ai), utilizzata ormai indiscriminatamente anche nella produzione di articoli scientifici, senza che nessuno abbia modo di sapere quanto, di quello che viene pubblicato, sia frutto di ricerche ed esperimenti, e quanto invece farina del suo sacco. Cioè dell’intelligenza artificiale. Che il problema fosse destinato a presentarsi, d’altronde, era piuttosto ovvio. Le Ai generative come Gemini o ChatGpt stanno rivoluzionando la produzione di contenuti testuali e visivi. E in ogni campo in cui trovano spazio, dalla letteratura al giornalismo, alla scuola, all’illustrazione, esiste il rischio che vengano utilizzate in modo scorretto. Senza che il loro uso sia dichiarato. O per produrre integralmente romanzi, articoli o risposte agli esami, lasciando agli esseri umani solamente la fatica di prendersene il merito. Se era chiaro che anche gli scienziati avrebbero iniziato a utilizzare le intelligenze artificiali per la produzione dei loro articoli, e che questo avrebbe necessariamente creato qualche problema, fino a oggi non esistevano però stime precise di quanto fosse diffusa questa pratica. A risolvere il mistero ci ha pensato un gruppo di ricercatori dell’Università di Tubinga, in Germania, con un’analisi pubblicata di recente sulla rivista Science Advances, realizzata con un metodo differente dai tentativi fatti in precedenza: invece di cercare un modo per riconoscere i testi generati dalle Ai, gli autori si sono limitati a verificare come è cambiato il lessico, cioè l’insieme delle parole usate negli abstract pubblicati in campo biomedico dopo il lancio di ChatGpt, avvenuto nel novembre 2022. E identificata una lista di 454 parole che sembrano diventate di moda solamente negli ultimi due anni, le hanno utilizzate come indizio di un coinvolgimento delle Ai nella stesura dei testi. Si tratta – spiegano – di termini non collegati con il contenuto delle ricerche, ma puramente con la forma del testo, come «impareggiabile» (unparalleled in inglese), o «inestimabile» (invaluable), la cui diffusione è quindi legata alle scelte stilistiche dei modelli linguistici, e non a un interesse crescente per qualche tema o filone di ricerca da parte della comunità scientifica. Con questo metodo, hanno quindi vagliato tutti gli abstract delle ricerche biomediche pubblicate lo scorso anno, per verificare quante mostrassero segni inequivocabili di un utilizzo di Chatgpt e compagnia. Risultato: su un milione e mezzo di ricerche analizzate, 200mila, circa un settimo del totale, sembrano essere state scritte con l’intelligenza artificiale. La percentuale – avvertono gli autori della ricerca – è cresciuta nell’arco del periodo studiato, un sintomo che il fenomeno si va facendo più comune di mese in mese. E potrebbe essere anche sottostimata, perché i ricercatori si starebbero facendo sempre più abili a nascondere gli indizi testuali lasciati dall’intelligenza artificiale. Ovviamente, la ricerca non è in grado di dirci che uso sia stato fatto delle Ai in ciascuno dei paper individuati. E il problema è proprio questo: le intelligenze artificiali sono sempre più usate e non c’è modo di sapere cosa ci si faccia. Esistono utilizzi certamente legittimi, come aiutare a tradurre i testi in inglese, nel caso di ricercatori non madrelingua, o per ripulire e correggere i testi da refusi ed errori grammaticali. Ma esistono anche pratiche scorrette e potenzialmente dannose, come far scrivere ampie parti dei testi alle Ai senza la necessaria supervisione, col rischio di introdurre errori e imprecisioni. Se non, addirittura, far inventare di sana pianta la ricerca per buttarla nel mucchio, una pratica che purtroppo si sta rivelando meno rara di quanto si potrebbe, o ci piacerebbe, pensare.
Simone Valesini
