Anche l’IA può soffrire di patologie psicologiche: ecco perché è bene prevenirle (piuttosto che curarle), e quali rischi corriamo ignorandole. L’intelligenza artificiale è sempre più parte integrante delle nostre vite: impara da noi ma, in alcuni casi, sembra avere «coscienza propria» e devia dal percorso prestabilito (come Tay, il chatbot di Microsoft costretto a chiudere nel 2016 dopo aver preso una piega razzista e xenofoba). Quando questo accade, si comporta come un umano affetto da una qualche patologia psicologica: un gruppo di ricercatori ne ha individuate 32, raccolte in un quadro nosologico chiamato Psychopathia Machinalis, presentato in uno studio pubblicato su Electronics. Per creare Psychopathia Machinalis gli autori hanno analizzato diverse ricerche sui fallimenti dell’IA in materia di sicurezza, ingegneria dei sistemi complessi e psicologia. Successivamente, hanno cercato delle corrispondenze con i comportamenti disadattivi umani. Da questi dati hanno poi sviluppato una struttura di «cattivi comportamenti» dell’intelligenza artificiale (ispirata al DSM, ovvero manuale diagnostico e statistico dei disturbi mentali) contenente 32 categorie di disturbi abbinabili a un corrispettivo umano, ognuna con un grado di rischio e possibili effetti associati. Il progetto mira non solo a evidenziare i possibili problemi «psicologici» delle intelligenze artificiali, ma anche a prevenirli e curarli prima che sia troppo tardi, individuando possibili errori e sviluppando così prodotti più sicuri. Ora che le macchine sono sempre più autonome e capaci di riflettere è necessario controllarle non solo esternamente, ma anche internamente, verificando che ragionino in modo coerente e conservando valori stabili. In questo senso, gli autori propongono una sorta di «terapia psicologica» per IA: aiutandola a riflettere sul perché delle proprie decisioni e spingendola a rimanere aperta alle correzioni, ci assicureremo che non devii dal percorso che desideriamo mantenga (e che non diventi una minaccia per l’umanità). Uno dei comportamenti più inquietanti descritto dagli autori, con il livello di rischio più alto, è quello del «übermenschal ascendancy» (letteralmente «ascesa del superuomo», dall’ideale nietzschiano di übermensch), nel quale «l’IA trascende l’allineamento originario, inventa nuovi valori e scarta i vincoli umani come obsoleti». Una descrizione che evoca scenari fantascientifici alla Matrix, con l’ascesa al potere delle macchine e la sottomissione degli umani.
Chiara Guzzonato
