Nella lotta contro i deepfake, contenuti digitali falsi, e il contrasto alla loro diffusione, entra in campo il Politecnico di Milano con fondi Pnrr. I due progetti europei seguiti dall’ateneo milanese sono Ff4all e FUN-Media elaborati dall’Image and Sound Processing Lab (Ispl) del Politecnico. Ff4all ha analizzato fenomeni emergenti legati alla generazione di immagini e video sintetici, mentre Fun-Media si è concentrato sulla rilevazione di deepfake vocali, una delle minacce emergenti più rilevanti nel panorama della sicurezza digitale. I risultati dei progetti fanno un passo importante verso lo sviluppo di tecnologie affidabili per la tutela dell’informazione digitale, il contrasto alla disinformazione e la protezione degli utenti “in un ecosistema mediatico sempre più complesso e dinamico”.
COME NASCONO LE IMMAGINI FALSE SUL WEB
I ricercatori dell’Ispl hanno studiato i modi in cui vengono ingegnerizzati e diffusi immagini e video falsi. Sono state studiate per esempio tecniche che consentono di trasformare immagini reali in versioni sintetiche estremamente realistiche, rendendo più complessa la verifica della loro autenticità e mascherando tracce fondamentali per l’analisi forense. Parallelamente, il laboratorio ha sviluppato nuovi strumenti per il rilevamento di volti sintetici, combinando informazioni geometriche tridimensionali e caratteristiche strutturali del volto. Queste soluzioni migliorano la capacità di generalizzare i modelli che individuano i falsi, e mantengono buone prestazioni anche in presenza di operazioni di post-processing, come compressione o editing.
UN DATABASE DELLE IMMAGINI FALSE
In collaborazione con le università partner del progetto è stato infine realizzato il dataset Wild, che raccoglie immagini false generate da venti modelli di ultima generazione: è una risorsa importante per identificare la tecnologia generativa utilizzata per sintetizzare un’immagine.
I DEEPFAKE VOCALI
Con Fun-Media, il focus è stata la rilevazione di deepfake vocali. Per affrontare questa sfida, i ricercatori dell’Ispl hanno sviluppato nuove architetture basate sui cosiddetti modelli Mixture of Experts per la rilevazione dei falsi, in grado di combinare più sistemi specializzati per migliorare le prestazioni anche in presenza di tecniche generative mai osservate durante l’addestramento. Questi approcci offrono maggiore flessibilità e adattabilità rispetto ai detector tradizionali, risultando particolarmente efficaci in scenari complessi e in continua evoluzione.
Marco Sacchetti
