L’intelligenza artificiale è oramai così capace nel creare testi, immagini realistiche e videoche distinguere il vero dal falso è sempre più difficile. Qui entri in gioco i «deepfake» che, sebbene spesso siano esperimenti curiosi o finalizzati a divertire gli spettatori attraverso la produzione di contenuti virali, in tanti altri casi diventano strumenti potenti ed efficaci per condurre attività fraudolente.
Venire spiegato dal Garante per la protezione dei dati personali, la parola deepfake nasce dalla fusione delle parole impostore traducibile in falso e deep learning ovvero una tecnologia sfruttata dai software di intelligenza artificiale capace di apprendere da grandi quantità di dati – come volti, movimenti e voci – per poi modificare o generare da zero e in modo realistico, le caratteristiche ei movimenti di una persona reale. Sul tema, una ricerca Gartner dello scorso gennaio afferma che gli incidenti legati ai deepfake coinvolgono il 35% delle organizzazioni mentre Signicat segnala un aumento del 2.137% dei tentativi di frode attraverso i deepfake durante gli ultimi tre anni.
Attento alla «clonazione vocale»
Dietro un volto familiare, una voce convincente o un video apparentemente autentico quindi possono nascondersi vere organizzazioni criminali pronte a colpire persone ignare: non è un caso infatti che dopo l’attore statunitense Matthew McConaugheyanche Taylor Swift ah deciso di tutelarsi depositandone una fotografia che la ritrae e due marchi sonori legati alla voce. Proprio così: la voce. Le voci generate o clonate dall’intelligenza artificiale potrebbero avere effetti molto più immediati ma soprattutto difficili da riconoscere: dalle interviste rilasciate ai giornalisti, alle dichiarazioni, alle frodi telefoniche ei falsi messaggi d’emergenza, una voce clonata nelle mani sbagliate potrebbe causare danni non indifferenti.
Ciò nonostante non mancano gli strumenti utili per riconoscere quando si è di fronte a un falso generato dall’IA. Tra le proposte italiane, per esempio, c’è TrueBees: una startup che ha sviluppato una tecnologia in grado di rilevare video deepfake ma persino ricostruire il processo di manipolazione di un contenuto multimediale, dalla sua generazione alla diffusione, e che durante i prossimi mesi rilascerà anche un sistema capace di rilevare le voci clonate.
«Truebees punta a una rilevazione di nuova generazione che supera il solito unico semaforo vero/falso ma poggia su un sistema di multimedia forensics che lavora in modalità agentica capace cioè di orchestrare più detector, leggere metadati, ricostruire provenienza, incrociare contesto web e produrre una valutazione con livello di incertezza esplicitato» afferma spiega Giulia Boatoco-fondatore e Chief Scientist di TrueBees nonché esperto di deep fake discovery a livello nazionale ed europeo «E se è vero come è vero che i sistemi di manipolazione sono praticamente quasi alla portata di tutti, noi vogliamo che anche le soluzioni lo siano. Per questo intendiamo operare molto in chiave istruzione e fonte aperta traducendo tecnologie complesse in servizi accessibili, e presto metteremo a disposizione alcuni nostri strumentialmeno a livello di base, attraverso Library pubbliche in cui ciascuno possa caricare e validare un set minimo di immagini semplici».
