“Porno Deepfake”: profili di diritto penale
Quando l’intelligenza artificiale incontra la pornografia
di Nicoletta Ordonselli
Premessa
Da qualche mese, un fenomeno chiamato “Porno Deepfake”, originatosi verso la fine del 2017, ha mostrato una improvvisa capacità di accelerazione. A causa della sua rapida e pericolosa diffusione a livello mondiale e del suo devastante impatto sull’esistenza delle vittime[1], sono recentemente emerse serie preoccupazioni a riguardo, nonché numerose questioni controverse sul tema.
Ma innanzitutto, cosa si intende per “Porno Deepfake”?
Si tratta, in sostanza, dell’utilizzo di una tecnica[2] basata sulla sintesi e sulla rielaborazione di immagini di persone reali attraverso l’uso dell’intelligenza artificiale – al fine di manipolare e trasformare contenuti multimediali altrui in materiale pornografico falso (ma altamente realistico), diffondendolo poi online attraverso i siti porno, i social network e le app di messaggistica istantanea.
Una recente ricerca condotta da Sensity (ex Deeptrace) società di cybersecurity che si occupa di riconoscere i deepfake e monitorarne la diffusione nel mondo, si è conclusa con la redazione di due report, nei quali si evidenziano dati allarmanti.
Da un primo report, pubblicato nel settembre 2019[3], è emerso che i video deepfake online erano in totale quasi 15.000, di cui il 96% era costituito da video porno, con visualizzazioni da record. In un secondo report, dell’ottobre 2020[4] sono stati rilevati numeri ancor più preoccupanti: nel solo mese di luglio dello stesso anno, infatti, nelle chat private dell’app di messaggistica Telegram, le immagini di 104.852 donne sono state virtualmente “spogliate” con l’uso dell’intelligenza artificiale, e poi condivise pubblicamente. Ad oggi queste immagini sembrano diventate circa 680.000 (per lo meno quelle individuate con certezza). L’Italia, peraltro, risulta essere, dopo gli Stati Uniti, la Russia e l’Argentina, tra i paesi al mondo in cui il fenomeno è più diffuso.
Ma alla luce di questi dati – e a poco più di un anno dall’entrata in vigore della legge 19 luglio 2019, n. 69 (meglio nota come Codice Rosso)[5] che ha introdotto nel nostro codice penale il c.d. revenge porn – sfruttare l’intelligenza artificiale per “spogliare” una donna e diffondere contenuti multimediali pornografici fake che la riguardano, è reato? E se sì, tale condotta è idonea ad integrare la nuova fattispecie di diffusione illecita di immagini o video sessualmente espliciti di cui all’art. 612 ter c.p., o esistono altre norme in grado di tutelare sotto il profilo penale le vittime di questo dilagante fenomeno?
L’origine del Porno Deepfake “amatoriale”
Tutto inizia alla fine del 2017, quando un utente sotto lo pseudonimo di “Deepfakes” pubblica su Reddit alcuni video porno realizzati rielaborando, tramite un complesso algoritmo, le immagini presenti sul web di alcuni personaggi famosi.
Di lì a poco, alcune celebri attrici hollywoodiane, fra cui Daisy Ridley, Gal Gadot ed Emma Watson, scoprono che i loro volti sono stati sovrapposti (c.d. face swapping) ai corpi dei protagonisti di video erotici che vengono rapidamente diffusi sul web.
Il magazine Vice è il primo a parlarne[6], così nel 2018 i video vengono bannati da Reddit, ma nel frattempo milioni di user iniziano a sfruttare il software gratuito per creare e diffondere rapidamente nuovi contenuti di porno deepfake anche su altri siti.
Il caso DeepNude e l’intervento del Garante della Privacy contro Telegram
La situazione peggiora nel giugno 2019, quando viene lanciata un’app chiamata “Deep Nude” che permette di manipolare e “spogliare” artificialmente le immagini di qualsiasi donna vestita (l’app sembra funzionare solo con le figure femminili[7]), trasformandole in foto di nudo adattate alla corporatura del soggetto, con un risultato finale davvero realistico.[8]
L’app viene scaricata e utilizzata da circa 95.000 persone, così il creatore è costretto a chiuderla dopo pochi giorni “per motivi etici” e a vendere la licenza.
Nonostante ciò, il codice sorgente del software rimane disponibile sulle maggiori repository, così a qualcuno viene l’idea di rendere disponibile lo stesso strumento anche su Telegram, dove le foto di donne vengono “denudate” attraverso dei BOT (sistemi automatizzati programmati per offrire dei servizi e per interagire nelle chat con gli utenti reali).
Chiunque entri in una chat con il BOT Deep Nude su Telegram, pertanto, può ottenere con estrema facilità foto di nudi realistici di qualsiasi donna (pare che anche in tal caso il software funzioni solo con le figure femminili) e diffonderle liberamente.[9]
Da ciò deriva la recente decisione del Garante della Privacy, seriamente preoccupato per i potenziali effetti lesivi del software e per la sua pericolosa diffusione, di intervenire a tutela della riservatezza delle vittime aprendo un’istruttoria nei confronti di Telegram, “considerato anche il rischio che tali immagini vengano usate a fini estorsivi o di revenge porn, e tenuto conto dei danni irreparabili a cui potrebbe portare una incontrollata circolazione delle immagini”, come si legge nel comunicato stampa del 23 ottobre 2020.[10]
La tutela penale: si può applicare il revenge porn?
Ma quali tutele giuridiche offre il nostro ordinamento alle vittime per contrastare il fenomeno del porno deepfake sotto il profilo penale?
Sebbene, infatti, le immagini di deep-porn siano ottenute in modo artificiale, è indubbio che, considerato il loro aspetto incredibilmente realistico[11], la loro diffusione sia perfettamente in grado di ledere la reputazione, la dignità e la libertà personale della vittima e possa quindi assumere rilevanza penale.[12]
Per la pubblicazione e la diffusione di immagini e video reali a contenuto sessualmente esplicito, infatti, il nostro codice penale appresta già una specifica tutela; data tuttavia la recentissima diffusione del fenomeno, una fattispecie ad hoc che tuteli anche le vittime della diffusione di contenuti multimediali sessualmente espliciti realizzati artificialmente, ad oggi, non esiste nel nostro ordinamento. È bene perciò iniziare ad interrogarsi sulla possibile applicabilità del c.d. Revenge Porn[13] introdotto da poco più di un anno nel nostro ordinamento dalla L. n.169/2019.
Il nuovo reato di diffusione illecita di immagini o video sessualmente espliciti di cui all’art. 612 ter c.p.[14], infatti, è volto a tutelare la riservatezza di contenuti multimediali che potrebbero ledere la reputazione e la dignità della persona offesa in quanto sessualmente espliciti. Esso punisce non solo la condotta di chi, dopo aver realizzato o ottenuto le immagini, le diffonde per primo senza il consenso della persona ritratta, ma anche quella di coloro che hanno ricevuto tali immagini da altri o le hanno scaricate dal web e le hanno diffuse, al fine di recare nocumento alle vittime. La norma, che oltretutto prevede un’aggravante nel caso in cui i fatti siano commessi attraverso strumenti informatici o telematici, sembrerebbe quindi idonea a prevenire i rischi maggiori del porno deepfake, ossia la potenziale viralizzazione dell’immagine diffusa e l’intento talvolta vendicativo del soggetto agente.
Il dubbio è però che una sua lettura rigorosa ne consenta l’applicazione solo nell’ipotesi in cui foto o video fake a contenuto sessualmente esplicito siano stati originariamente realizzati con il consenso della vittima e poi condivisi e diffusi in maniera non consensuale[15], senza contare che il dettato normativo non fa alcun riferimento a contenuti multimediali non reali.
Ad oggi potrebbe quindi risultare complesso, alla luce del principio di tassatività della norma penale[16] e della totale mancanza di giurisprudenza in materia, far rientrare il porno deepfake nella fattispecie incriminatrice del revenge porn.
Diverso sarebbe invece il caso di immagini porno deepfake ritraenti soggetti minorenni, poiché ai sensi dell’art. 600 quater1 c.p.[17] che disciplina il reato di pornografia virtuale, si considerano integrati i reati di pornografia minorile (art. 600 ter c.p.) e di detenzione di materiale pornografico (art. 600 quater c.p.) anche quando le immagini sono virtuali, cioè “realizzate con tecniche di elaborazione grafica non associate in tutto o in parte a situazioni reali, la cui qualità di rappresentazione fa apparire come vere situazioni non reali”.
Tale inciso, infatti, farebbe pensare proprio alle immagini a contenuto sessualmente esplicito ottenute con l’uso dell’intelligenza artificiale[18] e sarebbe perciò opportuna una sua estensione all’art. 612 ter c.p., nell’ottica di una tutela più adeguata a prevenire e a contrastare il fenomeno del porno deepfake.
Come tutelarsi?
I dubbi circa l’applicabilità del revenge porn non impediscono comunque alle vittime di prendere in considerazione, qualora vi siano le condizioni, altre possibili forme di tutela penale, già presenti in Italia prima dell’entrata in vigore del Codice Rosso.[19]
In primo luogo, è possibile tutelarsi sporgendo querela per diffamazione ex art. 595 c.p., in quanto tali contenuti, seppur fake, sono senza alcun dubbio in grado di offendere gravemente la reputazione del soggetto ritratto e di determinare la diffusione della denigrazione tramite il web, i social o le chat private[20].
Non si può poi non considerare che molto spesso i contenuti di porno deepfake vengono creati al fine di minacciare o estorcere qualcosa alla vittima. Nel caso in cui, per esempio, le immagini o i video vengano utilizzati per richiedere denaro in cambio della non pubblicazione o della distruzione delle stesse, può configurarsi un tentativo di estorsione ex art. 629 c.p.[21].
Tra le ulteriori fattispecie potenzialmente idonee ad apprestare una tutela alle vittime del porno deepfake vi sono poi lo stalking (“atti persecutori”) di cui all’art. 612 bis c.p.[22], che peraltro prevede un’aggravante se il fatto è commesso attraverso strumenti informatici o telematici[23], e il trattamento illecito dei dati personali (art. 167 del Codice della Privacy)[24].
Conclusioni
Alla luce di tali considerazioni – sebbene alcuni cybercrimes siano semplicemente reati “tradizionali” commessi attraverso l’utilizzo del computer o di altre tecnologie e la tendenza sia quella di invocare le fattispecie generali a cui essi sono riconducibili[25] – è auspicabile un intervento legislativo che fornisca un presidio di tutela penale alle vittime dalle minacce di ultima generazione, come il Porno Deepfake.
È innegabile, infatti, che tale fenomeno sia in grado di provocare un impatto devastante sulla dignità, sulla reputazione, e più in generale, sull’esistenza della vittima[26], ed è quindi fondamentale che crescano gli sforzi, non solo a livello legislativo, ma anche dal punto di vista culturale, per contrastare con rapidità ed efficacia la diffusione di tale fenomeno.
I nuovi mezzi tecnologici (fra cui social e app) di cui ormai non possiamo più fare a meno possono indubbiamente aumentare il rischio di “un danno, alla persona, che non ha eguali”[27], amplificandone la portata, ma il problema vero, ancora una volta, non risiede nella tecnologia o nell’intelligenza artificiale, bensì nell’uso che se ne fa.[28]
[1] Cfr. Sara Royle, Deepfake porn images still give me nightmares, 6 gennaio 2021, https://www.bbc.com/news/technology-55546372.
[2] La tecnica è appunto quella del “Deepfake”- neologismo inglese coniato nel 2017, che incrocia la locuzione deep learning (insieme di tecniche che permettono all’Intelligenza artificiale di imparare a riconoscere le forme) con la parola fake (falso, notizia falsa) – e permette di combinare e sovrapporre tra loro le immagini mediante reti neurali generative (in gergo tecnico, GAN).
[3] Per maggiori approfondimenti, il report, dal titolo “The state of deepfakes landscape, threats, and impact” è disponibile al link http://regmedia.co.uk/2019/10/08/deepfake_report.pdf.
[4] Il report, dal titolo “Automating Image Abuse, Deepfakes Bots on Telegram” è consultabile al link https://www.medianama.com/wp-content/uploads/Sensity-AutomatingImageAbuse.pdf.
[5] La legge – recante modifiche al codice penale, al codice di procedura penale e altre disposizioni in materia di tutela delle vittime di violenza domestica e di genere – è entrata in vigore in data 9.8.2020.
[6] L’articolo, pubblicato su Motherboard, la sezione del sito Vice.com dedicata alla tecnologia, è consultabile al link https://www.vice.com/en/article/gydydm/gal-gadot-fake-ai-porn.
[7]A detta dell’anonimo creatore dell’app, DeepNude funziona solo con le foto di donne in quanto è molto più facile trovare in rete foto di nudo femminile.
[8]Cfr. Giacobini G., Storia dell’app che genera(va) false foto di nudo femminile, 29 giugno 2019, https://www.wired.it/mobile/app/2019/06/28/app-deepnude-fake-donne/ .
[9]Cfr. Porro G., Un bot “spoglia” le foto su Telegram: quasi 700mila donne colpite, 21 ottobre 2020, https://www.wired.it/internet/web/2020/10/21/telegram-bot-foto-donne-nude/ .
[10] Il comunicato stampa è interamente consultabile online al link: https://www.garanteprivacy.it/home/docweb/-/docweb-display/docweb/9470722.
[11] Per maggiori approfondimenti si veda Judge Herbert B. Dixon Jr., Deepfakes: More Frightening Than Photoshop on Steroids, The The Judges’ Journal, American Bar Association, 12 agosto 2019, https://www.americanbar.org/groups/judicial/publications/judges_journal/2019/summer/deepfakes-more-frightening-photoshop-steroids/.
[12] Cfr. Amore N., La tutela penale della riservatezza sessuale nella società digitale. contesto e contenuto del nuovo cybercrime disciplinato dall’art. 612-ter c.p., La legislazione penale, 20 gennaio 2020, http://www.lalegislazionepenale.eu/wp-content/uploads/2020/01/N.-Amore-Approfondimenti-1.pdf, p. 7: “In effetti, il Revenge porn, il Vouyerismo digitale, i Deep Sex Fake e così via hanno come elemento indefettibile la strumentalizzazione dell’intimità della vittima, compiuta attraverso l’ostensione della sua sessualità. La riservatezza che presidia la dimensione privata della vita, infatti, viene in ogni caso squarciata, trasformando il corpo e l’appartenenza di genere della persona in oggetti funzionali al soddisfacimento arbitrario dell’aggressore.”
[13] Letteralmente “vendetta pornografica”. Il termine è stato mutuato dalla legislazione inglese, che per prima lo ha previsto come reato attraverso la ‘Section 33 of the Criminal Justice and Courts Act 2015’.
[14] “Salvo che il fatto costituisca più grave reato, chiunque, dopo averli realizzati o sottratti, invia, consegna, cede, pubblica o diffonde immagini o video di organi sessuali o a contenuto sessualmente esplicito, destinati a rimanere privati, senza il consenso delle persone rappresentate, è punito con la reclusione da uno a sei anni e la multa da 5.000 a 15.000 euro.
La stessa pena si applica a chi, avendo ricevuto o comunque acquisito le immagini o i video li invia, consegna, cede, pubblica o diffonde senza il consenso delle persone rappresentate al fine di recare loro nocumento.
La pena è aumentata se i fatti sono commessi dal coniuge, anche separato o divorziato, o da persona che è o è stata legata da relazione affettiva alla persona offesa ovvero se i fatti sono commessi attraverso strumenti informatici o telematici.
La pena è aumentata da un terzo alla metà se i fatti sono commessi in danno di persona in condizione di inferiorità fisica o psichica o in danno di una donna in stato di gravidanza.
Il delitto è punito a querela della persona offesa. Il termine per la proposizione della querela è di sei mesi. La remissione della querela può essere soltanto processuale. Si procederà tuttavia d’ufficio nei casi di cui al quarto comma, nonché quando il fatto è connesso con altro delitto per il quale si deve procedere d’ufficio.”
[15] Ciò sembrerebbe infatti suggerito dalla locuzione “destinati a rimanere privati” presente nella norma.
[16] Il principio di tassatività della fattispecie penale, corollario del principio di legalità di cui agli artt. 1 c.p., 199 c.p. e 25 Cost., implica che la norma penale deve individuare con precisione gli estremi del fatto reato in essa contenuti.
[17] L’art. 600 quater 1 c.p. recita: “Le disposizioni di cui agli articoli 600 ter e 600 quater si applicano anche quando il materiale pornografico rappresenta immagini virtuali realizzate utilizzando immagini di minori degli anni diciotto o parti di esse, ma la pena è diminuita di un terzo. Per immagini virtuali si intendono immagini realizzate con tecniche di elaborazione grafica non associate in tutto o in parte a situazioni reali, la cui qualità di rappresentazione fa apparire come vere situazioni non reali”.
[18] Cfr. Cass. Pen., sez. III, 9 aprile 2018, n.15757. Con tale pronuncia la Suprema Corte ha stabilito che la pedopornografia virtuale con l’uso di fotomontaggi è reato.
[19] Per maggiori approfondimenti sul quadro normativo presente al marzo 2019, in attesa del disegno di legge sul Revenge Porn, si veda A.S. 1076 – Misure per il contrasto della diffusione non autorizzata di materiale sessualmente esplicito, nota breve n. 57 del servizio studi del Senato della Repubblica disponibile al link http://www.senato.it/service/PDF/PDFServer/BGT/01105826.pdf.
[20] I presupposti di tale reato sono infatti l’offesa all’altrui reputazione, l’assenza o comunque l’inconsapevolezza dell’offeso e la comunicazione a più persone. Si riporta il testo dell’art. 595 c.p.: “Chiunque, fuori dei casi indicati nell’articolo precedente, comunicando con più persone, offende l’altrui reputazione, è punito con la reclusione fino a un anno o con la multa fino a 1.032 euro.
Se l’offesa consiste nell’attribuzione di un fatto determinato, la pena è della reclusione fino a due anni, ovvero della multa fino a 2.065 euro. Se l’offesa è recata col mezzo della stampa o con qualsiasi altro mezzo di pubblicità, ovvero in atto pubblico, la pena è della reclusione da sei mesi a tre anni o della multa non inferiore a 516 euro”. Se l’offesa è recata a un Corpo politico, amministrativo o giudiziario, o ad una sua rappresentanza, o ad una Autorità costituita in collegio, le pene sono aumentate.”
[21] L’art. 629 c.p. dispone infatti: “Chiunque, mediante violenza o minaccia, costringendo taluno a fare o ad omettere qualche cosa, procura a sé o ad altri un ingiusto profitto con altrui danno, è punito con la reclusione da cinque a dieci anni e con la multa da euro 1.000 a euro 4.000. La pena è della reclusione da sette a venti anni e della multa da da euro 5.000 a euro 15.000, se concorre taluna delle circostanze indicate nell’ultimo capoverso dell’articolo precedente.”
[22] Art. 612 bis c.p.: “Salvo che il fatto costituisca più grave reato, è punito con la reclusione da un anno a sei anni e sei mesi chiunque, con condotte reiterate, minaccia o molesta taluno in modo da cagionare un perdurante e grave stato di ansia o di paura ovvero da ingenerare un fondato timore per l’incolumità propria o di un prossimo congiunto o di persona al medesimo legata da relazione affettiva ovvero da costringere lo stesso ad alterare le proprie abitudini di vita.
La pena è aumentata se il fatto è commesso dal coniuge, anche separato o divorziato, o da persona che è o è stata legata da relazione affettiva alla persona offesa ovvero se il fatto è commesso attraverso strumenti informatici o telematici.
La pena è aumentata fino alla metà se il fatto è commesso a danno di un minore, di una donna in stato di gravidanza o di una persona con disabilità di cui all’articolo 3 della legge 5 febbraio 1992, n. 104, ovvero con armi o da persona travisata. Il delitto è punito a querela della persona offesa. Il termine per la proposizione della querela è di sei mesi. La remissione della querela può essere soltanto processuale. La querela è comunque irrevocabile se il fatto è stato commesso mediante minacce reiterate nei modi di cui all’articolo 612, secondo comma. Si procede tuttavia d’ufficio se il fatto è commesso nei confronti di un minore o di una persona con disabilità di cui all’articolo 3 della legge 5 febbraio 1992, n. 104, nonché quando il fatto è connesso con altro delitto per il quale si deve procedere d’ufficio”.
[23] Per maggiori approfondimenti sullo stalking commesso attraverso strumenti informatici o telematici si veda Bergonzi Perrone M., Gli aspetti informatico-giuridici del cyberstalking in ZICCARDI G. e PERRI P. (a cura di), Tecnologia e diritto, vol. III, Giuffrè, 2019, p. 97 e ss.
[24] Articolo aggiornato al D.lgs 101/2018: “Salvo che il fatto costituisca più grave reato, chiunque, al fine di trarre per sé o per altri profitto ovvero di arrecare danno all’interessato, operando in violazione di quanto disposto dagli articoli 123, 126 e 130 o dal provvedimento di cui all’articolo 129 arreca nocumento all’interessato, è punito con la reclusione da sei mesi a un anno e sei mesi. Salvo che il fatto costituisca piu’ grave reato, chiunque, al fine di trarre per sé o per altri profitto ovvero di arrecare danno all’interessato, procedendo al trattamento dei dati personali di cui agli articoli 9 e 10 del Regolamento in violazione delle disposizioni di cui agli articoli 2-sexies e 2-octies, o delle misure di garanzia di cui all’articolo 2-septies ovvero operando in violazione delle misure adottate ai sensi dell’articolo 2-quinquiesdecies arreca nocumento all’interessato, è punito con la reclusione da uno a tre anni. Salvo che il fatto costituisca più grave reato, la pena di cui al comma 2 si applica altresì a chiunque, al fine di trarre per sè o per altri profitto ovvero di arrecare danno all’interessato, procedendo al trasferimento dei dati personali verso un paese terzo o un’organizzazione internazionale al di fuori dei casi consentiti ai sensi degli articoli 45, 46 o 49 del Regolamento, arreca nocumento all’interessato.
Il Pubblico ministero, quando ha notizia dei reati di cui ai commi 1, 2 e 3, ne informa senza ritardo il Garante […]”.
[25] Cfr. Perri P., I reati informatici, in Ziccardi G. e Perri P. (a cura di), Tecnologia e diritto, vol. III, Giuffrè, 2019, p.160 e ss.
[26] Per maggiori approfondimenti cfr. Lorenzetto R., Dal revenge porn al suicidio, le forme e la vittimologia nei cybercrimes, Unione Polizia Locale Italiana, 8 luglio 2020, https://www.unionepolizialocaleitaliana.it/sito/wp-content/uploads/2020/07/202062-R.Lorenzetto-I-rischi-del-revenge-porn-per-gli-adolescenti.pdf. Si veda altresì Mattia M., ”Revenge porn” e suicidio della vittima: il problema della divergenza tra ‘voluto’ e ‘realizzato’ rispetto all’imputazione oggettiva degli eventi psichici, La legislazione penale, 18 luglio 2019, http://www.lalegislazionepenale.eu/wp-content/uploads/2019/07/Mattia-Studi.pdf .
[27] Cfr. Ziccardi G., Odio online, revenge porn e natura delle nuove tecnologie tra amplificazione, persistenza e viralità del messaggio dannoso, in Sorgato A. (a cura di), Revenge porn. Aspetti giuridici, informatici e psicologici, Milano, Giuffré, 2020, pp. V-VII. Si veda anche Campagnoli M.N., Social media e information disorder: questioni di ecologia comunicativa in Rete, dirittifondamentali.it, 9 novembre 2020, http://dirittifondamentali.it/wp-content/uploads/2020/11/Campagnoli-Parte-Terza-–-Il-revenge-porn.pdf.
[28] Cfr. Grandi M., Far Web. Odio, bufale, bullismo. Il lato oscuro dei social, Rizzoli, 2017, p. 30
