Il recente caso dell’app BikiniOff in Italia ha scatenato diverse reazioni in merito ai rischi legali dell’IA generativa, anche alla luce del recente provvedimento del Garante contro il ben più famoso sistema ChatGPT. L’applicazione, di fatto un c.d. “bot” presente sulla piattaforma Telegram e non una vera e propria app da installare sul proprio dispositivo, prevede l’utilizzo di intelligenza artificiale per creare immagini false di persone che sembrava nude. L’utente può infatti scegliere la foto di una persona vestita di un costume da bagno e, attraverso la tecnologia fornita dall’app, rimuovere i vestiti dalla foto, lasciando l’impressione che la persona ritratta sia nuda.
All’origine della questione le ripetute segnalazione al Garante per l’Infanzia del Lazio, dove pare che l’applicazione fosse molto diffusa anche nelle classi scolastiche di studenti giovanissimi. L’indagine ha addirittura condotto, in un primo momento, alla formalizzazione dell’accusa di produzione di materiale pedopornografico nei confronti di due ragazzi di 18 e 20 anni, utilizzatori dell’app. A loro carico infatti la colpa di aver utilizzato l’app BikiniOff per creare immagini di false nudi delle compagne di scuola, minorenni, immagini che poi avrebbero condiviso online. Il gip ha tuttavia dichiarato il non luogo a procedere per irrilevanza del fatto. A convincerlo la considerazione che si sia trattato di “impudenza ascrivibile a leggerezza tipicamente giovanile” e che i due ragazzini fossero incensurati (un terzo risultava non imputabile avendo meno di 14 anni). L’app e i canali che la ospitano potrebbero avere le ore contate.
Un dibattito necessario sui rischi legali dell’IA generativa
La questione non può che riaccendere il dibattito sulla liceità dell’utilizzo di dati personali, e in particolar modo delle immagini personali, quali elemento di input per l’IA generativa. Se infatti i contenuti generati sono indubbiamente nuovi ed originali, il soggetto ritratto originalmente diventa o parte integrante del nuovo contenuto o in ogni caso concorre, attraverso la rielaborazione effettuata dagli algoritmi, alla creazione del nuovo contenuto.
La questione non si riduce oltretutto ad una mera discussione sul copyright o sui diritti di sfruttamento dell’immagine stessa visto che ancora più inquietanti risultano, come nel caso di specie, i risvolti legati alla creazione di contenuti potenzialmente lesivi della reputazione del soggetto ritratto originariamente.
Questioni che il mondo legale dovrà affrontare e necessariamente risolvere, con celerità ma anche con misura e attenzione nei confronti delle necessità dello sviluppo tecnologico. Lo strumento dell’IA generativa non potrà essere infatti oggetto di provvedimenti censori a largo spettro: sarebbero in ogni caso inapplicabili all’ambito tecnologico che per natura è ben poco vincolato a limiti normativi, ancor di più se vincolati a confini geografici.
Nella moderna società dell’informazione, interconnessa e globalizzata, un approccio di questo tipo contribuirebbe infatti solo a creare ritardo tecnologico nei paesi con una legislazione più severa e una sorta di “far west” laddove invece le leggi fossero più permissive o non esistessero del tutto. Un esempio di tale potenziale squilibrio è già stato fornito dalla prima implementazione del GDPR, poi limato in molti aspetti e implementato anche al di fuori dall’UE in forme diverse, ma la cui onda d’urto ha rischiato in diverse occasioni di penalizzare le aziende vincolate a rispettarlo.
L’impegno delle aziende
Tali riflessioni non devono tuttavia essere un alibi per le aziende coinvolte nelle tecnologie di intelligenza artificiale; delegare supinamente al legislatore tutte le decisioni in merito alla regolamentazione del settore rischia di essere la prima concausa di provvedimenti estremi. É invece auspicabile un approccio etico e consapevole nell’utilizzo delle nuove tecnologie, soprattutto nella creazione di applicazioni di libero accesso ad utenti potenzialmente minorenni.
NetworkLex può aiutare le aziende che operano nel settore dell’Intelligenza Artificiale ad adottare questo approccio responsabile, contribuendo a tutelare il nascente business dalle origini, considerando fin dall’inizio i rischi legali dell’IA generativa. Anche nell’incertezza normativa, possiamo suggerire percorsi di sviluppo che siano in linea con le più recenti raccomandazioni e orientamenti giurisprudenziali, guidando lo sviluppo e la crescita del prodotto attraverso la maturazione dell’impianto legislativo che lo riguarda.
