BikiniOff, l’App che spoglia le persone a loro insaputa: un problema di consapevolezza
Bene. Non so se lo sai, ma in giro c’è un BOT (una specie di robot) su Telegram che, grazie all’intelligenza artificiale, ti mostra le persone come se fossero nude. Si chiama BikiniOff (senza bikini, o “via il bikini!”, all’italiana). Funziona così: Peppino, che magari fa le scuole medie – e si sa che alle medie gli ormoni iniziano a girare… – scatta una foto a una compagna di classe, per esempio, durante l’ora di ginnastica o alla ricreazione. L’applicazione, attraverso l’AI, modifica l’immagine e spoglia la ragazza. La ritrae così, senza veli! Un’immagine assolutamente verosimile (che chiaramente suscita subito l’interesse di Peppino e degli altri coetanei). Tecnicamente si tratta di Deep Fake.
Cos’è il Deep Fake?
BikiniOff è un programma di DeepFake, cioè una tecnica che combina e sovrappone immagini e video, ma anche audio – pensiamo all’App FakeYou, che falsifica le voci e su cui il Garante italiano ha aperto un’istruttoria – per creare dei falsi assolutamente verosimili. Falsi che possono essere utilizzati anche nel cyberbullismo e nel revenge porn, e che, chiariamolo molto bene, sono reati.
Bene. Anzi, male. Torniamo a BikiniOff e a Peppino che ha avuto la brillante idea di fotografare la sua compagna senza veli e a sua insaputa, grazie all’applicazione. Peppino è un minore: quanto sarà conscio di quello che sta facendo?
Un problema di consapevolezza
Peppino scatta la foto e poi? Poi, pensa bene di farla girare, senza in consenso della compagna – ma anche se l’avesse, stiamo parlando di minori… – e così, l’immagine falsificata finisce negli smartphone di altri ragazzini e purtroppo, come possiamo immaginare, probabilmente anche nel telefono di qualche malintenzionato… È diffusione di materiale pedopornografico.
Adesso, io su questo blog parlo spesso di sporcaccionate riferendomi alle aziende che trattano i dati come se fossero nel Paese di Bengodi. Chiaramente è un’esagerazione. Un paradosso. Un’espressione volutamente forte per far capire ai titolari e ai responsabili del trattamento che hanno una responsabilità nei confronti delle persone che lasciano loro i propri dati. E chi mi conosce sa che non mi tiro certo indietro quando si tratta di fare parallelismi fra GDPR e argomenti caldi. Ma questa è una sporcaccionata vera e propria e tocca un tema che ormai non si può più ignorare: l’uso consapevole di social, applicazioni e strumenti vari da parte dei minori.
BikiniOff, di per sé, non è un servizio illecito
BikiniOff non è un servizio illecito, purché le immagini non vengano divulgate o mostrate a terzi. Il problema piuttosto sta nel fatto che un’applicazione di questo tipo sia facilmente accessibile a chiunque e quindi anche ai minori. È un po’ come lasciare le chiavi della macchina in bella vista. Peppino, che non ha neanche il patentino del motorino, ma che non vede l’ora di guidare, le trova, le prende e ci prova: mette in moto la macchina del padre e magari provoca anche un incidente.
Peppino sta guidando “senza patente”…
Peppino è un minore. Quanto sarà consapevole di quello che sta facendo? Perché per usare un’App di questo tipo – e anche per guidare senza patente, è ovvio -, bisogna essere responsabili e consapevoli dei rischi.
E qui si tocca un nervo scoperto: i genitori di Peppino, la scuola, la società quanto sono consapevoli di questi rischi? Tutti sanno che non si può guidare senza patente. Ma in quanti sanno che esistono App come BikiniOff e che i ragazzini possono usarle facilmente, commettendo reati? In quanti, a loro volta, usano applicazioni e social consapevolmente? E quindi sanno valutare il rischio e spiegarlo alle nuove generazioni?
E quindi su chi bisogna intervenire? Sui minori? Sulla famiglia? Su tutti e due?
Basta solo lavorare sulla consapevolezza o servono delle regole?
… ma forse Peppino non è l’unico a non avere la patente
Faccio un esempio un po’ malsano. Se io porto mia figlia di 12 anni a fare la sfilata e la lap dance sul palco di uno strip bar, qualche dubbio sulla mia capacità genitoriale viene… L’incapacità del nucleo familiare di verificare, strutturare e aiutare il minore è una cosa sui cui forse è il caso di battere. Poi però è anche vero che i ragazzi di oggi, hanno un terzo braccio – il telefonino – e lo usano con un approccio al digitale decontestualizzato dalle leggi e dalle regole. Per loro il mondo digitale sembra un’altra cosa rispetto al mondo reale, e le regole del mondo digitale vincono su quelle del mondo reale. Filmano, condividono, mettono le cose più turpi online, senza averne la percezione.
È importante lavorare sulla parte genitoriale, la famiglia e il contesto attorno a cui il ragazzo cresce, ma non è sufficiente. Bisogna lavorare anche sulla scuola, che potrebbe essere sicuramente un acceleratore, ma dove le competenze su questa cosa mancano. E lo dico anche alla luce del lavoro che portiamo avanti in MigliorAttivaMente, l’associazione di cui faccio parte, dove si va nelle scuole a parlare di cyberbullismo e si vede veramente, negli occhi delle persone, lo sguardo della mucca che vede passare il treno. È drammatico certe volte. E poi bisogna lavorare sui ragazzi direttamente. Ma sarà sufficiente?
Intanto, nelle ultime settimane l’Autorità Garante per la protezione dei dati ha iniziato a battere sempre di più sull’age verification, cioè sulle procedure che gli sviluppatori di App devono adottare per verificare la reale età di chi accede al servizio. Lo ha fatto anche con OpenAi, la società che gestisce ChatGPT perché imponga un filtro per chi ha meno di 13 anni.
Fonte: PrivacyLab