Instagram usa il riconoscimento facciale per verificare l’età degli utenti
Che cos’è NGL, l’app per i messaggi anonimi che sta conquistando Instagram
In queste settimane, basta fare un giro su Instagram per vedere qualche Storia con un link e una richiesta abbastanza chiara, nonostante l’inglese: “Fammi una domanda anonima”. La responsabilità di questi contenuti è tutta di Ngl, un’applicazione che, in realtà, si basa su un’idea non proprio recente: riusciamo a essere davvero sinceri solo quando la persona a cui ci rivolgiamo non sa davvero chi siamo.
Il funzionamento di Ngl – acronimo di Not gonna lie, non dirò una bugia in inglese -, in effetti, è abbastanza semplice e non così diverso da predecessori come Ask.fm. Con una differenza: è pensata per funzionare molto bene all’interno di Instagram. Quando si scarica l’applicazione, disponibile per Android e iOS, ci si iscrive inserendo il proprio username del social network di Meta. A questo punto, il sistema genera un link, che può essere condiviso come link all’interno delle Storie o inserito nella bio del profilo.
Dall’applicazione, il destinatario può accedere a una casella dove visualizzare quanto ricevuto, senza ottenere indicazioni sul mittente. Esiste anche una versione a pagamento che, a quanto dicono da Ngl, fornisce qualche indizio in più per scovare gli utenti che inviano i messaggi, il cui nome non viene comunque rivelato.
Nell’ultimo mese, l’applicazione è letteralmente decollata. Nel momento in cui scriviamo, si trova al numero 1 dei download in Italia sull’App Store di iOS nella categoria Stili e tendenze. In tutto il mondo, è stata scaricata più di 7 milioni di volte solo a giugno, secondo Apptopia.
Il rischio cyberbullismo
Insieme al successo, per Ngl potrebbero cominciare i problemi. Quasi tutte le applicazioni dedicate a domande e messaggi anonimi hanno infatti affrontato lo stesso tipo di difficoltà, una volta raggiunto un pubblico ampio. In sintesi: se è vero che siamo sinceri quando nessuno sa chi siamo, non è altrettanto vero che questo anonimato potrebbe rendere più facili molestie e bullismo?
È in effetti proprio questa accusa, alcuni anni fa, portò al centro delle cronache Ask.fm, la piattaforma che sotto molti aspetti più si avvicina a NGL. L’applicazione, che incontrò un buon successo nei primi anni ’10, fu addirittura accusata di aver contribuito a spingere alcuni adolescenti al suicidio, in particolare negli Stati Uniti e in Inghilterra. La questione riguardava – e riguarda, tutt’ora – la moderazione dei contenuti: i messaggi arrivavano senza alcun filtro, lasciando alcuni utenti sopraffatti da ondate di odio e insulti.
La moderazione dei contenuti di Ngl funziona?
È proprio su questo terreno di gioco che Ngl prova a differenziarsi dai suoi predecessori. “Per garantire la sicurezza dei nostri utenti – si legge sul sito ufficiale -, utilizziamo una delle migliori intelligenze artificiali per la moderazione dei contenuti. Il nostro algoritmo può rilevare il significato semantico degli emoji e il nostro web scraper estrae esempi specifici di uso contestuale di emoji. Ciò significa che rimaniamo aggiornati sui trend, comprendiamo il gergo e sappiamo come filtrare i messaggi dannosi”. Detta in altri termini, Ngl utilizza un sistema di IA particolarmente sofisticato, in grado di bloccare, sulla base di un’interpretazione non solo delle parole ma anche del contesto, i messaggi potenzialmente pericolosi, che in questo modo non vengono nemmeno letti dal destinatario.
Il punto è: questa strategia funziona? Secondo un articolo di Nbc, non sempre. Stando al test condotto dalla testata statunitense, il sistema riesce a individuare senza difficoltà espressioni particolarmente volgari, ma non è ugualmente efficace per formule che hanno a che fare con il bodyshaming o il bullismo propriamente inteso, come “sei un perdente”, tra quelle che si possono citare. E questo utilizzando la lingua inglese, quella sulla quale presumibilmente il sistema ha un maggiore livello di addestramento.
In italiano, secondo un breve test che abbiamo condotto, la situazione è ancora più problematica. Nella nostra lingua, il sistema non è stato in grado di riconoscere e bloccare né oscenità né bodyshaming né formule che hanno a che fare con il bullismo. A disposizione dell’utente, in casi come questi, c’è solo un tasto, in alto a destra nella schermata di visualizzazione del messaggio, che permette di segnalare il contenuto e di bloccare il mittente.
