Il mondo è un vortice in continua evoluzione, nel bene e nel male, e lo sviluppo tecnologico è spesso lo specchio di questo fenomeno. Basti pensare a tutte le più recenti forme di comunicazione online: dai social network alle chat istantanee, dalle video call alla realtà virtuale, fino al metaverso.

Un mondo di opportunità in grado di annullare ogni distanza grazie alla condivisione di un medesimo ambiente virtuale, che si parli di un videogioco online, di una video conferenza su Zoom o della bacheca di Instagram o Facebook.

Insieme a tanti risvolti positivi, tuttavia, ogni tecnologia porta con sé anche un lato oscuro, che nella stra-grande maggioranza dei casi è più legato a un utilizzo sbagliato degli utenti che non a un “vizio” della tecnologia stessa.
Così, per esempio, il fatto di poter comunicare a distanza, in modo immediato e “al riparo” di un nickname ha dato origine anche a fenomeni negativi come molestie, frodi e simili, arrivando perfino a creare “nuovi” problemi (o meglio, nuove sfumature di vecchi problemi) come il cyberbullismo, termine introdotto nell’ordinamento italiano soltanto un pugno di anni fa, con la Legge 29 maggio 2017, n.71.

L’invenzione anti-bulli

Proprio da questa (lunga) premessa ha origine il nuovo brevetto firmato Sony Interactive Entertainment Inc., che ha studiato un rivoluzionario sistema per la console PlayStation 5® (PS5) in grado di rilevare eventuali molestie o episodi di cyberbullismo attraverso l’analisi biometrica dei giocatori e l’impiego dell’Intelligenza Artificiale.

Ma come funziona esattamente?

Gli inventori Sony hanno immaginato una PS5 dotata di un’unità di input configurata per ricevere dati biometrici associati a tutti gli utenti che condividono la medesima sessione di gioco. Al suo fianco, un’Intelligenza Artificiale in grado di tradurre i dati raccolti in vere e proprie “emozioni”, arrivando quindi a interpretare lo stato d’animo dei giocatori.
Appena il sistema riconosce un possibile episodio di violenza informatica, l’idea di Sony è quella di identificare prima la vittima (sulla base delle sue reazioni) e in seguito il molestatore, “spostandoli” immediatamente in due ambienti di gioco separati, per poi analizzare il caso e prendere eventuali provvedimenti nei confronti del bullo di turno.

Il contesto attuale

Nel gaming, gli attuali metodi di rilevamento delle molestie richiedono in genere che la vittima trasmetta una “denuncia” a un moderatore (umano o virtuale) segnalando il suo molestatore, le modalità da esso impiegate e le eventuali prove a carico (screenshot di una chat offensiva, ID di sessione del videogioco a cui stavano giocando, etc). Dopo la revisione da parte del moderatore, il molestatore può essere bandito (temporaneamente o permanentemente) dall’ambiente condiviso, oppure può essere inibita (anche qui temporaneamente oppure permanentemente) qualsiasi ulteriore interazione con la vittima all’interno del gioco.

Spesso però lo scoglio principale sta proprio nella denuncia iniziale, che per diversi motivi (paura, vergogna o perfino superficialità, in alcuni casi) potrebbe non partire mai, lasciando campo libero a questi soggetti per molestare altri utenti, rovinando così le esperienze di gioco e, soprattutto, il benessere psico-fisico dei giocatori.

Da qui l’idea della Sony di “anticipare” la denuncia, andando a intercettare in diretta il malessere degli utenti online, con l’obiettivo di ridurre la percentuale di episodi di molestia non denunciati e aumentando al contempo la sicurezza di questi ambienti condivisi.

Limiti e opportunità

Un sistema che appare indubbiamente molto complesso e che presenta ancora diverse zone d’ombra, soprattutto per quanto riguarda le capacità interpretative dell’IA, ma che promette anche un orizzonte più sereno per tutti quegli appassionati di gaming online che cercano nei videogiochi un momento di svago e di benessere e che troppo spesso si trovano invece di fronte a nuove e spiazzanti forme di violenza e di bullismo.

Riuscirà Sony a trasformare la sua PlayStation in un’oasi di benessere per i suoi utenti?
Ai posteri l’ardua sentenza.