Il lato oscuro dell'intelligenza artificiale
USARE UN ALGORITMO PER PREVENIRE I CASI DI SUICIDIO E TRASFORMARE COSI' LA RETE IN UN MEDIUM BUONO. E' LA PROPOSTA DI FACEBOOK. MA SE FOSSE SOLO UNA MOSSA PER AGGIRARE LA LEGGE SULLA PRIVACY IN EUROPA?di Elisa Bertolini, assistant professor presso il Dipartimento di studi giuridici
L’ambivalenza di Internet quale medium buono ma anche cattivo sta ponendo una sfida ulteriore agli operatori di settore e si inquadra nel più globale problema della veicolazione di contenuti pericolosi. Il tema che ha unito entrambi i profili è rappresentato dal doppio filo che lega Internet al suicidio. Doppio filo in quanto Internet veicola contenuti che possono indurre al suicidio (cyberbullismo, revenge porn, disturbi alimentari), ma consentirebbe, tramite uno specifico uso dell’intelligenza artificiale (AI), di individuare e quindi contrastare intenzioni suicide.
Primo punto: se e come rimuovere i contenuti pericolosi. La cronaca recente ha fornito una prima risposta: l’oscuramento di un blog pro-ana gestito da una diciannovenne di Porto Recanati. È davvero una risposta efficace? La rete conta circa 300 mila siti che istigano a bulimia e anoressia (pro-mia e pro-ana) e riesce difficile pensare a un oscuramento totale, anche in considerazione della difficoltà di individuare siffatti contenuti qualora vengano veicolati tramite social network (che non sono editori e dunque non controllano i contenuti) o messaggistica istantanea.
Inoltre, quale base giuridica? Nonostante tre ddl (2008, 2010 e 2014), l’istigazione all’anoressia e/o bulimia non costituisce reato e dunque l’unico strumento nelle mani delle autorità è rappresentato dall’oscuramento per istigazione al suicidio. Peraltro, non è così automatico che sia l’assenza di un reato di istigazione all’anoressia (o alla bulimia) che renda la rete più pericolosa. Psicologi e nutrizionisti non individuano nella punizione di chi gestisce questi siti un metodo efficace in quanto i gestori stessi sono affetti dalla medesima malattia cui istigano. La censura sarebbe dunque controproducente rispetto all’obiettivo.
Punto secondo: il ruolo salvifico della rete, altro profilo non certo privo di criticità. Facebook ha deciso di contrastare il suicidio non controllando la natura dei contenuti veicolati, ma cercando di individuare volontà suicide tramite l’AI e particolari algoritmi. Questi sono infatti in grado di riconoscere situazioni allarmanti sulla base di specifiche parole chiave pubblicate dall’utente e dai suoi contatti (in quest’ultimo caso ci si riferisce a offerte d’aiuto o manifestazioni di preoccupazione).
Lo step successivo prevede la partenza in automatico di segnalazioni a una squadra di specialisti i quali, qualora lo ritengano necessario, provvedono a contattare i paramedici. Il sistema è già stato positivamente testato negli Usa; permangono dubbi sulla sua possibile implementazione nell’Unione europea, per questioni attinenti al regolamento privacy. Il sistema non prevede infatti l’opt-out (la possibilità di rinuncia) e profila gli utenti sulla base di dati sensibili. Un possibile compromesso potrebbe essere quello di chiedere il consenso agli utenti e consentire di esercitare l’opt-out che, nel resto del mondo, continuerebbe, però, a non essere disponibile. Il fondato timore è che Facebook possa voler far leva sull’utilità sociale del servizio a mo’ di cavallo di troia per aggirare la restrittiva regolamentazione privacy europea.
Non si può certo sminuire l’importanza di questo uso virtuoso dell’AI, ma contestualmente non ci si può esimere dal chiedersi per quale motivo l’AI non venga utilizzata in maniera più massiva per rinforzare i controlli sull’accesso alla piattaforma, per contrastare l’hate speech o, più in generale, qualsiasi atto di cyberbullismo. La domanda, al momento, rimane senza risposta.
