Il problema con il preallarme
Secondo uno studio del servizio segreto dei tiratori di scuola, che esaminarono 37 attacchi di 41 aggressori dal 1974, il 75% dei tiratori della scuola informava in anticipo qualcuno – di solito un pari – dei propri piani e spesso lo staff scolastico conosceva anche i segnali di pericolo esibiti da studenti che alla fine divennero tiratori di scuola. La sociologa di Princeton, Katherine Newman, che ha studiato approfonditamente le sparatorie a scuola, ha dichiarato: “Loro [gli sparatutto scolastici] non esplodono spontaneamente; di solito rilasciano suggerimenti molti mesi prima “.
Eppure, nella maggior parte dei casi, secondo il servizio segreto, nessuno ha segnalato tali “bandiere rosse” in anticipo alle autorità.
Perché AI potrebbe aiutare
Sebbene i motivi per cui le persone non avvertono le autorità variano; dalla pressione dei coetanei (i boccini non sono freddi), all’abbondanza di “falsi allarmi” (molti sfoghi di bambini), a pregiudizi cognitivi come l’effetto di normalità (non pianifichiamo o reagiamo a problemi che non ci sono mai accaduti) , a impotenza appresa (i burocrati non faranno nulla comunque), tutte le persone che mantengono i segnali di pericolo hanno un attributo in comune: sono umani.
E gli umani sono – e saranno sempre – soggetti a pressioni sociali, pregiudizi cognitivi, credenze e altre forze che li renderanno riluttanti a farsi avanti con precise preoccupazioni sui possibili tiratori di scuola per il prossimo futuro. Inoltre, anche se più persone si fossero fatte avanti, le autorità sarebbero probabilmente sopraffatte da falsi allarmi e quindi sarebbero lente a reagire a minacce reali. Infine, anche i colleghi o gli insegnanti di tiratori di scuola che ascoltano avvertimenti avanzati di un attacco spesso non conoscono tutti i fattori che predicono la letalità, come il pronto accesso alle armi da fuoco, che li aiuterebbe a distinguere le vere minacce dai falsi allarmi.
Quindi ecco un’idea radicale: applichiamo l’Intelligenza Artificiale (AI) insieme ai recenti progressi nella protezione della privacy digitale, per far sì che i computer, non gli esseri umani, generino segni premonitori delle sparatorie nelle scuole.
I computer che eseguono algoritmi AI non sono soggetti a pressioni sociali e possono accedere a molte più informazioni sui potenziali tiratori, come l’accesso agli avambracci, rispetto a colleghi o insegnanti. Pertanto, i sistemi di IA, dati sufficienti e “addestramento” possono raggiungere “tassi di successo” ragionevolmente alti con “falsi allarmi” bassi. Inoltre, le nuove tecnologie per la privacy possono proteggere le libertà civili mentre i computer stanno scricchiolando i loro numeri.
Prima di addentrarmi nei dettagli sul perché l’IA, insieme alle tecnologie per la privacy, possono teoricamente almeno ridurre i decessi dei tiratori della scuola, devo riconoscere che nessuna tecnologia, per quanto avanzata e accurata, può risolvere il problema da sola, perché nessuna tecnologia affronterà le profonde radici culturali, antropologiche, giuridiche e politiche del problema.
La tecnologia, nel migliore dei casi, offre solo la speranza di migliorare alcuni dei sintomi di problemi profondamente radicati come le sparatorie a scuola.
Detto questo, se tali trattamenti “sintomatici” possono salvare anche una sola vita, vale la pena considerarli.
In che modo l’IA, con i paralleli progressi nella privacy digitale, potrebbe intaccare il problema
L’intelligenza artificiale sta diventando piuttosto brava in un compito che gli scienziati chiamano classificazione: una foto ha un gatto da qualche parte o no? Il chiamante di un centro di assistenza clienti è arrabbiato o no? Una voce su un telefono è un maschio o una femmina, un madrelingua o un madrelingua? Un candidato per l’assicurazione auto probabilmente “abbandona” (fatturato ad un altro vettore) o no? L’intelligenza artificiale è diventata abile in tutti questi compiti.
È del tutto possibile – anzi probabile – che gli algoritmi di IA possano presto diventare anche abbastanza bravi a “classificare” quali studenti sono vere minacce per condurre razzie letali contro cui gli studenti non sono propensi a farlo. L’IA sarebbe “nutrita” da dati tanto diversi su sparatutto e non-sparatori quanto possibile e verrebbe “insegnata” a discriminare tra minacce reali e falsi allarmi. Esempi di dati dovrebbero includere:
Un enorme problema nell’utilizzare una qualsiasi delle fonti di dati appena elencate garantisce la protezione della privacy personale e delle libertà civili. Qualsiasi organizzazione, che si tratti di una scuola o di una forza di polizia, che raccoglieva e correlava tali dati, sul suo volto agiva come il Grande Fratello di Orwell.
Ma grazie alle tecnologie emergenti con nomi esotici come la crittografia omomorfica e la crittografia multipartitica sicura, è ora possibile crittografare tutte le fonti di dati sopra menzionate, al punto di raccolta, e eseguire calcoli AI su di esse mentre sono crittografate. Pertanto, in nessun momento durante la raccolta, la trasmissione, la memorizzazione e il ciclo di analisi dei dati, qualsiasi persona, o computer, a tale riguardo, sa a chi sono state rivolte le informazioni raccolte.
Solo nei rari casi in cui un algoritmo di classificazione ha innescato una bandiera rossa, una scuola (o eventualmente un tribunale giudiziario) dovrebbe essere avvertita che l’attenzione dovrebbe essere prestata a uno studente in particolare (senza esporre nessuno dei dati personali che hanno dato origine all’allarme dell’AI) in modo che un’indagine discreta, e in definitiva un intervento possa essere pianificato (come offrire consulenza o controllare studenti ad alto rischio per le armi appena entrati a scuola).
Questo sblocco dell’identità potrebbe basarsi su prove presentate dall’AI a un giudice, per esempio, riassumendo i motivi di preoccupazione (messaggi violenti sui social media, accesso alle armi, commenti dei pari) senza nemmeno fornire dettagli specifici al giudice. Solo se il giudice ritenesse che fosse giustificato, il giudice userà speciali “chiavi digitali” (disponibili solo per il sistema giudiziario) per sbloccare l’identità dello studente per la notifica alla scuola e ai genitori.
La decisione dell’IA di notificare un giudice, come suggerito sopra, non sarebbe influenzata dalla pressione sociale, dai pregiudizi cognitivi, dall’impotenza appresa o da altri fattori che inducono gli esseri umani a notificare o non notificare alle autorità una minaccia.
È vero che usare l’intelligenza artificiale per individuare gli studenti pericolosi pone molte sfide. Ad esempio, un’istituzione pubblica, come la scuola o il sistema di giustizia penale, può agire basandosi solo su ciò che uno studente potrebbe fare in futuro rispetto a ciò che ha effettivamente fatto?
Tutte le domande relative all’IA e ai tiratori della scuola sono spinose, difficili e piene di sfide etiche, e alcuni diranno che usare l’intelligenza artificiale potrebbe essere un approccio disumanizzante per ridurre le morti e gli infortuni causati dalle sparatorie a scuola.
Ma nulla deruba uno studente della loro umanità – o dei diritti – più che essere ucciso da un compagno di studi.
Riferimenti
Farr, K. (2017). Shootings della scuola Adolescent Rampage: risposte alla mascolinità fallita da ragazzi già disturbati, problemi di genere DOI 10.1007 / s12147-017-9203-z
“Relazione intermedia sulla prevenzione della violenza mirata nelle scuole”, ottobre 2000, Centro nazionale di valutazione delle minacce del servizio segreto statunitense.
https://www2.ed.gov/admins/lead/safety/preventingattacksreport.pdf
http://www.popcenter.org/problems/bullying/PDFs/ntac_ssi_report.pdf
Caratteristiche comuni di tutti i tiratori di scuola negli Stati Uniti dal 1970
https://en.wikipedia.org/wiki/Homomorphic_encryption
