Un errore di un sistema di intelligenza artificiale ha scatenato il panico in una scuola di Baltimora, negli Stati Uniti. Un adolescente è stato ammanettato dalla polizia dopo che un software di rilevamento armi ha segnalato la presenza di una pistola. Peccato però che si trattasse di un semplice pacchetto di patatine.
“È arrivata la polizia, con otto auto, e tutti gli agenti sono scesi puntandomi contro le pistole e intimandomi di sdraiarmi a terra”, ha raccontato il sedicenne alla rete televisiva locale 'WMAR-2 News'. “Mi hanno detto di inginocchiarmi, mi hanno arrestato e ammanettato”.
Indice
Un falso allarme partito dall’intelligenza artificiale
Secondo quanto riferito dal dipartimento di polizia della contea di Baltimora, gli agenti “hanno reagito in modo appropriato e proporzionato sulla base delle informazioni fornite in quel momento”.
L’allerta era stata generata da un sistema di intelligenza artificiale installato nella scuola, che aveva interpretato la sagoma del pacchetto come un’arma da fuoco. Il segnale, spiegano le autorità, era stato inoltrato a revisori umani che non avevano riscontrato alcuna minaccia. Tuttavia, il preside non ne era stato informato e aveva contattato il responsabile della sicurezza dell’istituto, che a sua volta aveva chiamato la polizia.
L’intervento si è concluso senza feriti. “L’incidente è stato risolto in modo sicuro dopo aver stabilito che non c’era alcuna minaccia”, ha dichiarato la polizia alla 'BBC News', precisando che il ragazzo era stato ammanettato ma non formalmente arrestato.
“Avevo solo un sacchetto di patatine”
Lo studente ha raccontato di aver appena finito un allenamento di football e di aver messo la confezione vuota di Doritos nella tasca dei pantaloni. Venti minuti dopo, si è trovato circondato dagli agenti armati.
Dopo l’episodio, ha detto di non sentirsi più tranquillo: “Ora aspetto dentro la scuola dopo l’allenamento, non credo che sia abbastanza sicuro uscire, soprattutto mangiare un sacchetto di patatine o bere qualcosa”.
La versione della scuola e le indagini richieste
In una lettera ai genitori, la preside dell’istituto ha spiegato che il team di sicurezza “ha rapidamente esaminato e annullato l’allerta iniziale dopo aver confermato che non c’erano armi”.
“Ho contattato il nostro responsabile della sicurezza scolastica e gli ho segnalato la questione, e lui ha contattato il distretto locale per ulteriore supporto”, ha aggiunto. “Gli agenti di polizia sono intervenuti a scuola, hanno perquisito l’individuo e hanno rapidamente confermato che non era in possesso di alcuna arma”.
Dopo l’accaduto, diversi politici locali hanno chiesto chiarimenti. “Chiedo alle scuole pubbliche della contea di Baltimora di rivedere le procedure relative al suo sistema di rilevamento delle armi basato sull’intelligenza artificiale”, ha scritto su Facebook un consigliere della contea.
Il fornitore del sistema: “Il processo ha funzionato come previsto”
Il sistema di sorveglianza utilizzato dalla scuola è fornito da Omnilert, società che si definisce “leader nei sistemi di rilevamento delle armi da fuoco basati sull’intelligenza artificiale”. In una dichiarazione alla 'BBC News', l’azienda ha espresso “rammarico per l’accaduto e preoccupazione per lo studente e la comunità colpita dagli eventi”.
Omnilert ha spiegato che "sebbene l’oggetto sia stato successivamente identificato come non essere un’arma da fuoco, il processo ha funzionato come previsto: dare priorità alla sicurezza e alla consapevolezza attraverso una rapida verifica umana”, ha affermato Omnilert, ricordando che “il rilevamento delle armi da fuoco nel mondo reale è complicato”.
A Baltimora, intanto, resta la domanda su come un errore tecnologico sia potuto sfociare in un’operazione di polizia tanto drastica, e se le scuole siano davvero pronte a gestire strumenti di sorveglianza così sensibili.
.jpg)
Accedi a tutti gli appunti
Tutor AI: studia meglio e in meno tempo
