Il prezzo della sicurezza: come la sorveglianza AI cambia le nostre città

La polizia di Londra ha effettuato oltre 100 arresti nel 2023 utilizzando il riconoscimento facciale in tempo reale. Ciò ha evidenziato un notevole incremento della sorveglianza AI nelle città. In tutto il mondo, i centri urbani stanno rapidamente integrando l’AI nei loro strumenti per la sicurezza pubblica. L’obiettivo è ottenere una maggiore sicurezza e tempi di risposta alle emergenze più rapidi.

La sorveglianza AI utilizza algoritmi per analizzare i dati di telecamere e sensori. Questi sistemi identificano gli individui, tracciano i movimenti e rilevano comportamenti sospetti. Il riconoscimento facciale, il rilevamento di oggetti e l’analisi dell’andatura sono strumenti fondamentali. I governi e le forze dell’ordine sono i principali fruitori.

Questa tecnologia è impiegata in spazi pubblici come strade, aeroporti e nodi di trasporto. La Cina è leader mondiale; Shenzhen, ad esempio, utilizza estese reti di sorveglianza. Anche le democrazie occidentali ne stanno facendo un uso crescente, come dimostrano le città nel Regno Unito e negli Stati Uniti. Ciò crea un significativo conflitto: quello tra sicurezza pubblica e privacy.

La sorveglianza AI offre funzionalità ben più avanzate rispetto alle vecchie telecamere a circuito chiuso (CCTV). Questi sistemi possono gestire grandi quantità di dati video in tempo reale. Possono segnalare alle autorità potenziali minacce senza la necessità di un monitoraggio umano costante. Questa efficienza è la ragione principale per cui le forze di sicurezza di tutto il mondo la stanno adottando.

Le città inseguono la sicurezza

Il 12 gennaio 2024, il Dipartimento di Polizia di New York ha confermato l’uso del riconoscimento facciale. Lo hanno utilizzato per identificare sospetti in diverse indagini. L’NYPD ha dichiarato che questa tecnologia aiuta a risolvere crimini e a localizzare persone scomparse. Le forze dell’ordine affermano che la sicurezza pubblica è alla base della loro necessità di sorveglianza AI. Sostengono che offra nuovi strumenti per contrastare la criminalità.

I sistemi AI possono analizzare modelli in grandi dataset per prevedere la criminalità. Questa “polizia predittiva” aiuta la polizia a utilizzare meglio le proprie risorse. Le autorità credono che ciò riduca i tassi di criminalità nelle aree ad alto rischio. Ad esempio, Nizza, in Francia, utilizza l’AI per rilevare pacchi abbandonati e assembramenti insoliti.

Il National Police Chiefs’ Council del Regno Unito sostiene l’uso del riconoscimento facciale. Il vice capo della polizia Lucy D’Orsi ha dichiarato nel 2020 che aiuta a prevenire crimini gravi. Ha sottolineato il suo ruolo nel rintracciare persone vulnerabili. Questi sistemi offrono un monitoraggio costante, che le pattuglie umane non possono eguagliare.

Shenzhen, Cina, è un leader globale nella sorveglianza AI urbana, che utilizza estese reti di telecamere e sensori per monitorare gli spazi pubblici. Il suo paesaggio urbano, in rapida evoluzione e ad alta tecnologia, rappresenta visivamente l'integrazione delle tecnologie avanzate nella vita quotidiana. (Fonte: dreamstime.com)

Anche la sicurezza delle frontiere beneficia della sorveglianza AI. I sistemi automatizzati possono elaborare rapidamente le identità dei viaggiatori e rilevare anomalie. Questo rende i controlli più veloci e migliora la sicurezza nazionale. L’U.S. Customs and Border Protection utilizza la tecnologia di confronto facciale negli aeroporti. Verifica le identità dei viaggiatori rispetto ai loro documenti.

Anche i tempi di risposta alle emergenze possono migliorare con l’AI. I sistemi automatizzati di rilevamento dei veicoli possono individuare rapidamente gli incidenti stradali. Notificano i servizi di emergenza molto più velocemente rispetto alla segnalazione manuale. Questo riduce i ritardi per ambulanze e vigili del fuoco. Tali applicazioni rendono le città più sicure.

Quando la privacy si ribella

Nel 2019, San Francisco è diventata la prima città statunitense a vietare l’uso governativo della tecnologia di riconoscimento facciale. Il Consiglio dei Supervisori della città era preoccupato per le libertà civili e l’uso improprio. Questa azione ha evidenziato una crescente opposizione globale alla sorveglianza AI incontrollata. I sostenitori della privacy sostengono che questi sistemi erodono le libertà fondamentali.

L’American Civil Liberties Union (ACLU) contesta spesso la sorveglianza AI. Avverte che la sorveglianza di massa può avere un effetto dissuasivo sulla libertà di parola e di associazione. L’ACLU sottolinea il suo potenziale di uso improprio e discriminazione. Sostengono una regolamentazione rigorosa o divieti assoluti.

La ricerca del National Institute of Standards and Technology (NIST) ha riscontrato problemi di accuratezza. Il suo studio del 2019 ha rivelato che gli algoritmi di riconoscimento facciale presentavano prestazioni inferiori per donne e minoranze. Questo preoccupa le persone riguardo al bias algoritmico. Tali bias potrebbero portare ad arresti ingiusti o a colpire in modo sproporzionato determinati gruppi.

Clearview AI, un’azienda che raccoglie miliardi di immagini da internet, ha affrontato sfide legali a livello globale. Nel 2022, l’Information Commissioner’s Office del Regno Unito ha multato Clearview AI per oltre 7,5 milioni di sterline. L’ICO ha ordinato all’azienda di eliminare i dati dei residenti del Regno Unito. Questa sentenza ha dimostrato che è illegale raccogliere dati biometrici senza consenso.

La mancanza di trasparenza nei sistemi di sorveglianza AI è un’altra preoccupazione importante. Il pubblico spesso non sa dove o come vengono utilizzate queste tecnologie. Questo rende difficile ritenere qualcuno responsabile per errori o abusi. I critici chiedono linee guida chiare e una supervisione indipendente.

La ricerca di regole

Il 21 aprile 2021, la Commissione Europea ha proposto l’Artificial Intelligence Act. Questa storica legislazione mira a regolare i sistemi AI basandosi sul rischio. Classifica la sorveglianza AI come “ad alto rischio”. Ciò significa che deve soddisfare regole severe per trasparenza, accuratezza e supervisione umana.

San Francisco City Hall, l'iconico edificio Beaux-Arts dove, nel 2019, il Consiglio dei Supervisori della città ha votato per vietare l'uso governativo della tecnologia di riconoscimento facciale, segnando un momento storico nel dibattito globale sulla sorveglianza AI e le libertà civili. (Illustrazione generata dall'AI)

L’EU AI Act afferma che i sistemi AI ad alto rischio necessitano di controlli di conformità. Gli sviluppatori devono garantire la qualità dei dati e fornire una documentazione chiara. Questa legge mira a costruire la fiducia del pubblico nell’AI e a proteggere i diritti fondamentali. È un approccio lungimirante alla regolamentazione.

Diverse città e stati negli Stati Uniti hanno anche emanato regolamenti. Portland, Oregon, ha vietato il riconoscimento facciale sia per le entità pubbliche che private nel 2020. Questo divieto più ampio mirava a contrastare la sorveglianza diffusa. Ha mostrato un forte impegno locale per la privacy.

L’Organizzazione per la Cooperazione e lo Sviluppo Economico (OCSE) ha pubblicato i suoi Principi sull’AI nel 2019. Questi principi promuovono un’AI incentrata sull’uomo. Ciò significa un’AI che rispetta i diritti umani e i valori democratici. Sottolineano la trasparenza, l’equità e la responsabilità nello sviluppo dell’AI. Molti paesi utilizzano questi principi come guida.

Organismi di supervisione indipendenti sono fondamentali per una sorveglianza AI etica. Le autorità di protezione dei dati in Europa monitorano la conformità con regolamenti come il GDPR. Indagano sui reclami ed emettono sanzioni per le violazioni. Questo offre ai cittadini un modo per contestare la sorveglianza.

Alcune forze di polizia stanno stabilendo regole interne severe per l’uso dell’AI. Limitano quando e come il riconoscimento facciale può essere impiegato. Queste politiche spesso richiedono un mandato per la sorveglianza in tempo reale. Tali misure mirano a bilanciare le esigenze investigative con le libertà civili.

Il futuro: l’AI responsabile

Nell’ottobre 2023, le Nazioni Unite hanno chiesto una moratoria globale sui sistemi AI che presentano significativi rischi per i diritti umani. Ciò evidenzia che un numero crescente di paesi concorda sull’urgenza della governance dell’AI. L’ONU ha sottolineato la necessità di cooperazione internazionale per sviluppare standard etici. Lo sviluppo futuro deve mettere al primo posto il benessere umano.

Sviluppare l’AI spiegabile (XAI) è una difficile sfida tecnica per i sistemi di sorveglianza. Gli utenti e il pubblico devono capire come vengono prese le decisioni dell’AI. Questa trasparenza può costruire fiducia e facilitare l’assunzione di responsabilità. I ricercatori stanno lavorando attivamente su questi algoritmi avanzati.

Abbiamo anche bisogno di regole più severe per i dati. Questi framework definiscono come i dati personali vengono raccolti, archiviati e utilizzati dai sistemi AI. Minimizzano i rischi di violazioni dei dati e uso improprio. Ciò include robuste tecniche di crittografia e anonimizzazione.

La tecnologia di riconoscimento facciale, come quella vietata a Portland, Oregon, nel 2020, è una componente chiave dei sistemi di sorveglianza AI. Il suo impiego solleva significative questioni etiche riguardo alla privacy e alle libertà civili, spingendo città e organismi internazionali a considerare regolamentazioni severe. (Fonte: hrw.org)

La partecipazione pubblica nel processo decisionale può plasmare una sorveglianza AI più etica. Le giurie cittadine e i forum pubblici consentono alle comunità di esprimere le proprie preoccupazioni. Questo input democratico assicura che gli impieghi dell’AI riflettano i valori sociali. Può impedire che le tecnologie vengano imposte alle persone senza consenso.

Domande frequenti

Che cos’è la sorveglianza AI? La sorveglianza AI utilizza algoritmi per analizzare i dati di telecamere e sensori. Identifica le persone, traccia i movimenti e individua comportamenti specifici. L’obiettivo è aumentare la sicurezza e la pubblica incolumità.

Quali sono i principali vantaggi della sorveglianza AI? Aiuta a prevenire la criminalità e accelera le risposte alle emergenze. La polizia la usa per identificare i sospetti e trovare persone scomparse. Questi sistemi elaborano molti dati rapidamente.

Quali sono i principali rischi associati alla sorveglianza AI? I rischi includono la sorveglianza di massa, il bias che causa discriminazione e le violazioni della privacy. Le persone si preoccupano della sicurezza dei dati, della mancanza di trasparenza e dell’uso improprio. Potrebbe anche sopprimere la libertà di parola.

Come stanno affrontando questi problemi i governi? I governi stanno proponendo nuove regole, come l’EU AI Act, per i sistemi AI ad alto rischio. Alcune città hanno vietato determinate sorveglianze AI. Gruppi internazionali chiedono anche linee guida etiche e divieti temporanei.

L'EU AI Act, la prima legge completa al mondo sull'intelligenza artificiale, è stato formalmente adottato dal Parlamento Europeo nel marzo 2024, stabilendo un punto di riferimento globale per la regolamentazione dell'AI. (Fonte: eeas.europa.eu)

---

Potrebbe interessarti anche:

👉 L’IA è già qui: per i giovani, oltre le promesse, i rischi concreti di app e social

👉 Space Force USA 2026: il dominio è nei dati, non nei laser

👉 Smascherare i bot online: la sfida di X e Facebook contro l’imitazione umana