Le vere sfide per la sicurezza dell’IA: oltre i robot assassini

Le principali sfide per la sicurezza dell’IA sono dovute a errori, non a intenzioni malevole. La sicurezza dell’IA non è un concetto futuristico. Influenza già la vita quotidiana in modi sottili ma con implicazioni serie. Non stiamo parlando di un’IA che diventa malvagia. Stiamo parlando di un’IA che commette errori con enormi conseguenze.

Pensate alla costruzione di un ponte. Non temete che crolli per malizia. Invece, vi preoccupate di difetti di progettazione, cedimenti dei materiali o sollecitazioni inattese. Questi lo rendono inaffidabile e insicuro. L’IA è simile. I suoi fallimenti sono dovuti a interazioni inattese, a dati di addestramento distorti o semplicemente al fatto che non funziona come previsto nel mondo reale.

I difetti nascosti dell’IA

Il 18 marzo 2018, un veicolo di prova Uber a guida autonoma ha investito e ucciso Elaine Herzberg a Tempe, Arizona. Questo tragico incidente ha evidenziato un problema fondamentale. I sistemi di IA, anche quelli avanzati, possono fallire in scenari complessi del mondo reale. Il software del veicolo ha inizialmente classificato Herzberg come ciclista. Poi l’ha definita un oggetto sconosciuto, non riuscendo a prevedere correttamente il suo percorso.

L’affidabilità dell’IA significa che un sistema di IA svolge costantemente la funzione per cui è stato progettato in diverse condizioni. Si tratta di prevedibilità e coerenza. La sicurezza dell’IA, al contrario, si concentra sulla prevenzione dei danni. Questo include lesioni fisiche, perdite finanziarie o discriminazioni ingiuste. Un sistema può persino essere affidabile anche quando commette errori, prendendo costantemente decisioni distorte, per esempio.

Perché l’IA sbaglia

I sistemi di IA imparano da modelli presenti in grandi quantità di dati. Questo processo di apprendimento è all’origine di molti problemi di sicurezza e affidabilità. Se i dati sono difettosi, l’IA eredita tali difetti.

Nel 2018, i ricercatori Joy Buolamwini e Timnit Gebru hanno pubblicato lo studio “Gender Shades” del MIT Media Lab. Hanno dimostrato che i sistemi di riconoscimento facciale delle principali aziende tecnologiche avevano tassi di errore molto più elevati nelle donne con pelle più scura. Ciò si verificava rispetto agli uomini dalla pelle più chiara. Ciò era dovuto al bias dei dati: i set di dati di addestramento contenevano meno immagini di volti diversi. L’IA ha imparato a riconoscere meglio alcune demografie rispetto ad altre.

Un’altra sfida è la mancanza di spiegabilità, spesso chiamata il “problema della scatola nera”. I modelli di IA complessi, soprattutto i sistemi di apprendimento avanzati, prendono decisioni con meccanismi non visibili agli esseri umani. Vediamo l’input e l’output, ma tracciare i passaggi intermedi è difficile. La Defense Advanced Research Projects Agency (DARPA) ha lanciato il suo programma Explainable AI (XAI) per risolvere questo problema. Vogliono creare sistemi di IA in grado di spiegare il loro ragionamento, la loro affidabilità e le loro implicazioni.

Il 18 marzo 2018, un veicolo di prova Uber a guida autonoma, un Volvo XC90 modificato, ha investito e ucciso Elaine Herzberg a Tempe, Arizona. Questo tragico incidente ha evidenziato le sfide critiche di sicurezza dei sistemi autonomi che operano in scenari complessi del mondo reale, dimostrando come gli errori dell'IA possano avere conseguenze devastanti. (Fonte: theverge.com)

I sistemi di IA possono anche essere vulnerabili a input manipolativi. Si tratta di modifiche sottili, spesso impercettibili, ai dati di input, progettate per ingannare un’IA. Uno studio del 2014 co-firmato da Ian Goodfellow lo ha dimostrato. L’aggiunta di un rumore minuscolo e appositamente creato a un’immagine di panda potrebbe indurre un sistema di apprendimento a classificarla come un gibbone con elevata sicurezza. Ciò mostra una mancanza di resilienza. L’IA può essere facilmente ingannata da input al di fuori della sua distribuzione di addestramento. Tali vulnerabilità mettono a rischio la guida autonoma o i sistemi di sicurezza.

Rischi reali dall’IA inaffidabile

L’IA inaffidabile o insicura ha conseguenze reali, che si manifestano in settori critici. Nel 2016, ProPublica ha indagato sull’algoritmo COMPAS (Correctional Offender Management Profiling for Alternative Sanctions) utilizzato nei tribunali statunitensi. Hanno scoperto che era due volte più probabile che identificasse erroneamente gli imputati neri come futuri criminali. Ciò accadeva in confronto agli imputati bianchi. Al contrario, identificava erroneamente gli imputati bianchi come a basso rischio più spesso degli imputati neri. Ciò dimostra come il bias nelle regole del sistema possa perpetuare e amplificare le disuguaglianze sociali esistenti all’interno del sistema giudiziario.

Nel settore sanitario, l’IA promette progressi ma comporta anche rischi. Le prime versioni di IBM Watson Health, per esempio, hanno affrontato critiche. Ha fornito raccomandazioni per il trattamento del cancro inaccurate e potenzialmente pericolose. Un rapporto di STAT News del 2018 ha dettagliato casi in cui i medici hanno trovato le raccomandazioni dell’IA “estremamente imprecise” o potenzialmente pericolose. Ciò era in parte dovuto a dati di addestramento limitati e alla dipendenza da casi di pazienti ipotetici. Questo evidenzia la necessità di test e convalide rigorosi prima di implementare l’IA in applicazioni vitali.

I sistemi autonomi, dai veicoli ai droni, presentano rischi diretti per la sicurezza fisica. Oltre all’incidente di Uber, prevedere il comportamento umano e le variabili ambientali rimane un grande ostacolo. Anche piccoli errori di percezione o di processo decisionale possono essere fatali. È come un chirurgo esperto che usa strumenti difettosi. L’esperienza esiste, ma gli strumenti falliscono.

Costruire un’IA più sicura: cosa stiamo facendo

Affrontare l’affidabilità e la sicurezza dell’IA richiede un approccio su più fronti. Ciò implica innovazione tecnica, politiche e considerazioni etiche. L’Unione Europea guida questo sforzo, approvando l’EU AI Act nel marzo 2024. Questa regolamentazione storica classifica i sistemi di IA in base al livello di rischio. Impone requisiti rigorosi alle applicazioni “ad alto rischio” come quelle nelle infrastrutture critiche, nell’assistenza sanitaria o nelle forze dell’ordine. Questi requisiti riguardano la gestione dei dati, la supervisione umana, la trasparenza e le valutazioni di conformità.

Il Parlamento Europeo a Bruxelles, in Belgio, è il luogo dove è stato approvato l'importante EU AI Act nel marzo 2024. Questa regolamentazione innovativa è la prima legge completa al mondo sull'intelligenza artificiale, volta a garantire la sicurezza e l'affidabilità dei sistemi di IA in vari settori. (Fonte: gettyimages.ca)

Tecnicamente, stiamo lavorando per migliorare l’IA spiegabile (XAI). Ricercatori come Cynthia Rudin della Duke University sostengono modelli intrinsecamente interpretabili. Questi sono migliori delle spiegazioni a posteriori dei sistemi a scatola nera. Questi modelli sono progettati fin dall’inizio per essere comprensibili. Ciò rende più facile identificare e correggere gli errori. Ad esempio, un’IA medica potrebbe non solo prevedere una diagnosi. Potrebbe anche evidenziare i sintomi specifici e gli aspetti della storia clinica del paziente che hanno portato alla sua conclusione.

Il test di resilienza sta diventando una pratica standard. Questo implica l’esecuzione attiva di test di sicurezza proattivi sui sistemi di IA. Gli esperti cercano intenzionalmente di trovare difetti e di metterli alla prova, spesso usando input manipolativi. Questo aiuta gli sviluppatori a identificare le vulnerabilità prima dell’implementazione. Organizzazioni come il National Institute of Standards and Technology (NIST) hanno sviluppato quadri di riferimento. Un esempio è il NIST AI Risk Management Framework. Questi guidano gli sviluppatori nella gestione dei rischi dell’IA durante tutto il suo ciclo di vita. Sottolinea la trasparenza, la validazione e la responsabilità.

Infine, la supervisione umana rimane vitale, specialmente nelle applicazioni ad alto rischio. Non si tratta di umani che fanno il lavoro dell’IA. Si tratta di fornire supervisione umana per il monitoraggio, l’intervento e la responsabilità ultima. Riconosce che l’IA è uno strumento potente. Tuttavia, il giudizio umano è ancora essenziale per un’implementazione etica e sicura. Progettare un grattacielo non significa solo renderlo alto. Si tratta di protezione antisismica, sicurezza antincendio e vie di fuga.

Il futuro della sicurezza dell’IA

L’IA sta avanzando rapidamente e le sue sfide di affidabilità e sicurezza continuano a cambiare. Nel novembre 2023, il Regno Unito ha ospitato l’AI Safety Summit a Bletchley Park. I leader globali si sono incontrati lì per discutere i rischi derivanti dall’IA avanzata. Questo evento ha evidenziato un crescente accordo internazionale sulla necessità di collaborazione. Sebbene questo evento abbia evidenziato un crescente accordo internazionale sulla necessità di collaborazione, concordare standard globali e la loro attuazione rimane un compito diplomatico complesso.

Una sfida persistente è far sì che le misure di sicurezza funzionino per sistemi più grandi. I modelli di IA stanno diventando più grandi e di uso più generale, come quelli alla base dei sistemi linguistici avanzati. Il loro potenziale di comportamenti inattesi o di nuove, impreviste capacità aumenta. Garantire la sicurezza per sistemi così complessi è un problema molto diverso rispetto alle IA ristrette e specifiche per un compito. L’enorme numero di potenziali modalità di fallimento cresce esponenzialmente.

Nel novembre 2023, il Regno Unito ha ospitato il primo importante AI Safety Summit globale a Bletchley Park, il sito storico dove i decifratori di codici alleati decifrarono il codice Enigma durante la Seconda Guerra Mondiale. I leader globali si sono riuniti qui per discutere i rischi e la governance dell'IA avanzata, evidenziando il crescente consenso internazionale sulla necessità di sforzi collaborativi per la sicurezza. (Fonte: reuters.com)

Un altro aspetto è lo sviluppo di metodi migliori per controllare e verificare i sistemi di IA. Ciò implica la creazione di ambienti di test rigorosi e metodi di test strutturati. Questi dimostrano matematicamente determinate proprietà di sicurezza dei sistemi di IA. È un campo altamente tecnico, ma vitale per garantire che l’IA si comporti in modo prevedibile in situazioni critiche. I ricercatori stanno anche esplorando come l’IA possa aiutare se stessa a diventare più sicura. Usano tecniche di IA per monitorare, testare e persino correggere altri sistemi di IA.

In definitiva, la futura sicurezza dell’IA dipende dalla ricerca continua, dalla regolamentazione proattiva e da un impegno globale per uno sviluppo responsabile. Dobbiamo andare oltre le soluzioni reattive e costruire la sicurezza fin dalle fondamenta. Questo sforzo collettivo non riguarda solo la prevenzione dei disastri. Riguarda il plasmare l’IA per servire veramente l’umanità, rendendola una forza per il bene, non una fonte di danno imprevedibile.

---

Domande frequenti

Qual è il più grande equivoco sulla sicurezza dell’IA? Molte persone presumono erroneamente che la sicurezza dell’IA riguardi principalmente l’IA che diventa malvagia e prende il controllo. Il pericolo reale e presente risiede in errori sottili, bias e conseguenze non intenzionali all’interno dei sistemi di IA. Questi portano a danni o risultati ingiusti.

L’IA può mai essere affidabile al 100%? No, raggiungere il 100% di affidabilità per sistemi di IA complessi che interagiscono con ambienti imprevedibili del mondo reale è praticamente impossibile. Come qualsiasi tecnologia, l’IA opera con limitazioni intrinseche e probabilità di errore. Questo è particolarmente vero quando si trova di fronte a situazioni nuove al di fuori dei suoi dati di addestramento.

Chi è responsabile quando l’IA commette un errore? Determinare la responsabilità è una sfida legale ed etica complessa. Spesso ricade sugli sviluppatori, gli implementatori o gli operatori del sistema di IA. Questo dipende da fattori come negligenza, difetti di progettazione o uso improprio. Normative come l’EU AI Act mirano a chiarire questa responsabilità.

Cos’è l’EU AI Act? L’EU AI Act è una regolamentazione pionieristica dell’Unione Europea. Classifica i sistemi di IA in base al loro potenziale livello di rischio. Impone requisiti rigorosi all’IA “ad alto rischio”. Questo si concentra su trasparenza, supervisione umana, qualità dei dati e valutazioni di conformità. L’obiettivo è garantire la sicurezza e l’uso etico in tutti gli stati membri.

Un robot chirurgico assistito dall'IA, come il sistema chirurgico da Vinci ampiamente utilizzato, esemplifica un'applicazione di IA "ad alto rischio" dove test rigorosi e prove matematiche di sicurezza sono fondamentali. Questi sistemi complessi richiedono una supervisione meticolosa per garantire un funzionamento prevedibile e sicuro durante le procedure mediche critiche. (Fonte: robotsguide.com)

---

Potrebbe interessarti anche:

👉 La Rivoluzione Invisibile: Esplorando la Robotica negli Esempi della Vita Quotidiana

👉 Prevedere le Tendenze del Mercato Azionario: Guida a ML e Analisi del Sentimento

👉 Smascherare i bot online: la sfida di X e Facebook contro l’imitazione umana