Etica dell’IA: Riguarda noi, non i robot.

L’etica dell’IA sta già plasmando la nostra vita quotidiana. Va oltre i tipici scenari da fantascienza, come robot killer o macchine senzienti. Spesso si immagina che le macchine acquisiscano consapevolezza e poi si ribellino. La verità è che l’etica dell’IA ha un impatto su di noi già nel presente.

Riguarda le scelte umane integrate nella nostra tecnologia. Affronta danni reali che si manifestano già oggi, non solo ipotetici scenari futuri. Basti pensare a richieste di prestito discriminatorie, strumenti di selezione del personale iniqui o violazioni della privacy.

I sistemi di Intelligenza Artificiale (IA) svolgono compiti che di solito richiedono intelligenza umana. Imparano, risolvono problemi e prendono decisioni. Etica qui significa applicare regole morali alla progettazione, costruzione e utilizzo dell’IA. L’obiettivo è garantire che l’IA aiuti le persone in modo equo e sicuro.

Molte persone svolgono un ruolo importante in questo ambito. Tra queste figurano aziende tecnologiche come Google e Microsoft. Governi e organismi di regolamentazione di tutto il mondo, come l’UE, sono anch’essi attori chiave. Ricercatori, organizzazioni senza scopo di lucro e utenti finali contribuiscono tutti a definire questo settore. Tutti hanno l’obiettivo di prevenire i danni e massimizzare i benefici derivanti dall’IA.

Pregiudizio, equità e responsabilità: i danni nascosti dell’IA

Amazon ha abbandonato uno strumento di reclutamento basato sull’IA nel 2018. Presentava un pregiudizio intrinseco. Il sistema penalizzava i curriculum che contenevano la parola “women’s” (femminile), come “capitano del club di scacchi femminile”. L’IA era stata addestrata su un decennio di curriculum di Amazon, provenienti per lo più da uomini. Questo ha evidenziato chiaramente il pregiudizio algoritmico.

Il pregiudizio algoritmico si manifesta quando l’IA riflette e amplifica i pregiudizi sociali. Questo ha origine dai suoi dati di addestramento. Immaginate uno chef che apprende solo dai ricettari di una cultura. Avrebbe difficoltà a cucinare piatti di altre culture. L’IA addestrata su dati che riflettono disuguaglianze storiche non farà che perpetuarle. Joy Buolamwini, ricercatrice del MIT Media Lab, lo ha dimostrato chiaramente. Il suo lavoro, con l’Algorithmic Justice League, ha rilevato che i sistemi commerciali di riconoscimento facciale mostravano prestazioni inferiori sulle donne con la pelle più scura.

Passiamo ora a parlare di equità. Definire l’equità dell’IA è una questione complessa. Potrebbe significare trattare tutti allo stesso modo. Oppure potrebbe significare garantire risultati equi per gruppi diversi. Queste definizioni possono talvolta entrare in conflitto. Un’IA potrebbe sembrare equa a livello di gruppo, ma prendere comunque decisioni inique per i singoli individui. Un’indagine di ProPublica del 2016 sull’algoritmo di recidiva COMPAS lo ha dimostrato. Ha rilevato che il sistema classificava erroneamente gli imputati neri come futuri criminali con una frequenza doppia rispetto a quella degli imputati bianchi.

Joy Buolamwini, ricercatrice del MIT Media Lab e fondatrice dell'Algorithmic Justice League, ha dimostrato in modo lampante come i sistemi commerciali di riconoscimento facciale spesso mostrino prestazioni inferiori sulle donne con la pelle più scura, evidenziando problemi critici di pregiudizio algoritmico nell'IA. (Fonte: springact.org)

Chi è responsabile quando l’IA prende una decisione sbagliata? Qui risiede il concetto chiave di responsabilità. È facile incolpare la macchina. Ma le macchine non prendono decisioni morali. Progettisti, sviluppatori e utenti umani hanno la responsabilità ultima. Cathy O’Neil, autrice di “Weapons of Math Destruction”, afferma che gli algoritmi sono solo opinioni espresse in codice. Queste opinioni riflettono ciò che i loro creatori valorizzano e considerano prioritario.

Privacy, trasparenza e controllo

Il Regolamento Generale sulla Protezione dei Dati (GDPR) dell’UE è entrato in vigore nel 2018. Ha stabilito uno standard globale per la privacy dei dati. Conferisce alle persone un significativo controllo sui loro dati personali. Questa legge incide direttamente sullo sviluppo dell’IA, in particolare sui sistemi che necessitano di enormi dataset.

I sistemi di IA spesso elaborano enormi quantità di dati personali. Ciò crea serie preoccupazioni per la privacy. I dati provengono da social media, cronologia di navigazione, cartelle cliniche e persino dispositivi smart home. L’IA utilizza questi dati per raccomandazioni personalizzate, annunci mirati o per attività di polizia predittiva. La scala e la velocità di questa elaborazione dei dati sono senza precedenti. Le persone faticano a comprendere o a dare il consenso all’utilizzo dei loro dati. La professoressa di Harvard Shoshana Zuboff ha coniato il termine “capitalismo della sorveglianza”. Afferma che le aziende tecnologiche traggono profitto prevedendo e influenzando il comportamento umano.

La mancanza di trasparenza è un’ulteriore rilevante preoccupazione. Molti modelli avanzati di IA, in particolare le reti di deep learning, funzionano come “scatole nere”. Le loro decisioni sono complesse e opache. Immaginate un medico che formula una diagnosi senza spiegarne il motivo. Chiedereste una spiegazione. Le persone interessate da una decisione dell’IA, come un prestito negato o un curriculum segnalato, hanno il diritto di conoscerne le motivazioni. I ricercatori stanno lavorando sull’IA spiegabile (XAI). Vogliono spiegare il funzionamento interno di questi sistemi.

Infine, le persone hanno bisogno di controllo sul modo in cui l’IA le influenza. Ciò significa poter opporsi alla raccolta dei dati o richiedere la cancellazione dei propri dati. Significa anche avere la possibilità di correggere eventuali errori quando l’IA prende una decisione iniqua o errata. La revisione umana delle decisioni automatizzate è un concetto chiave in molti nuovi framework etici dell’IA. Senza questo controllo, le persone diventano meri soggetti passivi del potere algoritmico.

Stabilire le regole: regolamenti, principi e pratiche

Cathy O'Neil è una data scientist e autrice di 'Weapons of Math Destruction', un libro fondamentale che esamina criticamente come gli algoritmi possano perpetuare e esacerbare le disuguaglianze sociali. È nota per affermare che gli algoritmi sono 'opinioni insite nel codice', evidenziando la responsabilità umana dietro le decisioni dell'IA. (Fonte: penguinrandomhouse.com)

La Commissione Europea ha proposto l’EU AI Act nell’aprile 2021. Si propone di essere il primo quadro giuridico completo al mondo per l’IA. Questa importante legge classifica i sistemi di IA in base al livello di rischio, da “inaccettabile” a “minimale”. Prevede regole severe per l’IA ad alto rischio. Tra queste figurano la supervisione umana e una solida gestione dei dati.

Governi e gruppi internazionali non sono gli unici a occuparsi di questo. Molte organizzazioni hanno i propri principi etici dell’IA. Google ha pubblicato i suoi Principi sull’IA nel 2018. Si è impegnata a promuovere un’IA benefica, equa e responsabile. Microsoft ha fatto seguito con il suo Standard per l’IA Responsabile nel 2022. Questi principi spesso sottolineano l’autonomia umana, la sicurezza, la privacy e la non discriminazione. Servono come guide interne per gli sviluppatori.

Oltre ai principi, sono fondamentali passi pratici per un’IA responsabile. Le aziende ora conducono revisioni etiche dell’IA durante l’intero processo di sviluppo. Queste revisioni valutano pregiudizi, rischi per la privacy e impatti sociali. Alcuni conducono valutazioni d’impatto dell’IA prima di implementare tali sistemi in aree sensibili. Si pensi alla sanità o alle forze dell’ordine. Ciò significa anticipare e mitigare gli esiti negativi.

Il red-teaming è un’altra pratica fondamentale. Significa cercare intenzionalmente di “compromettere” un sistema di IA. Ciò aiuta a individuare i suoi punti di debolezza. In questo modo si possono individuare potenziali abusi o comportamenti inaspettati prima del lancio. Il National Institute of Standards and Technology (NIST) degli Stati Uniti ha pubblicato il suo AI Risk Management Framework nel 2023. Questo framework fornisce alle organizzazioni una guida per la gestione dei rischi dell’IA. Copre ogni aspetto, dalla progettazione all’implementazione e al monitoraggio continuo.

Progettare l’IA per un futuro migliore

L’investimento globale nell’etica dell’IA sta crescendo. Sempre più aziende stanno creando team dedicati all’IA Responsabile. Stanno assumendo specialisti di etica. Un rapporto del World Economic Forum del 2023 afferma che la domanda di figure professionali nell’ambito dell’etica dell’IA è aumentata di oltre il 100% in due anni. Ciò mostra una chiara tendenza a integrare l’etica in modo pratico nel lavoro sull’IA.

Non si tratta solo di evitare risultati negativi. Si tratta anche di progettare per ottenere risultati positivi. L’IA etica può creare tecnologia che migliora concretamente il benessere umano. Immaginate strumenti di IA progettati per combattere il cambiamento climatico, migliorare l’istruzione o personalizzare l’assistenza sanitaria in modo sicuro. Queste applicazioni richiedono un’attenta riflessione etica fin dalle fasi iniziali.

L'edificio Berlaymont a Bruxelles, in Belgio, funge da quartier generale della Commissione Europea, l'organismo che ha proposto l'importante EU AI Act nel 2021. Questa legge si propone di essere il primo quadro giuridico completo al mondo per l'intelligenza artificiale, classificando i sistemi in base al rischio. (Fonte: tripadvisor.com)

Costruire un’IA responsabile è un percorso continuo, non un punto di arrivo. La tecnologia evolve rapidamente. Nuove sfide etiche emergono costantemente. Richiede un dialogo, ricerca e adattamento costanti da parte di tutti i soggetti coinvolti. Ciò include ingegneri, responsabili politici, eticisti e il pubblico.

Il futuro dell’IA dipende dal nostro impegno condiviso verso uno sviluppo responsabile. Possiamo trasformare l’IA in una potente forza per il bene. Ciò significa costruire sistemi che riflettano i nostri valori più alti. Significa mettere al primo posto equità, trasparenza e benessere umano.

---

Domande frequenti

Che cos’è il pregiudizio algoritmico? Il pregiudizio algoritmico si manifesta quando un sistema di IA produce risultati ingiusti o discriminatori. Ciò accade perché i suoi dati di addestramento riflettono pregiudizi o disuguaglianze sociali esistenti. Può portare a decisioni distorte nella selezione del personale, nelle richieste di prestito o nella giustizia penale.

Perché l’IA non può essere semplicemente “neutrale”? I sistemi di IA sono costruiti dagli esseri umani. Si addestrano su dati generati dall’uomo. Questi dati contengono pregiudizi, valori e prospettive umane. La vera neutralità è impossibile. L’IA riflette il mondo da cui apprende, comprese le sue imperfezioni e disuguaglianze.

Chi è responsabile dell’etica dell’IA? Molte persone condividono la responsabilità dell’etica dell’IA. Tra questi figurano ingegneri e progettisti che costruiscono l’IA, aziende che la implementano e governi che la regolamentano. Anche gli utenti chiedono un’IA etica. E ritengono gli sviluppatori responsabili.

Che cos’è l’EU AI Act? L’EU AI Act è una proposta di regolamento dell’UE. Si propone di istituire un quadro giuridico per l’IA. Classifica i sistemi in base al livello di rischio. Le applicazioni di IA ad alto rischio saranno soggette a requisiti rigorosi. Tali requisiti riguardano sicurezza, trasparenza, supervisione umana e qualità dei dati.

Il Parlamento Europeo, situato a Strasburgo e Bruxelles, è l'organo legislativo dell'Unione Europea responsabile del dibattito e dell'adozione delle leggi, incluso l'importante EU AI Act, che si propone di stabilire uno standard globale per lo sviluppo responsabile dell'IA. (Fonte: gettyimages.ca)

---

Potrebbe interessarti anche:

👉 Prevedere le Tendenze del Mercato Azionario: Guida a ML e Analisi del Sentimento

👉 La Rivoluzione Invisibile: Esplorando la Robotica negli Esempi della Vita Quotidiana

👉 Futuri Sostenibili: Investimenti, Cybersecurity e il Futuro del Lavoro