Danni catastrofici senza un governo dell’AI
L’allarme del Panel scientifico delle Nazioni Unite sull’intelligenza artificiale
«La tecnologia è trasformativa, ma se il mondo continua a muoversi su questa traiettoria, l’umanità non riuscirà a realizzare i vantaggi che promette. I rischi – per le società, per la sicurezza e per la nostra specie – sono troppo elevati, e le forze che spingono l’intelligenza artificiale in avanti non sono le stesse che ne realizzeranno i benefici». Un monito severo quello lanciato dal Panel scientifico internazionale indipendente delle Nazioni Unite sull’intelligenza artificiale (AI), costituito da 40 scienziati ed esperti provenienti da ogni regione del mondo, indipendenti da qualsiasi governo, azienda o istituzione. Il Panel sull’AI ha da poco pubblicato un Rapporto che fornisce la prima valutazione scientifica globale e indipendente sulle opportunità, sui rischi e sugli impatti dell’AI.
Con la continua crescita delle capacità dell’AI, aumenta anche l’importanza delle decisioni prese in tutto il mondo da governi e parlamenti, che però spesso lo fanno «in condizioni di grande incertezza, con fonti di prova e prospettive in rapida evoluzione e spesso contrastanti che non riflettono necessariamente le realtà locali» osservano gli esperti incaricati dalle Nazioni Unite. Secondo il segretario generale, António Guterres, «il mondo non può governare ciò che non comprende», per questo ha esortato tutti i leader politici a utilizzare le prove condivise per «agire insieme e senza indugio». Anche perché, ha spiegato il copresidente del Panel, Yoshua Bengio, «le capacità dell’AI stanno superando sia la comprensione scientifica sia la capacità di adattamento dei governi. Con le crescenti prove di comportamenti ingannevoli dell’AI, la scienza attualmente non può garantire che, con il continuo aumento delle capacità, l’AI non causerà danni catastrofici, sia di per sé che a causa di utenti malintenzionati. Per agire efficacemente, i responsabili politici globali devono comprendere questi sistemi».
Possibili impatti negativi su diritti umani e ambiente
Negli ultimi anni si è assistito a rapidi progressi e a un’accelerazione in varie capacità dell’AI, progressi che «hanno sbloccato applicazioni utili in ambito scientifico, sanitario, agricolo, di accessibilità, di elaborazione della conoscenza e di informatica, incluso lo sviluppo dell’AI stessa» rileva il Rapporto. Tuttavia, sottolineano gli autori, «lo sviluppo dell’AI comporta dei rischi, con potenziali impatti negativi sui diritti umani, sui sistemi sociali e sull’ambiente». Ad esempio la crescente produzione di deepfake, spesso ai danni di minori e donne, che contribuisce a danneggiare l’integrità delle informazioni; oppure il comportamento servile dell’AI, in cui le risposte rafforzano le convinzioni preesistenti degli utenti a prescindere dalla loro accuratezza, condizione collegata a gravi incidenti di salute mentale; così come l’utilizzo criminale dell’AI, che spesso ricade in modo sproporzionato su popolazioni già svantaggiate.
«Guardando al futuro, il divario tra le capacità in rapido miglioramento e metodi efficaci di gestione del rischio potrebbe portare a conseguenze catastrofiche» sostengono i membri del Panel, perché non esistono garanzie scientifiche che gli agenti di AI non violino le istruzioni, mentre «si stanno accumulando prove di casi in cui le violano già». Addirittura è stato dimostrato che i sistemi di AI violano le proprie istruzioni di sicurezza per evitare di essere arrestati. Inoltre, osservano gli esperti del Panel internazionale, «i rischi dell’AI sono distribuiti in modo disomogeneo tra popolazioni e Paesi, mentre lo sviluppo dell’AI e la ricchezza che crea sono altamente concentrati», la stessa concentrazione delle capacità di AI in un numero ristretto di aziende e Paesi potrebbe consentire derive autoritarie e minare le responsabilità democratiche. L’unico modo per limitare i rischi e sbloccare i benefici dell’AI è attuare una «buona governance», perché i vantaggi economici e lavorativi e la loro equa distribuzione non sono automatici, sostengono i membri del Panel: «Con investimenti complementari in competenze, flussi di lavoro, infrastrutture e istituzioni del mercato del lavoro, la tecnologia può creare nuovi posti di lavoro che attualmente non esistono». Viceversa, «senza questi investimenti l’AI rischia di ampliare le disuguaglianze, di sostituire i lavoratori e di spostare la ricchezza dal lavoro al capitale, anziché creare posti di lavoro di qualità e sostenibili».
Ma i responsabili politici che cercano di sviluppare questa governance si trovano di fronte a un dilemma, secondo gli esperti: «Hanno bisogno di prove per prendere decisioni di governance informate e di grande rilevanza, ma quando le prove saranno disponibili, potrebbe essere troppo tardi per prenderle, poiché le prove sono in ritardo rispetto al ritmo di sviluppo dell’AI».
Nuovi orientamenti e legge europea sull’AI
Ci sta provando in qualche modo l’Ue, con la Commissione europea che ha pubblicato degli orientamenti per aiutare i fornitori e gli operatori di sistemi di AI a rispettare gli obblighi di trasparenza della legge europea, che entrerà in vigore il 2 agosto prossimo. Tali obblighi dovrebbero aiutare le persone a riconoscere quando interagiscono con l’intelligenza artificiale o quando i contenuti sono stati generati o modificati dall’AI, riducendo così i rischi di inganno e manipolazione. Gli utenti dovranno essere informati quando sono esposti a deep fake, a contenuti generati dall’AI su questioni di interesse pubblico senza revisione umana o controllo editoriale e a sistemi di riconoscimento delle emozioni o di categorizzazione biometrica.
Gli orientamenti pubblicati dalla Commissione forniscono alcuni esempi di sistemi interattivi di AI, come i chatbot, i contenuti sintetici, compreso il testo parzialmente o completamente generato dall’AI, i deepfake e i testi generati su questioni di interesse pubblico, oltre ad alcuni esempi di eccezioni come l’editing standard, ad esempio l’ortografia e la correzione grammaticale. Gli orientamenti integrano il codice di buone pratiche sulla trasparenza dei contenuti generati dall’AI, redatto da esperti indipendenti per essere un mezzo su cui i fornitori e i distributori di AI possono fare affidamento per dimostrare la conformità alla legge.
Al fine di rendere chiari gli obblighi ai sensi della legge sull’AI, che inizierà a essere applicata il prossimo 2 agosto, la Commissione sta attivando una serie di strumenti, come appunto gli orientamenti, il codice di buone pratiche e anche il Service Desk, un polo di informazioni accessibile e aggiornato che offre orientamenti chiari sulla legge europea sull’AI.
