Si chiama AI Risk Repository ed è il primo tentativo di raccogliere e analizzare i rischi collegati all’Intelligenza artificiale.
Lo ha creato un gruppo di ricercatori del Massachusetts Institute of Technology (MIT), che hanno classificato in un database gli oltre 700 i rischi collegati all’Intelligenza artificiale estrapolandoli da rapporti, quotidiani e altri documenti.
Secondo gli esperti, “la mancanza di una comprensione condivisa dei rischi dell’AI può ostacolare la nostra capacità di discutere, ricercare e reagire in modo esaustivo”.
Per questo motivo, il database fornisce una panoramica accessibile al pubblico e sempre aperta ad aggiornamenti. L’obiettivo è farne un quadro comune di riferimento.
La “colpa” è del sistema non di errori umani
I rischi sono stati classificati in relazione alla loro causa, all’intenzionalità e al momento in cui si manifestano.
In particolare, per i ricercatori i rischi sono da attribuire soprattutto ai sistemi di AI (51%) piuttosto che a una decisione o azione di esseri umani (34%), ed è più probabile che si manifestino una volta che l’AI sia stata addestrata e impiegata (65%) piuttosto che durante il suo sviluppo (10%).
I rischi individuati sono stati raccolti in sette categorie, con maggiori preoccupazioni riguardanti la sicurezza, i danni socio-economici e ambientali, la discriminazione e la tossicità. Altri rischi citati nel database del MIT attengono a privacy e sicurezza, attori maligni e uso improprio, interazione uomo-macchina e disinformazione, riferisce Ansa.
“La letteratura scientifica è troppo frammentata”
Come ha spiegato a TechCrunch Peter Slattery, il responsabile del progetto, gli assessment dei rischi legati all’uso dell’AI “menzionavano in media solo il 34% dei 23 sottodomini che abbiamo identificato, e circa il 25% ne individuava meno di uno su cinque. Nessun documento che abbiamo analizzato menzionava tutti i 23 sottodomini, il più comprensivo ne citava solo il 70%. Quando la letteratura scientifica è così frammentata, è corretto assumere che non siamo tutti allineati rispetto a questi rischi”.
Di qui il tentativo di analizzare e racchiuderli in un database ampliabile e categorizzato, che chiunque possa copiare e utilizzare.
Politica, aziende, mondo accademico sono chiamati in causa
L’idea è che questo database possa essere utilizzato da chi deve regolamentare l’uso dell’Intelligenza artificiale, quindi in primo luogo dalla politica, per avere un quadro completo delle questioni sul tavolo e per conoscere quali siano i rischi emergenti. Ma anche che possa risultare utile per il mondo accademico come punto di partenza per migliorare la classificazione proposta dal team di Slattery, così come identificare nuove aree di ricerca, e potenzialmente, elementi di rischio ancora non identificati.
Per quanto riguarda invece le aziende che sviluppano questi modelli basati sull’AI, riporta Il Sole 24 Ore, il database è una risorsa per valutare i rischi ai quali si è esposti. Di conseguenza, individuare strategie di mitigazione di questi ultimi.
