L’Intelligenza artificiale è ormai considerata una priorità nelle strategie di sicurezza da due terzi delle organizzazioni, principalmente per la capacità di analizzare grandi quantità di dati e identificare modelli di attacco, consentendo di anticipare, rilevare e rispondere alle minacce in modo più efficace.
L’Intelligenza artificiale e l’AI generativa stanno rapidamente trasformando il panorama della sicurezza informatica. Ma queste tecnologie non offrono solo innovative opportunità di difesa. Al contempo, introducono minacce complesse.
Lo conferma il nuovo report del Capgemini Research Institute su 1.000 aziende di 12 settori in 13 Paesi del mondo, dal titolo ‘New defenses, new threats: what AI and Gen AI bring to cybersecurity’.
Perdite finanziarie generate dai deepfake
Infatti, l’ascesa delle tecnologie generative, con l’abilità nel generare contenuti sintetici altamente realistici, apre la strada a nuove problematiche. Quasi tutte le compagnie intervistate (97%) affermano di aver riscontrato violazioni o problemi di sicurezza legati all’uso della Gen AI nell’ultimo anno.
Anche perché, i criminali informatici possono sfruttare questa tecnologia per creare attacchi più sofisticati e difficili da individuare, ampliando la superficie di attacco ed esponendo le debolezze dei sistemi informatici.
Oltre due aziende su cinque (43%) hanno infatti dichiarato di aver subito perdite finanziarie derivanti dall’uso di deepfake, falsi contenuti multimediali generati dai software di Intelligenza artificiale.
Anche l’inesperienza è pericolosa
Quasi tutte le compagnie intervistate hanno riscontrato problemi di sicurezza legati all’uso dell’AI generativa, tra cui le cosiddette ‘allucinazioni’, ossia risposte errate e fuorvianti, oppure la generazione di contenuti inappropriati e attacchi ‘prompt injection’, che mirano alle vulnerabilità dei modelli di linguaggio di grandi dimensioni, come quelli che alimentano chatbot e assistenti virtuali.
Non a caso, circa 6 organizzazioni su 10 ritengono di dover aumentare il budget destinato alla cybersecurity per rafforzare adeguatamente le proprie difese.
Il Capgemini Research Institute evidenzia anche i rischi legati all’uso improprio dell’AI e della Gen AI da parte dei dipendenti: anche le inesperienze possono causare, magari indirettamente, violazioni dei dati e perdite finanziarie.
La sicurezza aziendale richiede un approccio olistico
Cresce, inoltre, la preoccupazione per la manipolazione dei dati e la possibile fuga di informazioni attraverso gli archivi utilizzati per l’addestramento dei modelli di AI generativa.
Nonostante tutte queste nuove sfide, riporta ANSAcom, l’Intelligenza artificiale e la Gen AI sono ormai strumenti fondamentali e imprescindibili per la cybersecurity.
Le organizzazioni devono però adottare un approccio olistico alla sicurezza, investendo in tecnologie avanzate e in formazione dei dipendenti. Solo così si mitigano i rischi e si sfruttano pienamente i benefici offerti da queste potenti tecnologie.
