Cisco AI Defense è la nuova soluzione end-to-end di Cisco progettata per supportare e proteggere le aziende dalla radicale trasformazione che l’Intelligenza Artificiale sta introducendo.

Il rapido progresso della tecnologia AI ha fatto emergere infatti nuove sfide e minacce alla sicurezza a una velocità senza precedenti, contro cui le soluzioni tradizionali risultano insufficienti. Cisco AI Defense è quindi stata sviluppata per offrire alle aziende un modo sicuro e affidabile per creare, implementare e proteggere applicazioni basate sull’Intelligenza Artificiale, proteggendo contro l’uso improprio degli strumenti di AI, la perdita di dati e minacce sempre più sofisticate, che le soluzioni di sicurezza tradizionali non riescono a gestire.

“I leader aziendali e tecnologici non possono permettersi di sacrificare la sicurezza a favore della velocità nell’adozione dell’intelligenza artificiale – ha dichiarato Jeetu Patel, executive vice president e chief product officer di Cisco -. In un contesto competitivo sempre più dinamico, la velocità è il fattore decisivo per determinare i vincitori. Integrato nel tessuto della rete, Cisco AI Defense offre un approccio unico, combinando la capacità di rilevare e proteggere dalle minacce con la possibilità di sviluppare e accedere alle applicazioni AI in totale sicurezza, senza compromessi”.

Le conseguenze di un errore nell’ambito dell’AI possono essere estremamente gravi. Secondo l’AI Readiness Index 2024 di Cisco, solo il 29% degli intervistati si sente adeguatamente preparato a rilevare e prevenire manipolazioni non autorizzate dell’intelligenza artificiale. Le sfide legate alla sicurezza risultano particolarmente nuove e complesse, poiché le applicazioni di AI si sviluppano su più modelli e ambienti multi-cloud. Le vulnerabilità possono emergere sia a livello di modello che di applicazione, mentre la responsabilità è distribuita tra molteplici attori, tra cui sviluppatori, utenti finali e fornitori. Con il passaggio delle aziende dall’utilizzo di dati pubblici all’addestramento dei modelli su dati proprietari, i rischi di sicurezza non fanno che aumentare.

Per promuovere l’innovazione e favorire l’adozione dell’intelligenza artificiale, le aziende devono allora garantire un livello uniforme di sicurezza in grado di proteggere ogni utente e ogni applicazione. AI Defense offre alle imprese la possibilità di sfruttare appieno il potenziale dell’AI, affrontando due rischi critici e urgenti.

Il primo rischio critico è rappresentato dallo sviluppo e distribuzione di applicazioni AI sicure: con l’adozione crescente dell’intelligenza artificiale, le aziende si troveranno a utilizzare e sviluppare centinaia, se non migliaia, di applicazioni basate sull’AI. Gli sviluppatori quindi hanno sempre più bisogno di un insieme di strumenti e linee guida di sicurezza che possano garantire la protezione dell’AI per ogni applicazione. AI Defense è in grado di farlo, supportando gli sviluppatori nel muoversi rapidamente e nel massimizzare il valore creato, proteggendo i sistemi di AI dagli attacchi e salvaguardando il comportamento dei modelli su tutte le piattaforme.

Le funzionalità di AI Defense su questo primo fronte includono:

• Rivelare l’intelligenza artificiale: i team di sicurezza devono avere visibilità su chi sta sviluppando le applicazioni AI e sulle fonti di dati utilizzate per l’addestramento dei modelli. AI Defense identifica le applicazioni di intelligenza artificiale non autorizzate o sanzionate, sia su cloud pubblici che privati.
• Convalida del modello: La messa a punto del modello può generare risultati inattesi o potenzialmente dannosi. I test automatizzati eseguono controlli sui modelli di AI per identificare centinaia di potenziali problemi di sicurezza e protezione. Un ‘red-team’ guidato dall’AI, individua vulnerabilità critiche e fornisce raccomandazioni ai team di sicurezza, suggerendo l’adozione di barriere di sicurezza, integrate in AI Defense, per mitigare i rischi.
• Sicurezza run-time: un processo di convalida continua protegge le applicazioni AI da potenziali minacce, come attacchi di prompt injection, denial of service e perdite di dati sensibili.

Il secondo fronte di criticità riguarda quindi la protezione dell’accesso alle applicazioni AI: mentre gli utenti finali accelerano l’adozione di applicazioni basate sull’intelligenza artificiale, come gli strumenti di sintesi per ottimizzare la loro produttività, i team di sicurezza devono prevenire la perdita di dati e il rischio di contaminazione dei dati sensibili. In questo ambito, AI Defense offre ai team di sicurezza:

• Visibilità: offre una panoramica completa delle applicazioni basate sull’intelligenza artificiale non autorizzate utilizzate dai dipendenti.
• Controllo degli accessi: applica politiche che restringono l’accesso dei dipendenti a strumenti di intelligenza artificiale non autorizzati.
• Protezione dei dati e mitigazione delle minacce: protezione costante contro le minacce e la perdita di dati sensibili, assicurando al contempo il rispetto delle normative di conformità.

A differenza delle barriere di sicurezza integrate nei singoli modelli di intelligenza artificiale, Cisco offre controlli uniformi per un ambiente multi-modello. AI Defense si auto-ottimizza, sfruttando i modelli di apprendimento automatico proprietari di Cisco per rilevare e contrastare le minacce e i rischi in continua evoluzione legati alla sicurezza dell’intelligenza artificiale, basandosi sulle informazioni sulle minacce di Cisco Talos. I clienti Splunk che utilizzano AI Defense riceveranno avvisi arricchiti con un contesto aggiuntivo da tutto l’ecosistema. AI Defense si integra perfettamente con i flussi di dati esistenti, offrendo una visibilità e un controllo senza pari, ed è incluso in Security Cloud, la piattaforma di sicurezza unificata, basata sull’intelligenza artificiale e trasversale a tutti i settori di Cisco.

Grazie alla vasta rete di punti di applicazione di Cisco, è in grado di implementare la sicurezza dell’AI a livello di rete, un approccio ottimizzato che solo Cisco è in grado di offrire. L’accuratezza e l’affidabilità sono fondamentali per proteggere le applicazioni AI aziendali, e Cisco ha contribuito attivamente allo sviluppo degli standard di settore per la sicurezza dell’intelligenza artificiale, tra cui quelli di MITRE, OWASP e NIST.

“L’adozione dell’intelligenza artificiale comporta nuovi rischi per le aziende, rischi che le soluzioni di cybersecurity tradizionali non sono in grado di gestire – dichiara infine Kent Noyes, global head of AI & Cyber innovation di World Wide Technology -. Cisco AI Defense rappresenta un importante progresso nella sicurezza dell’intelligenza artificiale, poiché offre una visibilità completa delle risorse AI aziendali e una protezione efficace contro le minacce in continua evoluzione”.

AI Defense è l’ultima di una serie di innovazioni in ambito di sicurezza basata sull’intelligenza artificiale sviluppate da Cisco, tra cui Cisco Hypershield. Cisco AI Defense sarà disponibile a partire da marzo 2025, offrendo alle aziende una protezione avanzata durante le loro trasformazioni digitali basate sull’AI.