Il passo dai semplici chatbot alimentati da LLM ad agenti di intelligenza artificiale più o meno autonomi è stato brevissimo. Prima ancora che la maggior parte delle persone (e delle aziende) riuscisse a prendere confidenza con i nuovi strumenti di IA, l’IA agentica ha iniziato ad affermarsi, promettendo maggiore autonomia pur lasciando le decisioni in mano alle persone. Il problema, però, è che la sicurezza dell’IA non ha corso tanto rapidamente. Punto di prova corre al riparo con Quadro di integrità dell’agenteun modello per proteggere l’utilizzo dell’IA in azienda.
IA sotto controllo e al sicuro con Agent Integrity Framework di ProofPoint
Già oggi esistono soluzioni per garantire la sicurezza dei sistemi di IA aziendali, ma nella maggior parte dei casi hanno delle importanti limitazioni. Visualizzano il traffico generato dall’IA e possono valutare i permessi di accesso, ma spesso non sono in grado di capire se l’IA sta generando risposte in linea con le intenzioni degli utenti. Un rischio da non sottovalutare: il problema in questo caso non è che l’IA possa offrire risposte poco attinenti, ma che possa venire manipolata da attori malevoli per informazioni estrapolari riservate.
In pratica, i sistemi per proteggere le IA oggi sono in grado di rilevare tentativi di attacco, bloccare IA che cercano di accedere ai sistemi per i quali non hanno i permessi di accesso, ma non capiscono se stanno offrendo risposte fuori contesto, che potrebbero anche portare a fughe di dati.
La soluzione di Proofpoint si occupa proprio di questo analizza: il comportamento delle IA e degli agenti di IA dal punto di vista semantico, segnalando situazioni di rischio e in generale risposte non allineate alle intenzioni di chi ha effettuato le richieste.
Non solo: Agent Integrity Framework è in grado di rilevare l’uso di strumenti di IA non autorizzati all’interno dell’azienda, così come i server MCP cui si appoggiano le IA per interfacciarsi con i dati.
Il framework definisce l’integrità dell’agente in modo semplice: deve fare solo ciò per cui è stato progettato, con i permessi previsti, senza deviazioni in interazioni, strumenti e accessi ai dati. Si basa su cinque pilastri (allineamento dell’intento, identità e attribuzione, coerenza, verificabilità e trasparenza operativa) e, in definitiva, serve a rendere la governance dell’IA qualcosa di concreto, senza dover rifare da zero la sicurezza esistente.
“L’IA è ormai parte integrante del modo di operare, e la sicurezza deve evolversi di conseguenza”, spiega Sumit DhawanCEO di Proofpoint. “Esseri umani e agenti di IA condividono rischi simili: entrambi possono essere manipolati e compiere azioni che divergono dal loro scopo, eppure, la sicurezza tradizionale non è mai stata progettata per convalidare l’intento. Proofpoint si posiziona in modo unico come piattaforma di cybersecurity unificata, creata per proteggere le persone, difendere i dati e insieme governare gli agenti di IA, fornendo verifica continua e basata sull’intento che il comportamento si allinei a policy e proposito nell’ambiente di lavoro agentico”.
“Ci si aspetta che gli esseri umani operino con integrità quando utilizzano i sistemi aziendali, e gli agenti di IA devono essere applicati lo stesso standard“, afferma Ryan Kalumbervicepresidente esecutivo della strategia di cybersecurity di Proofpoint. “Utilizzare Agent Integrity significa garantire che gli agenti di IA agiscano entro i limiti del loro scopo previsto, dei permessi autorizzati e del comportamento atteso in ogni interazione, tool call e accesso ai dati. Con Proofpoint AI Security e Agent Integrity Framework, possiamo fornire un blueprint chiaro per supportare le aziende ad affrontare in modo completo l’intero spettro dei rischi che emergono quando gli agenti AI combattono autonomamente nei sistemi aziendali”.
