L’Agenzia dell’Unione europea per la cybersecurity (ENISA), in collaborazione con CERT-EU, ha pubblicato un rapporto sull’utilizzo dei modelli avanzati di intelligenza artificiale (IA) per supportare le attività di revisione della sicurezza del software open source utilizzato dalle istituzioni, dagli organi, dagli uffici e dalle agenzie dell’Unione europea.
L’iniziativa nasce da un esperimento finalizzato a valutare la capacità dei modelli di IA di individuare potenziali vulnerabilità e contribuire ai processi di verifica della sicurezza del codice.
L’attività ha interessato 27 codici sorgente e si è concentrata esclusivamente sull’analisi del codice, senza accedere alle implementazioni in produzione né effettuare test su applicazioni operative.
Nel corso dell’esperimento, i modelli hanno individuato complessivamente 220 potenziali problemi di sicurezza, successivamente segnalati ai rispettivi responsabili del codice.
La verifica dei risultati richiede tuttavia il coinvolgimento di esperti e tempi di valutazione significativi. Al momento della pubblicazione, erano stati esaminati 88 risultati: il 95% è stato confermato come vero positivo. Dalle verifiche sono inoltre derivati quattro nuovi identificativi CVE (Common Vulnerabilities and Exposures), utilizzati per identificare vulnerabilità di sicurezza.
Secondo ENISA, i risultati mostrano un’elevata capacità dei modelli di individuare problemi effettivi, almeno per il campione di segnalazioni già sottoposto a verifica. L’intelligenza artificiale può quindi contribuire ad accelerare le revisioni del codice, ma non sostituire il giudizio degli esperti. In assenza di informazioni sul contesto di implementazione, infatti, i modelli possono sovrastimare la gravità o l’impatto concreto delle vulnerabilità, generando un numero elevato di segnalazioni da verificare.
L’esperimento ha evidenziato anche differenze tra gli strumenti utilizzati: gli agenti di codifica generalisti, dotati di funzionalità di sicurezza o plug-in, sono risultati generalmente più rapidi ed economici, mentre gli strumenti specializzati hanno richiesto maggiori risorse, ma hanno consentito analisi più approfondite e una riduzione dei risultati non confermati.
ENISA raccomanda alle organizzazioni interessate di svolgere queste attività in ambienti di test sicuri e isolati, prevedendo sempre la verifica da parte di esperti qualificati e il rispetto delle procedure di divulgazione coordinata delle vulnerabilità (CVD).

