Reti neurali più sicure: certificare la robustezza con i reticoli

La sicurezza dei sistemi di intelligenza artificiale passa anche dalla capacità di certificare formalmente il comportamento dei modelli. Un nuovo lavoro di ricerca propone un approccio originale al problema della robustezza avversariale nei percettron multistrato (MLP), traducendolo in un problema matematico su strutture chiamate reticoli.

L'idea centrale è elegante: ogni punto di ingresso a una rete neurale può essere associato a un intervallo, cioè una regione dello spazio degli input delimitata da iper-rettangoli allineati agli assi. Il framework definisce due tipi di certificazione. La prima, detta 'sound', garantisce che il modello non cambi la propria previsione finché l'input resta all'interno di quell'intervallo — è di fatto la formalizzazione classica della robustezza avversariale. La seconda, chiamata 'complete', è invece nuova: certifica che non appena l'input esce dall'intervallo, la previsione del modello cambierà con certezza.

Questa distinzione non è solo teorica. Avere entrambe le certificazioni consente di delimitare con precisione la zona di stabilità di un modello, sapendo non solo che è robusto dentro un certo perimetro, ma anche che quel perimetro è il massimo possibile nelle condizioni date.

La parte più interessante riguarda la complessità computazionale. I ricercatori dimostrano che trovare la certificazione completa minima richiede un numero polinomiale di chiamate a un verificatore formale — un risultato relativamente favorevole. Al contrario, ottimizzare la certificazione sound si rivela fortemente intrattabile nel caso generale. Esiste però un'eccezione: quando si lavora con intervalli simmetrici (sfere in norma infinito), gli autori propongono algoritmi con complessità logaritmica, un risultato notevole.

L'approccio si basa su operatori di traversal del reticolo, applicati in uno schema iterativo di raffinamento e verifica. Il sistema sperimentale ParallelepipedoNN è stato sviluppato appositamente per testare il framework in scenari reali.

Per chi lavora nello sviluppo di applicazioni AI in settori ad alta responsabilità — da sistemi diagnostici a veicoli autonomi, passando per modelli decisionali in ambito finanziario — disporre di strumenti di certificazione formale non è più un lusso accademico. Con l'avanzare della normativa europea sull'AI, dimostrare la robustezza dei propri modelli diventerà un requisito concreto. Questo tipo di ricerca costruisce le fondamenta algoritmiche su cui poggeranno i tool di compliance di domani.

Punti chiave

• La robustezza avversariale viene riformulata come problema di traversal su strutture a reticolo, aprendo nuove strade algoritmiche
• Vengono distinte due certificazioni: 'sound' (il modello non cambia previsione dentro l'intervallo) e 'complete' (fuori dall'intervallo la previsione cambia di sicuro)
• La certificazione completa è risolvibile in tempo polinomiale, mentre quella sound è computazionalmente intrattabile nel caso generale

Perché è importante

Capire i limiti precisi entro cui un modello AI rimane affidabile è cruciale per deployare sistemi sicuri in produzione, soprattutto in ambiti regolamentati come finanza, sanità e automotive. Questo lavoro fornisce basi teoriche solide per costruire strumenti di verifica formale più efficaci.

A chi serve

Utile a ricercatori di AI safety, ingegneri ML che lavorano su sistemi critici e aziende che devono dimostrare conformità normativa dei propri modelli AI.