Quando un algoritmo nega un prestito o scarta un curriculum, la domanda naturale è: cosa avrebbe dovuto essere diverso per ottenere un esito positivo? Le spiegazioni controfattuali nascono proprio per rispondere a questa domanda. Il problema è che molti sistemi esistenti forniscono risposte tecnicamente valide ma praticamente inutili: «dovresti avere 10 anni di esperienza in più» oppure «cambia la tua età». Suggerimenti impossibili da mettere in pratica.
PACE, il framework presentato in un recente paper su arXiv, affronta questo limite in modo strutturato. L'idea centrale è separare due funzioni che di solito vengono mescolate: la predizione, affidata a una rete neurale classica, e il ragionamento sui vincoli, delegato a un motore simbolico basato su Answer Set Programming (ASP). Il risultato è che le spiegazioni prodotte non si limitano a indicare un percorso alternativo verso una decisione diversa, ma garantiscono che quel percorso sia effettivamente percorribile.
In pratica, il livello simbolico codifica regole esplicite: quali attributi sono modificabili (titolo di studio, occupazione, ore lavorate), quali sono intoccabili (provenienza, sesso, età), e quali transizioni tra stati sono realistiche. Questo filtraggio avviene prima che la spiegazione venga restituita all'utente, evitando raccomandazioni assurde.
Il caso di test utilizza il noto dataset Adult Income, dove l'obiettivo è prevedere se una persona supera una certa soglia di reddito. I risultati mostrano un compromesso atteso: i vincoli simbolici riducono leggermente la percentuale di controfattuali che cambiano effettivamente la predizione, ma aumentano significativamente la plausibilità e la coerenza con la realtà del dominio. Un trade-off che, in contesti professionali, vale quasi sempre la pena accettare.
Per chi lavora su sistemi decisionali in settori regolamentati — credito, assunzioni, accesso a servizi pubblici — PACE offre un'architettura modulare e adattabile. Non richiede di rifare il modello predittivo esistente: basta aggiungere lo strato simbolico con le regole specifiche del proprio dominio. Con l'AI Act europeo che inizia a mordere, avere spiegazioni che reggono anche a un'analisi umana critica smette di essere un plus e diventa una necessità operativa.
Punti chiave
- PACE separa la predizione neurale dal ragionamento simbolico, consentendo di imporre vincoli di dominio realistici sulle spiegazioni generate
- Utilizza l'Answer Set Programming (ASP) per codificare regole su quali modifiche sono effettivamente praticabili, escludendo attributi immutabili come età o sesso
- Il framework è model-agnostic: può essere adattato a qualsiasi classificatore e a diversi settori che richiedono decisioni spiegabili e azionabili
Perché è importante
In Italia e in Europa, con il regolamento AI Act che impone trasparenza e spiegabilità ai sistemi ad alto rischio, avere strumenti XAI che producano raccomandazioni realmente attuabili non è un dettaglio tecnico ma un requisito concreto di conformità e fiducia.
A chi serve
Utile per data scientist, sviluppatori di sistemi AI in ambito HR, credito o sanità, e per aziende che devono rispettare obblighi di spiegabilità previsti dalla normativa europea.
Leggi la fonte originale ↗