Quando parliamo di disinformazione nell'era dell'intelligenza artificiale, tendiamo a pensare a deepfake, notizie false e chatbot che allucinano. Ma un gruppo di ricercatori sostiene che il vero problema sia molto più sottile — e più pericoloso.
Un nuovo paper pubblicato su arXiv introduce il concetto di Adversarial Social Epistemology (ASE), ovvero un framework per analizzare come la fiducia viene manipolata in ecosistemi comunicativi dove umani e modelli linguistici di grandi dimensioni coesistono e si influenzano a vicenda.
L'idea centrale è questa: le nostre comunicazioni pubbliche non funzionano su affermazioni isolate, ma su catene di testimonianze, inferenze, certificazioni istituzionali e fiducia implicita. Quando un giornale cita un esperto, che a sua volta cita uno studio, che è stato pubblicato da un ente accreditato, ogni passaggio aggiunge un livello di credibilità. È questo 'scaffolding' della fiducia che rende l'informazione scalabile nella società.
Il problema? Questi stessi meccanismi diventano vettori di manipolazione. Un agente — umano o IA — non deve inventarsi tutto da zero: gli basta inserirsi in un punto della catena, distorcere leggermente un dato, omettere una sfumatura critica, o presentare un'inferenza parziale come conclusione definitiva. Il risultato è un'informazione che sembra affidabile perché porta il marchio della fiducia istituzionale, ma è stata compromessa lungo il percorso.
I ricercatori evidenziano che concetti come 'bolla informativa' o 'camera d'eco' non catturano questo fenomeno: quelle categorie descrivono chi non raggiunge certe informazioni, mentre qui si tratta di chi usa attivamente i meccanismi di legittimazione per ingannare.
La proposta del paper è duplice. Da un lato, un vocabolario analitico preciso per identificare i punti di vulnerabilità nelle catene di comunicazione. Dall'altro, strumenti di audit basati su reti epistemiche e su una semantica che valuta il significato delle affermazioni in base alle inferenze che le supportano, non solo al loro contenuto superficiale.
Per chi lavora con LLM in contesti professionali — dall'automazione dei contenuti editoriali ai sistemi di supporto decisionale aziendale — questo framework offre una lente nuova per valutare i rischi. Non basta chiedersi 'l'IA ha detto qualcosa di falso?', ma 'in quale punto della catena di fiducia si è inserita, e con quale effetto?'
Un cambio di prospettiva che, nel contesto italiano dove la governance dell'IA è ancora in fase di definizione, potrebbe rivelarsi prezioso.
Punti chiave
- Le categorie tradizionali come 'echo chamber' e 'bolla informativa' non bastano più a spiegare la manipolazione delle fonti nell'era degli LLM
- Il framework ASE analizza come agenti umani e IA sfruttano i meccanismi di fiducia istituzionale per distorcere, omettere o fabbricare informazioni
- Viene proposta una struttura di audit delle catene inferenziali basata su reti epistemiche e semantica inferenzialista
Perché è importante
Con la diffusione degli LLM nelle comunicazioni professionali e istituzionali italiane, capire come la fiducia viene sistematicamente erosa è cruciale per chi progetta sistemi, policy e prodotti basati sull'IA. Questo lavoro offre strumenti concettuali concreti per affrontare il problema prima che diventi emergenza.
A chi serve
Utile per ricercatori di IA, product manager che sviluppano sistemi informativi basati su LLM, responsabili compliance e policy maker che si occupano di governance dell'intelligenza artificiale.
Leggi la fonte originale ↗