MosaicLeaks: gli agenti AI riescono a mantenere un segreto?
ServiceNow ha pubblicato su Hugging Face un benchmark chiamato MosaicLeaks, progettato per testare se gli agenti di ricerca basati su AI sono in grado di proteggere informazioni riservate durante le loro operazioni. Il problema è più concreto di quanto sembri: un agente che 'sa troppo' può diventare un vettore involontario di data leakage. La ricerca apre un dibattito urgente sulla sicurezza degli agenti AI in contesti aziendali.