Prompt injection indiretta: come un PDF può compromettere processi aziendali
Un’istruzione nascosta in un documento può deviare un agente AI senza violare sistemi: è la prompt injection. Il rischio aumenta con l’autonomia degli LLM, che confondono dati e comandi. OpenAI e Google adottano difese multilivello; in azienda servono limiti, separazione del contesto e verifiche umane L'articolo Prompt injection indiretta: come un PDF può compromettere processi aziendali proviene da Agenda Digitale.
Un’istruzione nascosta in un documento può deviare un agente AI senza violare sistemi: è la prompt injection. Il rischio aumenta con l’autonomia degli LLM, che confondono dati e comandi. OpenAI e Google adottano difese multilivello; in azienda servono limiti, separazione del contesto e verifiche umane
L'articolo Prompt injection indiretta: come un PDF può compromettere processi aziendali proviene da Agenda Digitale.
Agenda Digitale
Il giornale sull'agenda digitale italiana
