Basta una frase nel log per ingannare l’AI che protegge le aziende
Un agente AI difensivo legge log, nomi file, user-agent, ticket: ognuno di essi è un canale di input che l'attaccante controlla, e quindi una superficie di prompt injection contro chi difende. La partita non si gioca sui privilegi dell'agente, come si sostiene spesso, ma sulla separazione fra dati osservati e istruzioni eseguite L'articolo Basta una frase nel log per ingannare l’AI che protegge le aziende proviene da Agenda Digitale.
Un agente AI difensivo legge log, nomi file, user-agent, ticket: ognuno di essi è un canale di input che l'attaccante controlla, e quindi una superficie di prompt injection contro chi difende. La partita non si gioca sui privilegi dell'agente, come si sostiene spesso, ma sulla separazione fra dati osservati e istruzioni eseguite
L'articolo Basta una frase nel log per ingannare l’AI che protegge le aziende proviene da Agenda Digitale.
Agenda Digitale
Il giornale sull'agenda digitale italiana
