Attacchi avversari testuali con poche query: le difese AI reggono ancora?
Gli algoritmi che proteggono i modelli linguistici hanno un punto debole strutturale: quando si opera in un contesto hard-label, dove il sistema restituisce solo l’etichetta finale senza probabilità o punteggi interni, generare attacchi avversari testuali di alta qualità con un numero limitato di query diventa un problema quasi intrattabile. Un paper firmato da Shixin Guo […]
Gli algoritmi che proteggono i modelli linguistici hanno un punto debole strutturale: quando si opera in un contesto hard-label, dove il sistema restituisce solo l’etichetta finale senza probabilità o punteggi interni, generare attacchi avversari testuali di alta qualità con un numero limitato di query diventa un problema quasi intrattabile. Un paper firmato da Shixin Guo […]
The Cryptonomist
Tutto dal mondo blockchain
