Le uscite dagli strati meno profondi riducono la vulnerabilità ai jailbreak nei LLM
Far rispondere un modello linguistico dai livelli più superficiali potrebbe renderlo più difficile da aggirare: lo suggerisce uno studio sulla vulnerabilità ai jailbreak nei LLM. Nei test, le uscite superficiali (le cosiddette shallow exits) hanno resistito agli attacchi meglio di quelle profonde in modo costante. La ricerca esamina come una tecnica nata per migliorare l’efficienza […]
Far rispondere un modello linguistico dai livelli più superficiali potrebbe renderlo più difficile da aggirare: lo suggerisce uno studio sulla vulnerabilità ai jailbreak nei LLM. Nei test, le uscite superficiali (le cosiddette shallow exits) hanno resistito agli attacchi meglio di quelle profonde in modo costante. La ricerca esamina come una tecnica nata per migliorare l’efficienza […]
The Cryptonomist
Tutto dal mondo blockchain
