Perché il rifiuto degli LLM non basta a rendere sicura l’AI
I grandi modelli linguistici vengono addestrati a rifiutare richieste pericolose, ma il loro “no” nasce da calcoli probabilistici e può essere aggirato. Tra jailbreak, informazioni a doppio uso e decisioni private sui limiti, la sicurezza dell’intelligenza artificiale resta esposta a falle e abusi L'articolo Perché il rifiuto degli LLM non basta a rendere sicura l’AI proviene da Agenda Digitale.
I grandi modelli linguistici vengono addestrati a rifiutare richieste pericolose, ma il loro “no” nasce da calcoli probabilistici e può essere aggirato. Tra jailbreak, informazioni a doppio uso e decisioni private sui limiti, la sicurezza dell’intelligenza artificiale resta esposta a falle e abusi
L'articolo Perché il rifiuto degli LLM non basta a rendere sicura l’AI proviene da Agenda Digitale.
Agenda Digitale
Il giornale sull'agenda digitale italiana
