Microsoft ha scoperto come trasformare un agente AI in un cavallo di Troia

Microsoft Research ha descritto Lazarus, una tecnica che permette di inserire una backdoor nei modelli linguistici modificando meno di dieci neuroni normalmente inattivi. Non serve riaddestrare l'IA e il modello può superare i normali test di sicurezza, fino a quando non si presenta una specifica condizione che attiva i comandi malevoli.

Nov 11, 2026 - 12:01
 0  0
Microsoft ha scoperto come trasformare un agente AI in un cavallo di Troia
Microsoft Research ha descritto Lazarus, una tecnica che permette di inserire una backdoor nei modelli linguistici modificando meno di dieci neuroni normalmente inattivi. Non serve riaddestrare l'IA e il modello può superare i normali test di sicurezza, fino a quando non si presenta una specifica condizione che attiva i comandi malevoli.
Hardware Upgrade Le News di Hardware Upgrade sulla tecnologia e sul mondo informatico - https://www.hwupgrade.it

Questo sito utilizza i cookie. Continuando a navigare nel sito accetterai l'uso dei cookie.