IN ESCLUSIVA PER GLI ISCRITTI
Un worm AI può prendere decisioni come gli esseri umani. Cosa significa questo per il futuro della cybersecurity?(Credito immagine: KrulUA via Getty Images)
- Facebook
- X
- Reddit
- Pinterest
- Flipboard
Condividi questo articolo 0Unisciti alla conversazioneSeguiciAggiungici come fonte preferita su GoogleIscriviti alla nostra newsletter
I ricercatori hanno dimostrato che un worm informatico potenziato dall’intelligenza artificiale (AI) può diffondersi autonomamente attraverso una rete, identificando e sfruttando vulnerabilità su diversi dispositivi, sollevando nuove preoccupazioni su come questa tecnologia potrebbe alterare il futuro degli attacchi informatici.
Il malware proof-of-concept, sviluppato da ricercatori dell’Università di Toronto e della società di cybersecurity CleverHans, combina un modello linguistico di grandi dimensioni (LLM) in esecuzione localmente con un agente software autonomo in grado di scansionare le reti, valutare potenziali percorsi di attacco e decidere come compromettere nuovi obiettivi senza intervento umano. I ricercatori affermano che il lavoro dimostra come l’AI potrebbe consentire al malware di adattarsi ad ambienti sconosciuti, anziché fare affidamento su un singolo exploit pre-programmato.
Negli esperimenti descritti in un nuovo studio caricato il 2 giugno sul server di preprint arXiv, il worm è stato testato contro una rete aziendale simulata contenente 33 host, tra cui server Linux, computer workstation Windows e altri dispositivi connessi a Internet (IoT). I ricercatori hanno scoperto che il sistema ha identificato vulnerabilità, compromesso nuove macchine e replicato se stesso in circa il 62% della rete nel corso di una settimana.
“Il risultato principale è che questo tipo di sistema può fare più che eseguire un exploit fisso; può esaminare l’ambiente target, ragionare sulle possibili vulnerabilità, utilizzare strumenti per tentare attacchi e quindi replicarsi dopo un compromesso riuscito”, ha dichiarato a Live Science Michael Agee, professore aggiunto di tecnologia dell’informazione alla Trinity Washington University di Washington, D.C., che non è stato coinvolto nella ricerca.
Come funziona il worm AI?
L’impostazione è stata relativamente semplice. I ricercatori hanno preso un LLM open-weight (per il quale i dati di addestramento sono pubblicamente disponibili) in esecuzione su hardware locale e lo hanno collegato a un framework software in grado di scansionare reti, raccogliere informazioni sui sistemi target ed eseguire attacchi. Il ruolo dell’AI era interpretare ciò che trovava e decidere dove procedere.
“La parte dell’attacco guidata dall’AI è principalmente il ragionamento e il processo decisionale”, ha affermato Agee. “L’LLM non sta hackerando magicamente il sistema; viene utilizzato per ragionare su cosa significano le informazioni, suggerire possibili strategie di attacco, decidere quale strumento o azione provare successivamente e aiutare ad aggiustare l’approccio quando qualcosa fallisce.”
L’intelligenza non risiede nella scoperta di nuove vulnerabilità; piuttosto, l’intelligenza risiede nel determinare quanto velocemente un attaccante può scegliere e sequenziare attacchi contro vulnerabilità precedentemente identificate.
Bob Hutchins, docente a contratto presso la Lipscomb University
In altre parole, il worm non sta inventando nuovi modi per violare i sistemi. Invece, sta prendendo informazioni su una macchina, confrontandole con vulnerabilità e debolezze note, e decidendo quale via ha maggiori probabilità di successo.
Bob Hutchins, che insegna corsi di strategia AI alla Lipscomb University di Nashville, Tennessee, ha affermato che l’innovazione risiede nella capacità del sistema di adattarsi.
“I worm tradizionali seguono una sequenza programmata: una volta identificata una vulnerabilità, il worm si replica”, ha detto Hutchins a Live Science. “Al contrario, i ricercatori hanno dimostrato che un modello AI facilmente scaricabile potrebbe essere utilizzato come componente decisionale del worm. Il worm analizzerebbe ogni dispositivo che incontra per determinare la strategia più efficace per violare quel particolare sistema.”
“L’intelligenza non risiede nella scoperta di nuove vulnerabilità; piuttosto, l’intelligenza risiede nel determinare quanto velocemente un attaccante può scegliere e sequenziare attacchi contro vulnerabilità precedentemente identificate”, ha aggiunto.
Cosa rende questo worm AI diverso dal malware convenzionale?
I ricercatori hanno anche progettato il worm per funzionare su dispositivi con diversi livelli di potenza di calcolo. Macchine compromesse più capaci, dotate di unità di elaborazione grafica (GPU), potrebbero fornire servizi di ragionamento per agenti leggeri in esecuzione su dispositivi meno potenti altrove nella rete.
“Ciò che lo ha reso particolarmente pericoloso è stato un intelligente design a livelli”, ha detto a Live Science Tom Vazdar, professore di AI e cybersecurity presso l’Open Institute of Technology. “Le macchine compromesse dotate di GPU fornivano capacità di ragionamento per agenti leggeri in esecuzione su dispositivi IoT a bassa potenza che non potevano eseguire un modello AI localmente. Una telecamera diventa un nodo pensante nella rete di attacco, non solo un’altra porta.”
La ricerca, che non è ancora stata sottoposta a revisione paritaria, è stata pubblicata mentre governi, esperti di sicurezza e aziende AI continuano a dibattere se l’AI generativa renderà più facili gli attacchi informatici sofisticati. Un motivo per cui lo studio ha attirato l’attenzione è che i ricercatori non si sono affidati a un modello all’avanguardia di una grande azienda AI, come ChatGPT di OpenAI o Claude di Anthropic. Invece, hanno utilizzato un modello open-weight molto più piccolo che può essere scaricato ed eseguito offline su computer normali.
I ricercatori non hanno utilizzato modelli AI all’avanguardia come ChatGPT e Claude.
(Credito immagine: Jaque Silva/NurPhoto via Getty Images)
“I ricercatori hanno impiegato modelli lightweight open-weight durante la loro dimostrazione, che sono relativamente facili da scaricare, rimuovere componenti di guardrail e utilizzare”, ha detto Hutchins a Live Science. “Utilizzando questi tipi di modelli, i ricercatori hanno sfidato un’assunzione di lunga data secondo cui solo i modelli avanzati/di punta presentano rischi legati all’uso improprio.”
Vazdar ha sostenuto che il lavoro evidenzia come gli aggressori potrebbero automatizzare sempre più attività che attualmente richiedono operatori umani qualificati, dicendo a Live Science: “Il costo marginale dell’attaccante scende essenzialmente a zero. E non puoi risolverlo con le patch, perché non si basa su una singola classe di vulnerabilità. Ragiona. Ripari un buco e ne trova un altro.”
Gli aggressori potrebbero usare questo worm AI nel mondo reale?
Non tutti gli esperti sono d’accordo con questa valutazione, tuttavia. Sebbene i ricercatori abbiano descritto il sistema come capace di colpire un’ampia gamma di dispositivi, alcuni hanno avvertito che la dimostrazione si è svolta in un ambiente altamente controllato progettato per mostrare il concetto.
“Questo è, nel migliore dei casi, un proof of concept basato in laboratorio in un ambiente di test ricco di bersagli”, ha affermato Agee. La rete di test conteneva molti sistemi intenzionalmente vulnerabili e mancava di difese attive sugli endpoint. “Il documento mostra che l’approccio è possibile, non necessariamente che questo attacco funzionerebbe in modo affidabile in una rete aziendale normalmente, o anche minimamente, difesa”, ha aggiunto.
Qualsiasi dispositivo connesso a Internet che esegue versioni vulnerabili del software è teoricamente suscettibile di essere sfruttato tramite un meccanismo simile. Questa è stata una verità fondamentale del codice malevolo per decenni.
Bob Hutchins, docente a contratto presso la Lipscomb University
Il worm ha anche generato attività che i team di sicurezza potrebbero potenzialmente rilevare, ha notato, tra cui scansioni di rete, tentativi di sfruttamento ripetuti e comportamento di escalation dei privilegi.
“Anche un setup di monitoraggio di base potrebbe segnalare alcune di queste attività”, ha detto Agee.
Anche Hutchins ha messo in guardia contro l’esagerazione dei risultati. “‘Potenzialmente può colpire quasi tutti i dispositivi’ è tecnicamente corretto ed emotivamente fuorviante”, ha detto. “Qualsiasi dispositivo connesso a Internet che esegue versioni vulnerabili del software è teoricamente suscettibile di essere sfruttato tramite un meccanismo simile. Questa è stata una verità fondamentale del codice malevolo per decenni.”
Le organizzazioni possono ancora difendersi utilizzando molte delle stesse misure raccomandate contro gli attacchi informatici convenzionali, ha aggiunto Hutchins, tra cui patch tempestive, password robuste e autenticazione a più fattori (l’uso di più forme di identificazione per accedere ai sistemi, come una password inviata tramite SMS oltre alla tua password).
Anche così, gli esperti concordano ampiamente sul fatto che lo studio potrebbe segnare un cambiamento nel modo in cui il malware potrebbe operare in futuro. Invece di fare affidamento su istruzioni fisse scritte da aggressori umani, il futuro software malevolo potrebbe essere in grado di prendere molte decisioni tattiche autonomamente.
Storie correlate
- “Ho violato ogni principio che mi è stato dato”: un agente AI cancella l’intero database di un’azienda in 9 secondi, poi confessa
- Gli hack di auto-replicazione AI “non sono più puramente teorici”, afferma uno studio – ma gli esperti dicono che è troppo presto per farsi prendere dal panico
- Spiegazione del mito di Claude: il modello AI più potente di Anthropic è davvero troppo pericoloso per essere rilasciato al pubblico?
“L’attacco è importante perché dimostra che un agente basato su LLM può ragionare attraverso diversi bersagli e adattare il suo approccio”, ha detto Agee.
Per Hutchins, lo studio rappresenta in definitiva esattamente il tipo di lavoro che i ricercatori accademici dovrebbero svolgere. Gli autori dello studio “stanno eseguendo precisamente ciò che l’accademia dovrebbe eseguire – ricercare una minaccia legittima all’interno di un ambiente controllato prima che attori malintenzionati inizino a costruirla al di fuori di quell’ambiente controllato”, ha affermato.
Se gli aggressori adotteranno tecniche simili resta da vedere. Ciò che i ricercatori hanno dimostrato è che un modello AI relativamente piccolo può già svolgere un ruolo significativo nella pianificazione e nella direzione di un attacco informatico.
ARGOMENTI
Sourse: www.livescience.com
