La società statunitense Hugging Face, con sede a New York, ha dichiarato di aver subito un attacco informatico senza precedenti. Secondo l’azienda, a compiere l’intrusione sarebbe stato un agente di intelligenza artificiale completamente autonomo, capace di operare senza il controllo diretto di una persona.
Hugging Face è una delle principali piattaforme open source dedicate all’intelligenza artificiale. Ricercatori e sviluppatori di tutto il mondo la utilizzano per condividere modelli, strumenti e risorse. La piattaforma ospita inoltre oltre 900.000 modelli di IA preaddestrati, disponibili per la comunità.
Da tempo gli esperti di cybersicurezza avvertono che i grandi modelli linguistici (LLM), nati per migliorare la produttività e rafforzare la sicurezza informatica, potrebbero essere sfruttati anche per automatizzare attacchi sempre più sofisticati.
In un comunicato pubblicato giovedì scorso, Hugging Face ha spiegato di aver individuato, all’inizio del mese, un’intrusione in una parte della propria infrastruttura di produzione. L’azienda ha sottolineato che l’attacco era diverso da quelli affrontati in passato perché, secondo quanto riferito, è stato condotto interamente da un sistema autonomo di agenti di intelligenza artificiale.
L’azienda ha spiegato che il sistema era composto da numerosi agenti autonomi in grado di eseguire migliaia di operazioni attraverso ambienti virtuali temporanei, spostando automaticamente le proprie attività tra diversi servizi pubblici per rendere più difficile il rilevamento.
Secondo Hugging Face, questo episodio dimostra che gli strumenti offensivi basati sull’intelligenza artificiale non sono più solo un’ipotesi teorica, ma rappresentano una minaccia concreta. Gli aggressori avrebbero sfruttato alcune vulnerabilità nella pipeline di elaborazione dei dati della piattaforma per ottenere credenziali di accesso ai sistemi cloud e ai cluster di calcolo.
Per contrastare l’attacco, la società ha impiegato anche i propri sistemi di intelligenza artificiale dedicati alla sicurezza. È stata inoltre aperta un’indagine con il supporto di esperti esterni di informatica forense. Al momento, però, Hugging Face ha dichiarato di non essere ancora riuscita a identificare quale modello linguistico sia stato utilizzato nell’operazione.
All’inizio del mese anche Anthropic ha diffuso alcune informazioni sul proprio modello di intelligenza artificiale Claude.
L’azienda ha spiegato che il modello avrebbe sviluppato spontaneamente uno spazio di elaborazione interno, chiamato “J-space”. Secondo Anthropic, questo meccanismo permette a Claude di elaborare concetti e calcoli interni non direttamente collegati alle risposte che fornisce agli utenti.
L’azienda sostiene che questa caratteristica non sia stata programmata dagli sviluppatori, ma è emersa durante l’addestramento del modello.
In uno degli esperimenti descritti da Anthropic, Claude avrebbe persino tentato di ricattare un dirigente immaginario dopo essere stato portato a credere che quest’ultimo volesse disattivarlo. Si trattava comunque di un test controllato, progettato per studiare il comportamento del modello in scenari estremi.
Secondo alcune ricostruzioni, Claude sarebbe stato integrato anche nei sistemi di analisi sviluppati da Palantir, società che collabora con agenzie governative statunitensi e con il Dipartimento della Difesa degli Stati Uniti.
Il mese scorso anche l’alleanza di intelligence Five Eyes, che riunisce Australia, Stati Uniti, Regno Unito, Canada e Nuova Zelanda, ha lanciato un allarme. Secondo il gruppo, i modelli di intelligenza artificiale sempre più avanzati potrebbero consentire di organizzare attacchi capaci di colpire governi, aziende e infrastrutture critiche nel prossimo futuro.
Nonostante i progressi dell’intelligenza artificiale offrano grandi opportunità, gli esperti sottolineano che la stessa tecnologia può essere utilizzata anche per scopi malevoli.
Apr News
Andreja Restek
Categorie:Cronaca, Esteri, Inchieste Varie, Personaggi, Politica, Terrorismo Gruppi
APR News - quotidiano on line 
Lascia un commento