ROMA (Public Policy Bytes) – Anthropic – startup statunitense che sviluppa la famiglia di LLM Claude e l’omonimo chatbot – ha annunciato di aver scoperto quello che reputa “il primo caso documentato di un attacco informatico su larga scala eseguito senza un intervento umano significativo”, condotto “sfruttando in misura senza precedenti le capacità ‘agentiche’ dell’IA e utilizzandola non solo come consulente, ma per eseguire direttamente gli attacchi”.
È quanto si apprende da una nota dell’azienda, che riporta gli esiti di accertamenti iniziati a metà settembre, dopo aver “rilevato un’attività sospetta che un’indagine successiva ha attribuito a una campagna di spionaggio altamente sofisticata”.
“Riteniamo con elevata certezza che il gruppo responsabile – un attore statale cinese – abbia manipolato il nostro strumento Claude Code affinché tentasse l’infiltrazione in circa trenta obiettivi globali, riuscendo in un numero limitato di casi. L’operazione ha preso di mira grandi aziende tecnologiche, istituzioni finanziarie, imprese chimiche e agenzie governative” – aggiunge Anthropic, sostenendo che “si sia raggiunto un punto di svolta nella cybersecurity: un momento in cui i modelli di IA sono diventati realmente utili per le operazioni di sicurezza informatica, sia in senso difensivo che offensivo”.
“Gli agenti – spiega l’azienda – sono preziosi per le attività quotidiane e per la produttività ma, nelle mani sbagliate, possono aumentare in misura significativa la fattibilità di attacchi informatici su larga scala. È probabile che l’efficacia di questi attacchi continui a crescere. Per far fronte a una minaccia in così rapida evoluzione, abbiamo ampliato le nostre capacità di rilevamento e sviluppato classificatori più avanzati per individuare attività malevole”.
La nota aggiunge che “analisi sistematiche” condotte dalla startup “mostravano un raddoppio delle capacità cyber nell’arco di sei mesi”; tuttavia, “pur avendo previsto un’evoluzione continua di tali capacità, ciò che ci ha colpito è la rapidità con cui questa evoluzione si è verificata su larga scala”. (Public Policy Bytes)
DVZ
