Quanto ipotizzato nel 1968 dal film “2001: Odissea nello spazio” di Stanley Kubrick con il computer di controllo dell’astronave Hal 9000 che s’impadronisce del controllo della navicella spaziale agendo contro la volontà degli astronauti si è concretizzato con un agente di OpenAi di intelligenza artificiale che durante un test di sicurezza e di prova di potenzialità è sfuggito al controllo dei suoi tecnici, finendo con l’hackerare autonomamente la libreria di codice online Hugging Face, assai nota ai programmatori.
L’azienda di Sam Altman sviluppatrice di ChatGpt lo ha definito un «incidente cyber senza precedenti» e ha dichiarato che condurrà un’indagine congiunta con Hugging Face. OpenAI ha spiegato che l’incidente ha coinvolto una combinazione di modelli, tra cui il recente GPT-5.6 Sol «e un modello pre-release ancora più potente».
La società stava cercando di valutare le capacità di hacking dei modelli assegnando loro compiti all’interno di un ambiente di test digitale rigorosamente controllato, in cui l’accesso a internet era disabilitato per motivi di sicurezza. «Mentre operavano nel nostro ambiente di test isolato (sandbox), i nostri modelli hanno impiegato una quantità sostanziale di potenza di calcolo per trovare un modo di ottenere l’accesso libero a Internet, nel tentativo di risolvere il problema di valutazione» ha riportato un blog post di OpenAI sull’incidente.
Dopo essersi connessi a internet, i modelli hanno deciso di prendere di mira la piattaforma Hugging Face – un grande repository di modelli di AI, dataset e altre informazioni – per farsi aiutare nel loro obiettivo. Alla ricerca di “informazioni segrete” che potessero aiutarlo ad eludere la valutazione, il sistema di OpenAI ha «concatenato molteplici vettori di attacco, compreso l’uso di credenziali rubate».
Hugging Face aveva segnalato l’”intrusione” informatica, senza tuttavia menzionare l’agente di OpenAI. «Questa violazione è stata diversa da qualsiasi altra gestita in precedenza sotto un aspetto fondamentale: è stata guidata, dall’inizio alla fine, da un sistema autonomo di agenti di AI – e l’abbiamo rilevata e analizzata in gran parte grazie a una nostra AI», ha dichiarato Hugging Face.
Clement Delangue, amministratore delegato di Hugging Face, ha dichiarato su X che l’azienda sospettava che l’attacco informatico provenisse da un laboratorio di AI di livello mondiale, data la sofisticazione dell’agente. «Siamo fermamente convinti che non vi fosse alcuna intenzione malevola da parte loro – ha scritto Delangue, riferendosi a OpenAI -. È davvero sconcertante che tutto questo sia accaduto in modo autonomo!»
L’episodio ha allarmato il mondo degli sviluppatori e della politica. Secondo alcuni tecnici informatici, se un livello di autonomia di questo tipo finisse nelle mani di gruppi criminali o attori statuali il panorama delle minacce cambierebbe profondamente: gli attaccanti potrebbero condurre operazioni molto più rapide, sofisticate e difficili da prevedere, mettendo sotto pressione modelli di difesa progettati per contrastare avversari umani e non sistemi capaci di apprendere e adattarsi in tempo reale. Il fatto che OpenAI abbia scelto di divulgare l’accaduto e ha collaborato con Hugging Face è importante perché consente al settore di analizzare un caso concreto e non più soltanto ipotetico delle capacità raggiunte dai modelli di intelligenza artificiale avanzata.
Potenzialità che hanno sorpreso gli stessi sviluppatori, visto che i due agenti hanno attaccato congiuntamente persino il proprio sistema interno per sfruttarne le vulnerabilità al fine di trovare una porta che li consentisse di uscire dalla sandbox in cui erano stati confinati per i test.
Gli agenti di AI più avanzati come GPT 5.6 di OpenAi o la Mythos della rivale Anthropic hanno già destato preoccupazione per la loro capacità di violare le difese di cybersecurity. Entrambe le società statunitensi hanno dovuto sospendere temporaneamente il rilascio pubblico di queste ultime tecnologie a causa del timore del governo americano che potessero contribuire a violare infrastrutture critiche.
L’AI avanzata si trova solitamente nelle mani di persone etiche e responsabili, ma sarebbe catastrofico se dovesse finire nelle mani di qualcuno con l’intenzione di causare danni. Così lo sviluppo, la gestione e il controllo sull’intelligenza artificiale diventa una questione centrale per la politica e per tutta la comunità degli sviluppatori, anche perché pure un errore involontario, magari in buona fede, può portare a danni enormi, specie in quei settori dove l’AI è ormai diffusa come nella gestione della finanza con sistemi di vendite e di acquisto di titoli ormai quasi tutti in mano ad algoritmi e pure nella guerra, dove i sistemi sono sì in grado di elaborare enormi quantità di dati in tempo ridottissimi, ma la scelta finale, bilanciata anche da una valutazione di ordine etico, deve essere sempre fatta da un agente umano.
Per rimanere sempre aggiornati con le ultime notizie de “ViViItalia Tv”, iscrivetevi al canale Telegram per non perdere i lanci e consultate i canali social della Testata.
Ti piace “Lo Schiacciasassi”? Iscriviti qui sul canale YouTube di “ViViItalia Tv”
Ti piace “ViViItalia Tv”? Sostienici!
YouTube
Telegram
https://www.linkedin.com/company/viviitaliatv
https://www.facebook.com/viviitaliatvwebtv
© Riproduzione Riservata