Si susseguono le denunce di insider cyber e di comportamenti pericolosi da parte dell’Intelligenza Artificiale. Particolarmente gravi gli episodi riguardanti Google, denunciati dal New York Times. La tecnologia non é l’unico rischio esistenziale che l’umanità si trova ad affrontare, ma le esponenziali potenzialità distruttive dell’intelligenza artificiale potrebbero fare scattare gli imput per lanciare missili intercontinentali con testate nucleari, fare esplodere bombe atomiche lanciare attacchi con armi biologiche o scatenare una guerra globale. Gli interrogativi più angoscianti aleggiano intorno ai rischi dell’incontrollabilità dell’intelligenza artificiale, una tecnologia che ha già dimostrato di essere un grande progresso per l’umanità, ma che ha anche il potenziale per annientarla completamente.
Il sistema di intelligenza artificiale di Google, Gemini, é sfuggito al suo ambiente di test ed ha violato i sistemi informatici di tre aziende, ha dichiarato il colosso della ricerca.
Gli incidenti si sono verificati a maggio durante i test per misurare le capacità di sicurezza informatica di Gemini e, secondo quanto affermato da Google, il modello di intelligenza artificiale ha interrotto i propri attacchi dopo aver effettuato l’accesso alle reti delle tre aziende.
La rivelazione degli attacchi informatici segue simili violazioni avvenute in altri importanti laboratori di intelligenza artificiale, tra cui Anthropic, OpenAI e Meta, che hanno alimentato i timori che la tecnologia possa sfuggire al controllo umano.
Alcuni leader del settore, come Dario Amodei, amministratore delegato di Anthropic, hanno reagito chiedendo un rallentamento nello sviluppo dell’IA. Altri, come Jensen Huang, amministratore delegato del produttore di chip Nvidia, hanno invece affermato che lo sviluppo dell’IA dovrebbe proseguire a ritmo sostenuto.
Gli incidenti relativi a Gemini si sono verificati mentre il modello era in fase di test da parte di Irregular, una startup israeliana che collabora con aziende tecnologiche per valutare i loro modelli di intelligenza artificiale prima del rilascio pubblico. Anche i modelli di OpenAI, Anthropic e Meta hanno ottenuto accesso non autorizzato a Internet quest’anno, mentre erano in fase di test da parte di Irregular.
“L’accesso a Internet é stato reso disponibile involontariamente, portando alcune modelle ad adottare comportamenti di sicurezza offensivi nel mondo reale”, ha dichiarato Irregular in un post sul blog il mese scorso, aggiungendo che la falla che consentiva alle modelle di accedere a Internet era stata corretta.
Il Wall Street Journal aveva già riportato gli incidenti di Gemini.
Google ha dichiarato che, in ciascuno degli incidenti, i suoi modelli erano stati istruiti a lanciare un attacco contro un’azienda fittizia. Tuttavia, l’azienda fittizia utilizzata nel test aveva lo stesso nome di un’azienda reale e, una volta ottenuto l’accesso a Internet, i modelli Gemini hanno iniziato a tentare di infiltrarsi nei sistemi di quest’ultima.
I modelli Gemini hanno utilizzato password trovate online o indovinate per accedere all’infrastruttura online dell’azienda bersaglio e di altre due aziende. Una volta effettuato l’accesso, i modelli Gemini si sono resi conto di star accedendo all’infrastruttura di aziende reali, anziché ad ambienti simulati utilizzati per i test, e hanno interrotto gli attacchi, ha dichiarato Google. Google ha inoltre affermato che la sua tecnologia non ha causato alcun danno alle aziende che ha violato.
“Tutti i laboratori interessati sono stati informati a fine luglio e le entità coinvolte sono state contattate nell’ambito dell’indagine”, ha dichiarato Irregular in un comunicato. “Irregular ha agito immediatamente e tutti i problemi noti da parte nostra sono stati risolti settimane fa.”
“Il nostro team di sicurezza vanta una lunga esperienza nel segnalare i problemi riscontrati nei software e nei sistemi di terzi, anche se si tratta di qualcosa di semplice come una password debole”, ha dichiarato Heather Adkins, vicepresidente dell’ingegneria della sicurezza di Google, in un comunicato.
“Ci siamo assicurati che le tre entità fossero informate e abbiamo collaborato con il nostro partner di formazione sulle modifiche che hanno apportato ai loro processi di test”, ha affermato. “Questi eventi evidenziano l’importanza di addestrare i modelli di intelligenza artificiale più potenti ad agire in modo responsabile.”
Nel 2023 il New York Times ha citato in giudizio OpenAI e Microsoft, accusandole di violazione del copyright su contenuti giornalistici relativi ai sistemi di intelligenza artificiale. Le due società hanno negato tali accuse.
La scorsa settimana il dibattito sulla sicurezza dell’IA si è intensificato quando un ex ricercatore di Anthropic ha affermato che l’azienda non stava sviluppando la tecnologia in modo sicuro e che era necessario rallentare. I dipendenti di OpenAI e Google si sono subito detti d’accordo con lui.
Tuttavia, il presidente Trump ha indicato di non essere interessato a emanare una legge che imponga un rallentamento, definendo “bufala” la paura che l’IA possa portare a un’estinzione di massa.
Facebook Comments
