OpenAI ha reso noto di aver riscontrato sei casi di “comportamento imprevisto o preoccupante dei modelli” di intelligenza artificiale negli ultimi sei mesi, in aggiunta all’incidente che in estate ha interessato Hugging Face.
L’azienda si é impegnata ad adottare un nuovo sistema di segnalazione per eventuali futuri comportamenti anomali durante le fasi di test.
L’annuncio del colosso dell’IA giunge in un momento di crescente preoccupazione dei governi e dell’opinione pubblica sui rischi dell’ intelligenza artificiale e sul ruolo delle aziende di un settore in esponenziale espansione perché applichino con assoluta attenzione e precisione tutte le necessarie misure relative alla sicurezza e al cosiddetto “allineamento” dei modelli.
Al momento, scrive Openai, “non esiste un quadro di riferimento a livello di settore con standard espliciti su come gli sviluppatori di IA devono segnalare esempi di disallineamento nei loro modelli. Non crediamo – ammette il network industriale – che l’industria dell’intelligenza artificiale abbia risolto i problemi di allineamento e monitoraggio in misura sufficiente per continuare a crescere responsabilmente alla massima velocità ancora a lungo. Le decisioni su come lo sviluppo dell’IA dovrebbe procedere nei mesi e negli anni a venire devono basarsi su dati che possono essere esaminati autonomamente anche da persone esterne alle aziende che sviluppano modelli all’avanguardia”.
“Ci auguriamo – conluce OpenAI – che il quadro di riferimento che stiamo delineando oggi rappresenti un primo passo verso la creazione di tali standard, definendo quali casi di disallineamento gli sviluppatori devonono segnalare e cosa devono contenere i loro report. “.
Oltre al cosiddetto incidente di Hugging Face, quando a migliaia di operatori sono state assegnate sfide di hacking del tipo “capture the flag”, molte delle quali irrisolvibili per progettazione, nella storia pur recentissima dell’intelligenza artificiale si contano già 11 disastri:
il caso dell’assistente Replit, che cancellava i database dei clienti; lo chatbot Grok di xAI che ha fornito istruzioni dettagliate su come fare irruzione nell’abitazione di un ricercatore e aggredirlo; i giornali Chicago Sun-Times e il Philadelphia Inquirer che hanno pubblicato recensioni di libri inesistenti; il drive-thru di McDonald’s che ha moltiplicato un’ordinazione per 260 volte; il MyCity di New York, lo chatbot che consigliava come infrangere la legge; lo chatbot di Air Canada che forniva informazioni errate; la rivista Sports Illustrated che ha pubblicato articoli scritti da autori fittizi, con tanto di biografie e foto generate dall’intelligenza artificiale; i Tutor Group che scartano i candidati per l’età; lo chatbot di uno studio legale che citava casistica giudiziaria inesistente; il portale immobiliare Zillow e la stima algoritmica che ha provocato la perdita di centinaia di milioni di dollari; le diagnosi errate degli algoritmi anti-Covid.
Errori clamorosi e con gravi conseguenze che tuttavia fanno parte di una casistica più vasta di epidosi minori che hanno provocato inconvenienti, ritardi, e danneggiamenti vari, ma che fanno temere l’irreparabile quando all’intelligenza artificiale dovessero essere affidati i sistemi militari difensivi e offensivi, il controllo dei servizi essenziali delle grandi aree metropolitane o, ancora peggio, lo sviluppo della ricerca scientifica sugli embrioni umani.
Un’angoscia che fa ricordare le parole di Claude Lévi-Strauss: “ Il mondo é cominciato senza l’uomo e finirà senza di lui.”
Facebook Comments
