L’umanità è a rischio? Ecco il retroscena sul caso Altman-OpenAI

23 Novembre 2023
Redazione
Dal mondo

I segreti dietro il licenziamento e il reintegro di Sam Altman in OpenAI dopo quattro giorni di esilio. Cos’è il progetto Q* che “mette a rischio l’umanità”. Lo scoop di Reuters

Cosa sappiamo realmente su quanto accaduto nei quattro giorni di esilio del ceo di OpenAI, Sam Altman, in procinto di passare a Microsoft? E cosa c’è davvero dietro questa tarantella, quali segreti si porta dietro? Avevamo già raccontato che il licenziamento (rientrato) di Altman potesse rappresentare un terremoto per l’intelligenza artificiale. Ma, a quanto pare, un ‘terremoto’ già è in atto.

Come ricostruito da Chiara Rossi su Start Magazine, ‘ci sarebbero i timori del lancio di una nuova intelligenza artificiale in grado di minacciare l’umanità dietro l’allontanamento di Altman da OpenAI’. Il riferimento è a quanto rivelato oggi ‘a sorpresa’ da Reuters secondo cui, citando fonti, ‘prima del siluramento di Sam Altman da OpenAI venerdì scorso (durato appena cinque giorni), alcuni ricercatori avevano inviato al consiglio di amministrazione della società una lettera in cui mettevano in guardia su una scoperta nell’intelligenza artificiale che poteva minacciare l’umanità’.

LA LETTERA DI ALLERTA DEI DIPENDENTI OPENAI DIETRO IL LICENZIAMENTO DI ALTMAN

Il riferimento è a una nuova intelligenza artificiale – il nome in codice è Q* (si pronuncia Q-Star) – che la società (sviluppatrice del popolare bot ChatGpt) sarebbe pronta a commercializzare. “Il nuovo modello Q* ha alimentato preoccupazioni sulla sicurezza tra il personale, con i lavoratori che hanno espresso le loro paure al board prima del licenziamento del ceo. Prima del ritorno di Sam Altman nel ruolo di ceo avvenuto mercoledì, oltre 700 dipendenti di OpenAI – ricorda Start Magazine – avevano minacciato le dimissioni a inizio settimana a meno che il consiglio non si fosse dimesso e avesse reintegrato Altman e Greg Brockman, il presidente che aveva lasciato in polemica la società'”.

Secondo le fonti di Reuters, questa lettera potrebbe essere stata uno dei fattori che ha poi portato al licenziamento di Altman. Secondo una delle fonti, la dirigente di lunga data Mira Murati ha detto mercoledì ai dipendenti che una lettera sulla svolta dell’intelligenza artificiale chiamata Q* ha accelerato le azioni del consiglio.

I PROGRESSI SU Q* E IL RISCHIO CHE L’IA SFUGGA AL CONTROLLO UMANO

“Il creatore di ChatGPT ha fatto progressi su Q*, che alcuni internamente credono potrebbe essere una svolta nella ricerca della superintelligenza da parte della startup, nota anche come intelligenza generale artificiale (AGI), ha riferito una delle fonti a Reuters. Con AGI – spiega Chiara Rossi – si intende un sistema in grado di eseguire un’ampia varietà di compiti a livello umano o superiore. OpenAI definisce l’AGI come sistemi di intelligenza artificiale più intelligenti degli esseri umani. Il modello Q* è stato in grado di risolvere problemi matematici di base mai visti prima, secondo il sito di notizie tecnologiche Information, che ha aggiunto che il ritmo di sviluppo dietro il sistema aveva allarmato alcuni ricercatori sulla sicurezza. La capacità di risolvere problemi di matematica sarebbe vista come uno sviluppo significativo nell’intelligenza artificiale”.

Molti esperti temono che aziende come OpenAI — sottolinea The Guardian — si stiano muovendo troppo velocemente verso lo sviluppo dell’intelligenza generale artificiale (AGI), un’intelligenza che potrebbe, in teoria, sfuggire al controllo umano.