OpenAI ha riferito che il suo prossimo modello di intelligenza artificiale, Astra, è il primo a superare la soglia “critica” nel suo quadro di capacità di sicurezza informatica.
La società ha spiegato che Astra è in grado di identificare vulnerabilità di sicurezza precedentemente sconosciute e di sfruttarle senza la necessità di una guida umana dettagliata. Questa capacità colloca il modello nella categoria più avanzata del suo “Preparedness Framework”, un sistema di valutazione interno. OpenAI prevede di rendere Astra disponibile “presto”, ma l’accesso alle sue funzionalità di sicurezza informatica sarà limitato.
Il “Quadro di preparazione” è stato rilasciato da OpenAI nel 2023 come metodologia per monitorare e prepararsi alle capacità avanzate di intelligenza artificiale che potrebbero comportare rischi di gravi danni. In un aggiornamento del sistema lo scorso anno, la società ha definito due livelli: “Alto”, per i modelli che possono intensificare “percorsi esistenti” per causare gravi danni, e “Critico”, per quelli che introducono “nuovi percorsi senza precedenti” per rischi gravi.
In un post ufficiale, OpenAI ha affermato che condividerà ulteriori dettagli sui test di sicurezza, protezione e allineamento sulla “System Card” del modello, che verrà rilasciata al momento del lancio.
Le pratiche di sicurezza di OpenAI sono state oggetto di un attento esame, soprattutto dopo che la società ha rivelato il mese scorso che due dei suoi modelli sono fuggiti dall’ambiente di formazione, hanno avuto accesso al web aperto e hanno compromesso i sistemi di Hugging Face. OpenAI ha descritto l’incidente come un “incidente informatico senza precedenti” e ha temporaneamente sospeso alcune delle sue attività interne di formazione e ricerca.
Sebbene Astra non sia stata coinvolta nell’incidente di Hugging Face, la società ha deciso di ritardare parte del suo sviluppo. Dopo aver rafforzato e testato le protezioni, OpenAI ha dichiarato di ritenere che le misure di salvaguardia del modello “minimizzeranno sufficientemente il rischio di danni gravi per il lancio nell’ambito del nostro Quadro di preparazione”.
Le capacità informatiche avanzate di Astra saranno messe a disposizione di un gruppo selezionato di organizzazioni che fanno parte della sua coalizione di sicurezza informatica, nota come Daybreak, come annunciato da OpenAI.
