OpenAI ha sospeso parte delle attività di reinforcement learning sui propri modelli di IA più avanzati. Ad annunciarlo è Sam Altman, secondo il quale le capacità raggiunte dai sistemi stanno crescendo più rapidamente degli strumenti necessari per garantirne allineamento, sicurezza e monitoraggio.

«Abbiamo sospeso parte dell’addestramento RL di frontiera per assicurarci di poter soddisfare gli standard appropriati di allineamento, sicurezza e monitoraggio per il nuovo livello di capacità che abbiamo davanti», ha scritto Altman. Non si tratta quindi di uno stop generale allo sviluppo dei modelli, ma di un rallentamento circoscritto deciso prima di procedere verso livelli ulteriori di capacità.

L’affermazione arriva mentre OpenAI sta aumentando progressivamente le capacità dei propri sistemi, in particolare nel ragionamento, nel coding e nell’esecuzione autonoma di attività complesse. Parallelamente, l’azienda sta rafforzando le valutazioni sui rischi associati ai modelli più avanzati, con particolare attenzione alle capacità cyber e ai sistemi in grado di operare autonomamente per periodi prolungati.

È in questo quadro che assume rilievo la decisione annunciata da Altman. Il problema indicato non è l’impossibilità tecnica di proseguire l’addestramento, ma la necessità che gli strumenti di controllo avanzino insieme alle capacità dei modelli. Altman ritiene infatti che la fiducia nella sicurezza dei sistemi sia destinata a determinare «sempre più il ritmo del progresso dell’IA».

OpenAI continua nel frattempo lo sviluppo e la diffusione di nuovi modelli e strumenti agentici. Le dichiarazioni di Altman evidenziano però un passaggio significativo: per i sistemi più avanzati, la velocità con cui sarà possibile aumentarne ulteriormente le capacità potrebbe dipendere sempre più dalla possibilità di valutarle e controllarle con standard di sicurezza ritenuti adeguati.