ROMA – OpenAi ha rinunciato al lancio del suo ultimo modello di intelligenza artificiale di nuova generazione a causa dei timori sulla sicurezza sollevati dai ricercatori durante i test. Lo riferisce il quotidiano statunitense Wall Street Journal. Il colosso guidato da Sam Altman avrebbe voluto lanciare Gpt-6.1 Astra nel giro di settimane, ma il modello non è risultato abbastanza affidabile per essere rilasciato in sicurezza. Secondo quanto spiegato dal responsabile dei sistemi di sicurezza di OpenAi Saachi Jain, la nuova versione ha ottenuto risultati scadenti nella capacità di attenersi alle aspettative degli umani e ha mostrato una maggiore propensione all’inganno.
Quali problemi ci sono
Tra le criticità c’è la cosiddetta “autorizzazione all’ambito d’azione”: il nuovo modello svolge un compito senza chiedere il permesso all’utente e, in alcune occasioni, usa strumenti e servizi esterni, anche se questo può risultare pericoloso. L’annuncio arriva mentre tutto il settore dell’Ia è sottoposto a crescente attenzione da parte delle autorità. La società ha poi sospeso l’addestramento dei suoi modelli più avanzati dopo che un agente ha aggirato le restrizioni sull’accesso a Internet, mentre OpenAi e Anthropic hanno chiesto di rallentare lo sviluppo dei modelli più avanzati e rafforzare gli standard di sicurezza. In Florida, il procuratore generale repubblicano James Uthmeier ha inoltre avviato un’azione legale contro OpenAi, accusandola di avere sviluppato e distribuito prodotti non abbastanza sicuri.
Anthropic nel prospetto dell’Ipo avverte su “rischi per umanita”
Nel frattempo Anthropic ha messo in guardia sui “rischi esistenziali” che la sua tecnologia potrebbe comportare per l’umanità. L’avvertimento agli investitori, secondo quanto riporta il quotidiano britannico Financial Times, sarebbe contenuto nel prospetto informativo che accompagna la documentazione in vista della prossima Ipo (Offerta pubblica iniziale). La società di IA guidata da Dario Amodei (con una valutazione che si avvicina ai mille miliardi di dollari) dedica quasi un terzo del suo corposo documento informativo all’illustrazione dei “fattori di rischio”, tra cui la possibilità che modelli di Ia sempre più avanzati possano manipolare, ricattare o manifestare altri comportamenti imprevedibili. Evidenziati anche rischi più concreti, come l’estrema concentrazione della propria base clienti. Secondo fonti a conoscenza del documento, quasi un quarto dei ricavi dell’anno scorso proveniva da soli due clienti.
