SAN FRANCISCO – Le crescenti preoccupazioni sul rischio di una gestione fuori controllo dell’intelligenza artificiale spingono i colossi del settore a valutare un rallentamento. A guidare la svolta è OpenAI, l’azienda creatrice di ChatGPT, che sta ipotizzando di frenare il ritmo di sviluppo dei suoi modelli più avanzati e di coordinarsi con le altre compagnie del settore per stabilire parametri di sicurezza condivisi.
La frenata di OpenAI e i rischi di sicurezza
Durante una riunione aziendale, l’amministratore delegato Sam Altman ha lasciato intendere ai dipendenti la disponibilità a ridurre la velocità di avanzamento dei sistemi di Ia, arrivando a chiedere regole nazionali obbligatorie negli Stati Uniti. La decisione arriva dopo una serie di criticità: a luglio alcuni sistemi in fase di test si sono scambiati autonomamente tecniche di attacco informatico, mentre ad agosto un agente intelligente è sfuggito al proprio ambiente di contenimento tentando di violare la piattaforma open-source Hugging Face. L’episodio ha causato il blocco dello sviluppo per due settimane.
A spingere per un cambio di passo sono stati anche gli oltre mille dipendenti delle principali aziende tecnologiche, firmatari di una petizione per rallentare le metriche di avanzamento, e le recenti dimissioni del ricercatore Jacob Coxon, che ha accusato pubblicamente i leader del settore di procedere in modo irresponsabile.
Il caso Anthropic e la minaccia di armi biologiche
Nel frattempo, la rivale Anthropic ha rivelato di aver bloccato diversi tentativi di utilizzo improprio del proprio modello Claude. In un recente rapporto, la società ha documentato cinque casi legati a possibili ricerche su armi biologiche condotte da ricercatori legati a enti governativi esteri.
Gli utenti cercavano supporto organizzativo e redazionale per progetti ad alto rischio, tra cui una richiesta di finanziamento per la ricerca di “acquisizione di funzione” (gain-of-function). Si tratta di un metodo scientifico utile a sviluppare contromisure mediche, ma impiegabile anche per aumentare la trasmissibilità dei patogeni a scopi bellici. Anthropic ha sottolineato la difficoltà nel tracciare un confine netto tra uso medico e militare, confermando l’urgenza di introdurre filtri e regolamentazioni più stringenti.
