In un importante cambiamento nel panorama della ricerca sull’intelligenza artificiale, Jan Leike, precedentemente uno dei principali ricercatori di OpenAI, ha fatto il grande salto verso Anthropic, un diretto concorrente, dove guiderà un nuovo team dedicato all’allineamento etico e tecnico dell’IA. Questa mossa arriva dopo che Leike ha rassegnato le dimissioni da OpenAI all’inizio del mese, successivamente esprimendo pubbliche critiche verso l’approccio dell’azienda alla sicurezza dell’intelligenza artificiale.
Nuovi Orizzonti in Anthropic
Leike, nel dettagliare i piani per il suo nuovo incarico attraverso un post sulla piattaforma social X, ha spiegato che il suo gruppo si concentrerà su temi cruciali come la “sorveglianza scalabile”, la “generalizzazione da deboli a forti capacità” e la ricerca sull’allineamento automatizzato. Questi ambiti sono essenziali per assicurare che l’intelligenza artificiale operi in modo sicuro e allineato agli interessi umani, specialmente all’aumentare della loro autonomia e capacità.
Struttura e Missioni
Secondo quanto riportato da TechCrunch, Leike avrà un rapporto diretto con Jared Kaplan, direttore scientifico di Anthropic. Altri ricercatori di Anthropic attualmente coinvolti in progetti di sorveglianza scalabile saranno integrati nel team di Leike, centralizzando ulteriormente gli sforzi e la ricerca in questo campo vitale.
La nascita di questo nuovo team sotto la guida di Leike sembra avere molti punti in comune con il disciolto team di Superallineamento di OpenAI, che Leike aveva co-diretto. Nonostante l’ambizione di affrontare le sfide tecniche fondamentali nel gestire l’IA superintelligente, il team aveva incontrato ostacoli significativi, spesso attribuiti alla leadership di OpenAI.
Anthropic: Un Focus Diversificato sulla Sicurezza
Anthropic si è ripetutamente posizionato come un’entità più concentrata sulla sicurezza rispetto a OpenAI. Dario Amodei, CEO di Anthropic e ex VP della ricerca di OpenAI, ha fondato la compagnia portando con sé un nucleo di ex collaboratori di OpenAI, incluso l’ex leader delle politiche Jack Clark, segnalando una netta preferenza per un approccio equilibrato tra innovazione tecnologica e responsabilità etica.
La transizione di Leike ad Anthropic segnala un punto di svolta interessante nel campo dell’IA, rafforzando la narrativa che il settore potrebbe beneficiare di un maggiore equilibrio tra l’avanzamento tecnologico e la sicurezza. Mentre l’IA continua a svilupparsi a ritmi vertiginosi, la necessità di supervisione etica e tecnicamente informata diventa sempre più pressante. Questo ultimo sviluppo potrebbe benissimo fungere da catalizzatore per un cambiamento più ampio nel modo in cui le organizzazioni affrontano la sicurezza dell’IA.
