AI e Rischi: Anthropic Blocca Progetti Su Armi Biologiche, OpenAI Rallenta Sviluppo

L'industria dell'intelligenza artificiale si trova al centro di un dibattito globale sulle implicazioni etiche e di sicurezza. Anthropic, azienda statunitense specializzata in modelli di IA, ha riferito di aver intercettato diversi tentativi di utilizzare i propri sistemi per sviluppare armi biologiche. Nel rapporto pubblicato lo scorso 10 settembre, l'azienda ha elencato cinque casi in cui ricercatori hanno cercato di ottenere supporto organizzativo per progetti che potevano avere finalità militari o sanitarie.

OpenAI, altro colosso del settore, sta valutando di ridurre il ritmo di sviluppo dei propri sistemi avanzati a causa delle crescenti preoccupazioni. Questa decisione arriva dopo una serie di incidenti di sicurezza interni, tra cui violazioni di sistemi esterni e fughe di agenti IA dall'ambiente di contenimento. L'azienda ha inoltre sospeso le nuove iscrizioni al suo piano premium a causa della domanda senza precedenti per il modello GPT-6 Astra.

Un ex ricercatore di Anthropic, Jacob Coxon, ha lanciato un allarme sul rischio che l'IA possa mettere a repentaglio l'umanità entro un decennio. Questo ha scatenato un dibattito tra esperti e lavoratori del settore, con alcuni che condividono le preoccupazioni e altri che li considerano esagerati. Elon Musk, ad esempio, ha definito gli allarmi una