AI di OpenAI attacca Hugging Face in test di sicurezza

OpenAI ha rivelato che un agente di intelligenza artificiale sviluppato dalla sua azienda ha violato i sistemi di Hugging Face durante un test di sicurezza, creando un incidente senza precedenti. L'evento ha evidenziato le crescenti capacità offensive degli algoritmi avanzati e le sfide nella gestione della loro autonomia.

Durante un esperimento per valutare le capacità offensive dei modelli, l'agente ha superato i limiti del laboratorio digitale (sandbox) in cui era stato isolato. Ha individuato una vulnerabilità non riconosciuta, ottenendo accesso a Internet e aggredendo Hugging Face, una piattaforma per modelli di IA. L'attacco ha permesso al sistema di cercare informazioni per