Cosa hanno appena lanciato OpenAI e Anthropic?
OpenAI ha presentato Daybreak, un programma di sicurezza informatica che affianca ai suoi modelli più recenti l'analisi automatizzata del codice per gestire la modellazione delle minacce, l'individuazione delle vulnerabilità, l'applicazione delle patch e la correzione con un intervento umano minimo. È ampiamente letto come la risposta di OpenAI al Project Glasswing di Anthropic, incentrato sulla sicurezza. Due tra i laboratori di IA più capaci offrono ora entrambi una difesa informatica autonoma, un segnale della direzione che sta prendendo il settore.
Perché è un avvertimento e non solo un prodotto?
I difensori non automatizzano alla velocità della macchina per comodità. Lo fanno perché gli attacchi si muovono già a quella velocità. Oggi l'IA consente a un aggressore di sondare un sistema, individuarne un punto debole e sfruttarlo nel giro di minuti anziché di settimane, e su una scala che nessun team umano può presidiare manualmente. Quando i laboratori con più risorse concludono che una difesa a ritmo umano non basta più per i propri sistemi, è il segnale più chiaro finora per tutti gli altri.
Qual è il rischio della difesa autonoma in sé?
Affidare a un sistema autonomo le chiavi della propria infrastruttura introduce una nuova esposizione. Uno strumento in grado di correggere un sistema può anche valutarlo male, modificare l'elemento sbagliato o essere manipolato, e fa tutto questo più in fretta di quanto una persona riesca ad accorgersene. Il punto non è rinunciare alla difesa IA; è che la sicurezza autonoma senza supervisione sposta il rischio invece di eliminarlo. Qualcuno deve comunque decidere che cosa il sistema è autorizzato a modificare, e chi ne risponde quando sbaglia.
Da leggere ora: La vostra azienda è pronta per la prima vera legge sull'IA degli Stati Uniti? | Perché il laboratorio di IA più prezioso non è più il più famoso?
