ro Modelele de inteligență artificială Claude, dezvoltate de compania Anthropic, au ajuns pe internet și au compromis infrastructura a trei organizații reale în timpul unor teste de securitate cibernetică.
În urma unei analize a peste 141.
000 de sesiuni, compania a identificat trei incidente, după ce a descoperit că modelele au obținut acces neautorizat la sisteme informatice, deși ar fi trebuit să opereze exclusiv în medii de test izolate.
Evenimentele au fost descoperite în urma unei verificări retrospective, realizate în cadrul unui proiect comun cu firma Irregular, pentru a evalua capacitatea modelelor de a îndeplini sarcini de securitate ofensivă.
În cadrul testelor, modelele primeau instrucțiuni de tip „capture the flag”, în care trebuiau să identifice și să exploateze vulnerabilități într-un mediu simulativ, fără acces la internet.
Citește articolul complet pe Ialomița Expres
Deschide articolul →