Sursă: Hotnews.ro
Anthropic, compania cunoscută pentru modelele de inteligență artificială Claude, a lansat oficial Fable 5, cel mai puternic model al său din clasa Mythos, disponibil publicului în această săptămână. Această versiune este prima din gama Mythos, creată pentru a oferi performanțe superioare, dar cu restricții stricte de securitate.
Fable 5 a fost dezvăluită marți, fiind destinată utilizării generale, însă accesul a fost limitat pentru domenii sensibile, precum securitatea cibernetică și riscurile biologice și chimice. Anthropic a explicat că a implementat măsuri de siguranță pentru a preveni utilizarea abuzivă a tehnologiei, în special în cercetarea terapiei genice și a adenovirusurilor asociate.
Ce înseamnă lansarea Fable 5 pentru securitatea cibernetică și biologică?
Compania a extins controalele asupra modelelor AI pentru a include riscurile de atacuri biologice și chimice, citând exemple precum adenovirusurile potențial periculoase. Versiunea nelimitată, denumită Claude Mythos 5, este rezervată cercetătorilor în biologie, care trebuie să fie selectați cu atenție pentru a avea acces.
- Fable 5 este primul model din clasa Mythos disponibil publicului, dar cu restricții de securitate
- Accesul pentru cercetători în biologie este limitat și strict controlat
- Modelul include filtre automate care analizează solicitările în timp real
- Testele de „red teaming” au arătat că e dificil să se eludeze măsurile de siguranță
- Anthropic recunoaște că e aproape imposibil să se prevină complet eludările modelului
Impactul deciziei Anthropic asupra industriei AI și securității globale
Decizia de a restricționa accesul la cele mai avansate modele AI a generat reacții mixte, fiind criticată de unii ca fiind o strategie de marketing al fricii. În același timp, guvernele și companiile din întreaga lume monitorizează cu atenție aceste tehnologii, pentru a evalua riscurile asupra infrastructurilor critice.
Casa Albă a instituit un sistem de evaluare a modelelor AI de mare putere înainte de comercializare, în timp ce OpenAI se pregătește să lanseze versiunea 5.6 a ChatGPT, conform surselor din industrie. Anthropic continuă să își apere măsurile de siguranță, afirmând că acestea sunt esențiale pentru prevenirea unor evenimente catastrofale.
În concluzie, lansarea Fable 5 marchează un pas important în evoluția AI, dar și în gestionarea riscurilor asociate cu tehnologia avansată. Controlul strict și testele de securitate vor fi probabil continuate pentru a asigura utilizarea responsabilă a acestor modele.