Sursă: Mediafax.ro
Anthropic, una dintre cele mai importante companii din industria inteligenței artificiale, afirmă că tehnologia AI se apropie de un punct critic în care sistemele ar putea începe să se îmbunătățească singure. Compania avertizează că ritmul dezvoltării trebuie încetinit, însă recunoaște că un acord global în acest sens este improbabil.
Recent, Anthropic a publicat o analiză în care descrie un fenomen numit „auto-îmbunătățire recursivă”, în care o inteligență artificială devine suficient de performantă pentru a crea și optimiza versiuni mai avansate ale sale. În prezent, chatbotul Claude, dezvoltat de companie, generează deja aproximativ 80% din codul folosit în activitatea sa, fiind utilizat și în cercetare științifică.
Ce înseamnă riscul auto-îmbunătățirii recursivă a AI-urilor?
Potrivit analizei, dacă această tendință continuă, sistemele AI ar putea depăși performanțele umane în programare și cercetare în cursul acestui an. Anthropic susține că diferențele dintre codul generat de AI și cel scris de programatori umani au devenit minime, iar în anumite proiecte, AI-ul a obținut rezultate mai bune decât echipele umane, chiar dacă a necesitat mai mult timp de procesare.
- 80% din codul actual al companiei este generat de chatbotul Claude
- Performanțele AI în cercetare au crescut semnificativ
- Proiecte conduse aproape integral de AI au obținut rezultate superioare celor umane
- Diferențele între codul uman și cel generat de AI sunt aproape inexistente
- Se estimează că AI-ul ar putea depăși performanțele umane în programare în acest an
Ce consecințe poate avea evoluția AI-urilor autonome?
Conceptul de „auto-îmbunătățire recursivă” ridică semne de întrebare privind controlul asupra sistemelor AI. În scenariul cel mai pesimist, o astfel de tehnologie ar putea accelera progresul tehnologic într-un ritm imposibil de urmărit sau controlat de oameni, apropiindu-se de ideea de „singularitate tehnologică”.
Anthropic avertizează că, dacă această evoluție nu va fi gestionată cu prudență, riscurile pentru societate și securitate pot fi semnificative. În același timp, compania recunoaște dificultatea unui acord internațional pentru limitarea ritmului de dezvoltare a AI-urilor avansate, ceea ce face ca această problemă să devină o provocare globală.
În concluzie, specialiștii subliniază necesitatea unor reglementări stricte și a unei monitorizări continue pentru a preveni eventuale scenarii de control pierdut asupra tehnologiei AI.