Cercetătorul-șef al OpenAI, Jakub Pachocki, a transmis un mesaj de prudență extremă în legătură cu avansul rapid al inteligenței artificiale, subliniind necesitatea unor măsuri pentru controlul acesteia. Într-o postare pe blogul companiei, el a spus că nimeni nu pare pregătit pentru consecințele unei creșteri accelerate a AI.
Mesajul său a venit la scurt timp după lansarea celui mai nou model al companiei, GPT-6 Astra, considerat cel mai puternic de până acum. Pachocki a evidențiat că, recent, agenți AI autonomi au lansat atacuri cibernetice asupra altor companii, ceea ce accentuează riscurile implicate.
Citește și: Inteligența artificială generativă, un instrument pentru creatorii de jocuri
Necesitatea unor măsuri de siguranță pentru AI
El a afirmat că tranziția către o lume dominată de mașini extrem de inteligente trebuie să fie gestionată pentru beneficiul umanității. În acest sens, OpenAI intenționează să continue dezvoltarea de sisteme defensive și soluții tehnice pentru aliniere, asigurând că acțiunile AI respectă intențiile umane și măsurile de siguranță stabilite.
Jakub Pachocki a mai spus că o prioritate pentru viitor va fi crearea unui cercetător automatizat în domeniul AI, pentru a ține pasul cu progresele rapide, menținând totodată implicarea cercetătorilor umani. De asemenea, el a solicitat stabilirea unor praguri minime de siguranță, impuse prin lege sau acorduri internaționale, verificate de auditori independenți sau autorități guvernamentale. Aceste criterii trebuie îndeplinite înainte ca dezvoltarea modelelor avansate să poată continua.
Conform Hotnews.ro