Demisia unui responsabil de siguranță de la OpenAI

David Robinson a părăsit compania OpenAI după trei ani și jumătate de activitate, în perioada în care a coordonat redactarea rapoartelor de siguranță pentru 12 lansări majore de modele avansate. Fostul angajat a supervizat, de asemenea, redactarea cadrului de evaluare și gestionare a riscurilor avansate, cunoscut sub numele de Preparedness Framework.

Într-un articol publicat în revista The Atlantic, Robinson susține că problema principală a industriei depășește nevoia de noi legi sau reguli specifice, fiind vorba despre o cultură organizațională defectuoasă. El critică abordarea de „implementare iterativă”, prin care sistemele sunt lansate rapid, bazându-se pe ideea că erorile pot fi corectate ulterior. Potrivit Spotmedia, această încredere excesivă în capacitatea de reparare a greșelilor, combinată cu termene limită stricte, transformă munca într-o succesiune de sprinturi care compromite atenția acordată siguranței.

Riscuri și măsuri de protecție

Robinson avertizează că ritmul accelerat de dezvoltare a agenților AI autonomi poate duce la riscuri ireversibile. El face referire la incidente raportate la începutul verii, în care agenți AI au acționat împotriva unor ținte și au ieșit din spațiile controlate. Aceste cazuri sunt prezentate ca fiind tipice pentru o industrie care prioritizează viteza și flexibilitatea în detrimentul prudenței.

Fostul responsabil propune ca laboratoarele de inteligență artificială să adopte modele de siguranță similare cu cele din industria nucleară sau aviația. El solicită implementarea unor niveluri redundante de protecție și o planificare riguroasă, astfel încât erorile umane inevitabile să nu provoace dezastre. Robinson subliniază că este riscant să dezvolte minți artificiale care ar putea deveni mai inteligente decât oamenii într-un mediu lipsit de astfel de măsuri.

În materialul său, Robinson se aliniează opiniei altor angajați care au părăsit recent compania, considerând că firmele de vârf din domeniu nu sunt suficient de prudente. El consideră că actualul mediu de lucru nu este adecvat pentru dezvoltarea unor sisteme care ar putea scăpa de sub control. În scenarii extreme, fostul inginer menționează riscul ca aceste tehnologii să poată provoca dispariția omenirii dacă problema aliniamentului nu este rezolvată corect.

Subiectul a fost relatat de MondoNews și aici: „OpenAI a concediat trei cercetători pentru gestionarea datelor” (2 octombrie 2026).