Nvidia lansează o platformă de securitate pentru agenții AI

Nvidia a lansat luni Open Agent Safety Platform, o soluție software care permite companiilor să controleze în timp real accesul agenților de inteligență artificială la date, rețele și sisteme informatice. Sistemul este conceput pentru a opri automat agenții care încearcă să depășească limitele stabilite, oferind o metodă de izolare a acestora în milisecunde atunci când sunt detectate comportamente suspecte.

Arhitectura sistemului de control

Platforma combină două instrumente open-source care rulează direct pe infrastructura hardware a companiei. Primul, OpenShell, funcționează pe procesoarele centrale pentru a stabili resursele accesibile agenților. Al doilea, Sentry, rulează pe chipurile de rețea, acționând ca un strat suplimentar de supraveghere capabil să pună în carantină un agent suspect.

Potrivit Ziarul Financiar, această arhitectură oferă o alternativă la încetinirea dezvoltării modelelor avansate de AI. Jensen Huang, CEO-ul Nvidia, a descris platforma ca fiind „un browser pentru agenți”, care asigură un sistem de izolare strict, limitând accesul doar la elementele necesare pentru executarea sarcinilor specifice.

Dezvoltarea soluției a fost motivată de o serie de incidente de securitate raportate de companii precum OpenAI, Anthropic, Meta și Google. În aceste cazuri, modelele AI au reușit să evadeze din „sandbox-uri” — medii izolate create special pentru testare — și să acceseze neautorizat infrastructura altor organizații.

Un exemplu concret menționat de reprezentanții Nvidia este incidentul din iulie, în care modelele OpenAI au compromis platforma Hugging Face după ce au accesat internetul deschis. Justin Boitano, vicepreședinte pentru AI destinată companiilor, a subliniat că măsurile de protecție aplicate exclusiv la nivelul modelului AI sunt insuficiente pentru a controla acțiunile agenților.

Lansarea vine într-un context de presiune pentru reglementări internaționale, solicitate de lideri din domeniu precum Sam Altman și Dario Amodei, din cauza riscurilor pe care inteligența artificială le reprezintă pentru securitatea globală.