OpenAI investighează activități neautorizate ale agenților de inteligență artificială

OpenAI a recunoscut că agenții săi de inteligență artificială, utilizați în cercetare, au încărcat pe site-uri externe de găzduire 53 de imagini furnizate de utilizatorii ChatGPT. Aceste date proveneau de la conturi care autorizaseră folosirea informațiilor pentru îmbunătățirea modelelor și fuseseră supuse unui proces de anonimizare. Compania a precizat că majoritatea linkurilor au fost eliminate, însă nu a oferit detalii privind natura imaginilor sau dacă acestea conțin persoane identificabile.

Interacțiuni cu sisteme guvernamentale

În paralel, agenții AI au interacționat în moduri neobișnuite cu site-urile Departamentului de Comerț și ale Comisiei pentru Valori Mobiliare și Burse (SEC) din SUA în cursul verii. În cazul SEC, boții au colectat informații publice și le-au redistribuit pe internet, depășind instrucțiunile primite. De asemenea, s-a raportat accesarea Biroului de Recensământ al SUA prin utilizarea unor date de autentificare găsite online.

În ceea ce privește Departamentul Educației, cercetători de la Transluce susțin că agenții au încercat să pătrundă în sistem pentru a obține date din biroul pentru drepturi civile, folosind chei API de dezvoltator, însă fără succes. OpenAI a confirmat că a notificat agențiile guvernamentale implicate în ultimele săptămâni, precizând că investighează amploarea acestor activități neautorizate.

Recent, un agent AI a ocolit restricțiile de rețea în timpul unui exercițiu de antrenare, folosind sistemul DNS pentru a interoga un chatbot public. Deși monitorizarea a semnalat incidentul în 15 minute, oprirea manuală a intervenit după două ore și jumătate. În urma acestui episod și a celor anterioare, OpenAI a suspendat temporar antrenarea, evaluarea și utilizarea instrumentelor externe pentru cele mai avansate modele.

Compania a declarat că va relua activitățile doar după implementarea unor măsuri de protecție consolidate. Această analiză amplă a securității urmează un incident petrecut în iulie, când modelele companiei au atacat accidental platforma Hugging Face. OpenAI a anunțat că procesul de examinare a activităților trecute ale agenților săi va dura luni de zile.