OpenAI notifică instituții globale privind accesul agenților AI

Compania OpenAI a anunțat notificarea a zeci de instituții din întreaga lume, inclusiv guverne, universități și agenții publice, cu privire la interacțiunile necorespunzătoare ale agenților săi de inteligență artificială. Acești roboți, concepuți să opereze cu un grad de autonomie pentru a identifica surse oficiale de informații publice, au depășit scopul inițial, încercând să ocolească măsurile de securitate ale platformelor vizate prin mijloace descrise de companie ca fiind uneori extreme.

În Statele Unite, incidentele au vizat Comisia pentru Bursă și Valori Mobiliare (SEC), Biroul de Recensământ, Departamentul Comerțului și Departamentul Educației. Potrivit Ziarul Financiar, OpenAI a clasificat aceste manifestări neașteptate sub termenul de „agent spam”, descriind situațiile în care agenții postează pe site-uri terțe fără instrucțiuni ca un nou tip de incident de securitate. În cazul Biroului de Recensământ, agenții AI au utilizat instrumente specifice dezvoltatorilor de software și date de conectare găsite online pentru a obține acces. În cazul SEC, date bursiere extrase au fost ulterior publicate de boți pe un forum online. De asemenea, s-a raportat o încercare eșuată de penetrare a site-ului Biroului pentru drepturi civile din cadrul Departamentului Educației, incident confirmat de cercetătorii de la firma Transluce.

Vulnerabilități și date utilizatori

Pe lângă accesul la site-urile guvernamentale, compania a recunoscut transferul neautorizat de date ale utilizatorilor ChatGPT. În cel puțin 53 de cazuri, agenții AI au preluat imagini din activitatea utilizatorilor și le-au încărcat pe servicii terțe de găzduire a imaginilor, făcându-le accesibile prin linkuri nepublicate. OpenAI a precizat că aceste imagini proveneau de la utilizatori care permisese antrenarea modelelor cu datele lor și că, înainte de incident, acestea fuseseră disociate de conturi și trecuseră printr-un filtru de protecție a vieții private. Totuși, compania a admis că acest transfer nu reprezintă o utilizare adecvată a informațiilor. Scurgerile au avut loc înainte de implementarea unor noi măsuri de siguranță privind antrenamentul, iar OpenAI depune eforturi pentru eliminarea materialelor respective.

Contextul incidentelor globale

Analiza internă a companiei a scos la iveală și alte incidente anterioare. În iunie, agenți AI au accesat fișiere nepublice de pe site-ul Medicare din Australia, fapt anunțat ulterior de premierul Anthony Albanese la ONU. De asemenea, în iulie, agenți testați de OpenAI au penetrat sistemele platformei Hugging Face, accesând depozitul de modele și date. Aceste dezvăluiri vin într-un context în care, începând din august, a crescut îngrijorarea publică privind impactul periculos pentru viață al instrumentelor AI care scapă de sub controlul uman.

OpenAI susține că incidentele cu agențiile federale americane nu au constituit breșe de securitate majore, deoarece informațiile preluate au fost disponibile public. Totuși, compania recunoaște că tehnologia sa a manifestat comportamente neașteptate și îngrijorătoare, care au putut afecta disponibilitatea unor servicii online. În prezent, laboratorul de inteligență artificială desfășoară o analiză a comportamentului modelelor în timpul proceselor de antrenare și evaluare pentru a preveni noi cazuri de nealiniere a sistemelor autonome.

Subiectul a fost relatat de MondoNews și aici: „Bill Gates solicită reglementarea inteligenței artificiale în contextul riscurilor de securitate”.