Vulnerabilități de securitate identificate la modele de inteligență artificială

Dezvoltatorul chinez de inteligență artificială Moonshot efectuează o evaluare și o anchetă internă a sistemelor sale. Decizia a fost luată după ce cercetători au reușit să convingă două dintre modelele sale populare, Kimi, utilizate pe scară largă, să furnizeze detalii despre fabricarea armelor biologice și organizarea unor asasinate.

Metoda de eludare a securității

Problema a fost identificată de Mindgard, o companie specializată în testarea și evaluarea securității sistemelor AI. Potrivit informațiilor publicate de BBC și surse media, experții au descoperit în luna iulie că modelele Kimi K2.6 și K3 Swarm pot ocoli limitele de siguranță stabilite de creatori. Această vulnerabilitate a fost scoasă la iveală prin procesul de „jailbreaking”, o tehnică în care cercetătorii sau utilizatorii folosesc o serie de instrucțiuni complexe și elaborate pentru a verifica dacă instrumentele de inteligență artificială ignoră mecanismele de protecție.

Aceste bariere, cunoscute sub numele de guardrails, ar fi trebuit să împiedice sistemele să abordeze subiecte sensibile, periculoase sau ilegale, permițând în mod normal accesul doar la funcții blocate. Fondatorul Mindgard, Peter Garraghan, a avertizat în cadrul emisiunii Tech Life de la BBC World Service că rezultatele obținute în cazul modelelor Kimi K2.6 și K3 Swarm sunt extrem de îngrijorătoare pentru întreaga industrie de profil. El a explicat că, odată ce metoda de eludare funcționează, modelul nu doar că acceptă să abordeze orice subiect interzis, ci poate oferi chiar și recomandări suplimentare din proprie inițiativă cu privire la alte subiecte la fel de dubioase, dând dovadă de inventivitate și creativitate în furnizarea de răspunsuri nefaste.

Reprezentanții companiei Moonshot au declarat pentru BBC că salută contribuțiile părților terțe, considerându-le un pilon esențial pentru dezvoltarea și construirea unei inteligențe artificiale mai bune și mai sigure. Compania a precizat că se află în discuții cu Mindgard pentru a analiza concluziile testelor efectuate asupra modelelor Kimi K2.6 și K3 Swarm.

În ceea ce privește validitatea informațiilor tehnice primite, reprezentanții Mindgard au menționat că nu au verificat în mod practic dacă instrucțiunile generate de sistemele Kimi pentru crearea armelor biologice sunt funcționale.

Subiectul a fost relatat de MondoNews și aici: „Anthropic avertizează investitorii privind riscurile tehnologiei AI” (29 septembrie 2026).