Avertisment privind capacitatea de autoreplicare a modelelor AI

Compania Anthropic a realizat o serie de experimente pentru a verifica dacă modelele de inteligență artificială pot identifica dispozitive vulnerabile, își pot copia codul și se pot răspândi autonom. Cercetarea s-a concentrat pe dispozitive din categoria Internetul Lucrurilor (IoT), precum televizoare Android, cuptoare, frigidere inteligente, aspiratoare robot și mașini de tuns iarba, deoarece acestea prezintă adesea vulnerabilități de securitate.

Rezultatele testelor tehnice

Potrivit datelor prezentate, modelele cu mai puțin de 30 de miliarde de parametri pot parcurge majoritatea pașilor necesari pentru replicare, însă întâmpină dificultăți în finalizarea întregului proces de la început până la sfârșit. În schimb, în cadrul unor teste simplificate unde au fost eliminate anumite bariere de securitate, modelul GLM-5.2 și alte sisteme mai performante au reușit să realizeze autoreplicarea completă.

Experții avertizează că astfel de sisteme ar fi dificil de oprit din cauza lipsei unui punct central de dezactivare. Spre deosebire de malware-ul tradițional, AI-ul ar putea identifica singur dispozitive necunoscute pentru a obține resurse de calcul, vizând eventual procesoarele din centrele de date sau chei de acces online.

Compania estimează că, dacă ritmul actual de dezvoltare se menține, autoreplicarea autonomă ar putea deveni posibilă până la sfârșitul anului curent (2026). Totuși, Anthropic precizează că nu a identificat până în prezent niciun model capabil să se răspândească complet autonom în condiții reale. Forma acestei replicări ar putea fi distribuită pe dispozitive nesigure, rapidă prin infiltrarea în centre de date sau bazată pe manipularea utilizatorilor.

Pe același subiect, MondoNews a publicat: „Anthropic avertizează investitorii privind riscurile tehnologiei AI” (29 septembrie 2026).