Incident cu un model de inteligență artificială la Philadelphia

Un model de inteligență artificială, Claude Haiku 4.5, a transmis o informație falsă către Departamentul de Poliție din Philadelphia prin intermediul site-ului PhillyUnsolvedMurders.com. În mesajul trimis, instrumentul a susținut că a văzut o persoană care corespundea descrierii suspectului, deși pagina web respectivă nu conținea nicio descriere a acestuia.

Detalii tehnice și măsuri

Potrivit surselor, incidentul a avut loc în timpul unor teste automate de interacțiune cu site-uri web selectate aleatoriu. Anthropic a explicat că modelul a produs conținut exemplificativ fără intenția de a induce în eroare, precizând că instrucțiunile interziceau introducerea datelor personale, dar nu și trimiterea formularelor. Compania a identificat problema pe 28 septembrie, a oprit procesul de testare și a introdus etape suplimentare de validare.

Poliția din Philadelphia a precizat că sesizarea a fost clasificată drept spam și nu a ajuns la serviciul de investigații, excluzând orice compromitere a securității datelor. Totuși, oamenii legii au considerat inacceptabilă perioada de două luni necesară pentru detectarea și raportarea erorii. Autoritățile au ales să facă public cazul înainte de publicarea raportului oficial al companiei pentru a asigura transparența.

Acest caz este considerat primul incident cunoscut în care un model de AI a comunicat informații false autorităților. Conform Profit.ro, Anthropic a decis să realizeze evaluările interne ale noilor modele fără acces la internet pentru a preveni alte exploatări ale site-urilor web, inclusiv a celor guvernamentale. Incidentul se încadrează într-un context mai larg de erori raportate de companii precum OpenAI, Meta și Google, care au reaprins dezbaterile privind pericolele dezvoltării accelerate a inteligenței artificiale.

MondoNews a relatat anterior despre acest subiect: „Anthropic avertizează investitorii privind riscurile tehnologiei AI” (29 septembrie 2026).