OpenAI introduce marcaje invizibile pentru textele generate de AI

OpenAI a anunțat implementarea unei tehnologii de marcare invizibilă a textelor generate de ChatGPT și Codex. Această măsură este un răspuns direct la cerințele Legii UE privind Inteligența Artificială (AI Act), care obligă furnizorii de sisteme generative să facă conținutul identificabil pentru alte sisteme automate. Regulile de transparență respective au intrat în vigoare pe 2 august 2026, impunând companiilor de AI să marcheze conținutul generat de chatbot-uri într-un mod care să poată fi citit automat.

Tehnologia, denumită textGrain, nu utilizează simboluri, etichete sau mesaje vizibile, ci funcționează prin modelarea subtilă a alegerilor statistice de cuvinte făcute de model în timpul generării. Practic, cititorul va vedea un text obișnuit, însă în spatele formulărilor va exista un semnal statistic pe care un software specializat îl poate analiza ulterior pentru a stabili dacă fragmentul conține watermark-ul OpenAI. Deoarece acest marcaj este încorporat în cuvintele în sine, acesta „călătorește” odată cu textul chiar și atunci când acesta este copiat și lipit. Sistemul va fi aplicat atât pentru textele simple, cât și pentru codul de programare produs de soluțiile companiei, OpenAI călcând astfel pe urmele Anthropic.

Implementarea și accesibilitatea

Lansarea sistemului se va desfășura etapizat. Începând cu 5 octombrie 2026, dezvoltatorii care utilizează API-ul OpenAI la nivel global pot activa funcția pentru anumite modele, deși aceasta rămâne dezactivată implicit. Pentru utilizatorii eligibili de ChatGPT și Codex din Uniunea Europeană, watermark-ul va fi introdus în următoarele săptămâni, indiferent de tipul de abonament utilizat. OpenAI a precizat că, la lansare, marcarea nu va fi o opțiune implicită la nivel global, implementarea fiind limitată în UE pentru utilizatorii finali, în timp ce dezvoltatorii API vor decide separat dacă activează funcția.

Compania a subliniat faptul că watermark-ul este conceput pentru a deosebi textele generate de AI de cele create de om, însă acesta nu identifică utilizatorul individual. Pentru a facilita procesul de identificare, la celălalt capăt al fluxului va fi utilizat un detector special care va căuta tiparul statistic introdus de textGrain.

Limitările tehnologice

OpenAI precizează că sistemul textGrain nu este infailibil și nu poate garanta o recunoaștere perfectă în toate scenariile. Pot apărea rezultate fals pozitive, în care texte scrise de oameni sunt confundate cu cele generate de AI, sau cazuri în care conținutul artificial nu este detectat corect. Compania susține că tehnologia a egalat sau a depășit performanța altor sisteme evaluate, inclusiv SynthID pentru text, dar recunoaște că acuratețea de 100% nu este garantată.

Eficiența scade semnificativ în cazul textelor scurte, foarte constrânse, unde rata de succes este estimată la aproximativ 80%. Situația devine și mai complexă atunci când textele produse de AI sunt prelucrate sau modificate ulterior de utilizatori, reducând și mai mult precizia detecției. În cadrul testelor efectuate, la o rată țintă de 1% pentru rezultatele fals pozitive, detectorul a identificat watermark-ul în aproximativ 80% dintre fragmentele de 200 de tokeni și în aproximativ 95% dintre cele de 400 de tokeni.

Pentru a îmbunătăți performanța sistemului în cazuri specifice, OpenAI a anunțat că va oferi sistemul de detectare sub licență open-source. Această decizie are scopul de a permite altor organizații sau dezvoltatori să optimizeze instrumentul de detectare.

Subiectul a fost relatat de MondoNews și aici: „Noile lansări de inteligență artificială de la OpenAI” (30 septembrie 2026).