OpenAI va integra în următoarele săptămâni un watermark invizibil în textele generate de ChatGPT și Codex pentru utilizatorii din Uniunea Europeană. Măsura răspunde obligațiilor impuse de EU AI Act, care cere furnizorilor de inteligență artificială generativă să facă conținuturile identificabile într-o formă citibilă automat.

Sistemul, numit "textGrain", nu adaugă simboluri sau etichete vizibile. În schimb, introduce un semnal statistic ascuns prin modul în care modelul selectează cuvintele. Un detector special poate căuta ulterior acest semnal pentru a estima dacă textul conține marca OpenAI.

Implementarea începe etapizat. Din 5 octombrie, clienții API din întreaga lume pot activa watermarkul opțional pentru anumite modele. Pentru utilizatorii ChatGPT și Codex eligibili din UE, funcția va fi activată automat în următoarele săptămâni.

OpenAI recunoaște limitările sistemului. Testele arată că lungimea textului influențează eficacitatea: detectorul identifică marca în aproximativ 80% dintre textele de 200 de tokeni și în 95% dintre cele de 400 de tokeni. Editarea textului reduce drastic acuratețea — înlocuirea a 10% din cuvinte scade rata de detectare de la 92% la 66%.

Detectorul nu va fi disponibil publicului larg. Accesul se va acorda inițial cercetătorilor și organizațiilor aprobate de OpenAI. Compania subliniază că marcajul nu poate dovedi cât conținut provine de la om și cât de la AI, nu identifică utilizatorul sau contextul generării, și nu garantează corectitudinea informațiilor.

Context

Pe scurt: OpenAI marchează textele generate de inteligența artificială cu un semn invizibil, pentru ca europenii să poată identifica conținutul creat de mașini.

  • EU AI Act este o reglementare europeană care obligă furnizorii de IA să fiu transparent cu privire la origine conținuturilor. Scopul este protejarea consumatorilor și prevenirea înșelăciunii.
  • Watermark statistic înseamnă că algoritmul preferă anumite cuvinte sau combinații de cuvinte, creând un model detectabil doar cu instrumente speciale — nu e vizibil ochiului.
  • Token este o unitate de text pentru IA — grosier, un cuvânt sau o parte dintr-un cuvânt. Textele mai lungi sunt mai ușor de marcat și detectat.
  • Limitările sistemului: marcajul se puede șterge prin editare; absența lui nu dovedește că textul e scris de om (poate fi prea scurt sau tradus).

De ce contează: Pentru publicația online, pentru expert juridic, pentru edituri — trebuie să știe dacă un text e generat de AI. Regulamentul european forțează transparență în industria tech.