OpenAI počinje postepeno da uvodi sistem za nevidljivo označavanje tekstova koje generiše veštačka inteligencija, a cilj je da se naknadno može utvrditi da li je određeni sadržaj nastao uz pomoć AI modela. Sistem pod nazivom textGrain ne dodaje vidljive oznake u tekst, već ostavlja statistički obrazac u izboru reči koji specijalizovani softver može da prepozna.
Za korisnika koji čita ili kopira takav tekst, promena praktično nije vidljiva. Nema posebnih simbola, skrivenih znakova ili neuobičajenog razmaka između reči. Model samo blago menja verovatnoću izbora određenih reči i tako formira obrazac koji ljudskom oku ostaje neprimetan.
Kako funkcioniše nevidljivo označavanje teksta
TextGrain je zamišljen tako da se oznaka ne nalazi u jednom konkretnom delu teksta, već u njegovoj ukupnoj statističkoj strukturi. Prilikom generisanja odgovora model ne bira svaku reč potpuno nasumično, već među mogućim formulacijama pravi veoma male promene u verovatnoćama izbora. Kada se takav obrazac ponovi kroz dovoljno dug tekst, poseban detektor može da proceni da li postoji karakterističan signal.
Čitaocu takav tekst izgleda potpuno uobičajeno, što je i osnovna ideja sistema. Za razliku od vidljivog potpisa ili oznake, ne postoji deo sadržaja koji bi korisnik mogao jednostavno da obriše. Ipak, signal nije apsolutno trajan, jer naknadne intervencije mogu promeniti statističku strukturu originalnog odgovora.
OpenAI je najavio postepeno uvođenje sistema za odgovarajuće tekstualne odgovore ChatGPT-a i Codex-a korisnicima u Evropskoj uniji, na svim planovima. Za korisnike OpenAI API-ja textGrain je predviđen kao opcija dostupna širom sveta, ali nije uključena po automatizmu. To znači da se način primene razlikuje u zavisnosti od toga kako se AI alat koristi.
Za korisnike u Srbiji važna je činjenica da automatsko označavanje za sada nije obuhvaćeno istim pravilom kao u Evropskoj uniji. To ne znači da se tehnologija ne može primenjivati u drugim okruženjima, već da korisnici ChatGPT-a u Srbiji nisu automatski uključeni u evropski režim uvođenja ovog sistema.
Kratki tekstovi predstavljaju veći problem za detekciju
Jedno od ograničenja sistema jeste dužina sadržaja. Što je tekst kraći, manje je prostora da se formira dovoljno izražen statistički obrazac koji bi detektor mogao pouzdano da izdvoji. Zbog toga evropska pravila predviđaju izuzetak za tekstove kraće od 200 tokena, što je približno 150 reči na engleskom jeziku.
Pouzdanost može da zavisi i od samog sadržaja. Kod matematičkih formula, tehničkih objašnjenja ili drugih stručnih tekstova model često ima manje mogućnosti da slobodno bira različite formulacije. U takvim situacijama statistički signal može biti slabiji nego u tekstu koji ima bogatiji izbor reči i rečeničnih konstrukcija.
Dodatni izazov predstavljaju prevod, prepričavanje i uređivanje. Ako se AI tekst značajno preradi, promene se reči i struktura rečenica ili se sadržaj prevede na drugi jezik, originalni obrazac može oslabiti. Zbog toga detektor ne bi trebalo posmatrati kao nepogrešiv dokaz o poreklu svakog pojedinačnog teksta.
Mogući su i lažno pozitivni i lažno negativni rezultati. Detektor može prepoznati signal tamo gde on nije pouzdan pokazatelj porekla, ali može i propustiti AI sadržaj čiji je statistički obrazac promenjen. Takva ograničenja posebno su važna kada se rezultati koriste za procenu autentičnosti novinskih, akademskih ili poslovnih tekstova.
Žig ne otkriva autora niti garantuje tačnost sadržaja
OpenAI zbog toga svoj detektor za tekst u početku neće učiniti javno dostupnim. Pristup bi trebalo da imaju odobreni istraživači i stručne organizacije, što bi trebalo da omogući testiranje sistema bez toga da se njegova namena svede na jednostavan alat za proveru bilo kog teksta na internetu.
Sam vodeni žig ne otkriva identitet osobe koja je koristila AI. On ne povezuje tekst sa konkretnim nalogom, razgovorom ili korisnikom, niti pokazuje koliko je čovek kasnije menjao sadržaj. Drugim rečima, sistem pokušava da utvrdi poreklo teksta, a ne identitet osobe koja ga je koristila.
Prisustvo signala takođe nije dokaz da su informacije u tekstu tačne ili da određeni sadržaj pripada OpenAI-ju. Ne govori ni ko ima autorska prava nad tekstom niti na koji način je sadržaj nastao nakon prvobitnog generisanja. AI detekcija i provera činjenica ostaju dve različite stvari.
Istovremeno, odsustvo žiga ne znači automatski da je tekst napisao čovek. Sadržaj može biti napravljen drugim AI sistemom, generisan u okolnostima u kojima textGrain nije bio uključen ili kasnije dovoljno izmenjen da signal više ne bude pouzdano prepoznatljiv. Upravo zbog toga se očekuje da ovakvi sistemi budu jedan od pokazatelja, a ne jedini kriterijum za utvrđivanje porekla sadržaja.
OpenAI planira i da textGrain objavi kao softver otvorenog koda, čime bi istraživačima i programerima omogućio da proučavaju tehnologiju, proveravaju njenu pouzdanost i razvijaju sopstvene metode. Kako se pravila o veštačkoj inteligenciji budu menjala, moguće su i promene u načinu primene sistema. Za korisnike u Srbiji za sada je najvažnije da evropsko automatsko uvođenje ne znači da će svaki tekst generisan u Srbiji odmah imati ovakav nevidljivi trag.
