Kompanija OpenAI ozbiljno razmatra implementaciju alata koji će omogućiti precizno prepoznavanje tekstova generisanih pomoću ChatGPT-a. Radi se o tehnologiji vodenog žiga koja bi označavala sadržaj nastao putem veštačke inteligencije.
Kako će vodeni žig funkcionisati?
Ovaj alat, koji je već razvijen, trenutno je predmet debate unutar kompanije, jer se još uvek ne zna da li će i kada biti pušten u upotrebu. Iz OpenAI-a su saopštili da njihovi timovi intenzivno rade na označavanju teksta vodenim žigom, ali i da istražuju druge alternativne metode.
Alternativna rešenja u razmatranju
Pored vodenog žiga, OpenAI razmatra i druga rešenja kao što su klasifikatori i metapodaci, kako bi se osigurala autentičnost tekstova. Međutim, iako je ovaj metod u određenim slučajevima vrlo precizan, on nije potpuno efikasan protiv svih vrsta manipulacija, poput korišćenja prevodilačkih sistema, preformulacije s drugim modelima veštačke inteligencije, ili ubacivanja specijalnih znakova između reči koje se naknadno brišu.
Uticaj na različite korisničke grupe
Jedan od glavnih izazova s kojima se OpenAI suočava je kako da se ovaj alat implementira, a da ne utiče neproporcionalno na određene grupe korisnika. Naime, postoji zabrinutost da bi označavanje teksta moglo negativno uticati na one kojima engleski jezik nije maternji, stigmatizujući tako korišćenje AI kao pisanog alata.
Kompanija trenutno daje prednost autentifikaciji audiovizuelnih sadržaja, s posebnim akcentom na poreklo teksta, zbog njegove složenosti i potencijalnog uticaja na širi ekosistem izvan OpenAI-a.