Politika.rs · Srbija · Other

ČetGPT dobija nevidljivi žig, ali se lako briše

Glavni narativ

Otvoren okvir

Nevidljivi žig OpenAI-ja lako se uklanja uređivanjem

OpenAI uvodi nevidljive vodene žigove za tekst generiran AI-jem u EU-u, ali priznaje da ih je lako ukloniti jednostavnim uređivanjem. Sustav 'textGrain' mijenja statističke obrasce riječi, no detekcija drastično pada čak i uz minimalne izmjene korisnika.

AI urednički komentar

Tekst prenosi tehnička ograničenja nove tehnologije OpenAI-ja, ističući nesrazmjer između namjere regulacije i stvarne učinkovitosti. Iako se poziva na vlastite testove tvrtke, ton sugerira da je sustav daleko od savršenstva. Nedostaje širi kontekst o tome kako bi takvi žigovi funkcionirali u praksi ili kakve su alternative za provjeru autentičnosti sadržaja. Čitatelj dobiva sliku tehnološkog eksperimenta koji je već sada ranjiv na manipulaciju.

Mogući manipulativni signali

  • preuvelicavanje: sistem daleko od savršenog — Koristi se apsolutna tvrdnja o neuspjehu sustava koja nadilazi tehnička ograničenja navedena u tekstu.
  • namjerna-nejasnoca: nevidljivi žig — Termin 'nevidljiv' je kontradiktoran jer se radi o digitalnom potpisu koji nije vidljiv ljudskom oku, ali može biti detektiran strojevima.

Provjeri dok čitaš original

  • Koji su to 'odobrene istraživačke organizacije' koje će imati pristup detektoru? dostupan isključivo odobrenim istraživačima i stručnim organizacijama
  • Postoje li nezavisni dokazi o uspješnosti ili neuspjehu ovog sustava izvan OpenAI-jevih vlastitih testova? Testovi koje je ispitala sama 'OpenAI'

Kontekst koji nedostaje

  • Nedostaju podaci o tome kako će se ovaj sustav provoditi u praksi unutar EU regulative.
  • Ne navode se alternative ili druge tehnike detekcije AI sadržaja koje postoje na tržištu.
  • Izostavljen je kontekst o etičkim implikacijama takvog 'nevidljivog' praćenja korisnika.

Povezane analize

Otvori originalni članak

Trajna poveznica na analizu