Láthatatlan vízjelet vezet be az EU-ban a ChatGPT
Az OpenAI nagy változtatást vezet be az Európai Unióban: hamarosan minden ChatGPT és Codex által generált szöveghez láthatatlan vízjelet adnak hozzá, amellyel visszakereshetővé válik, hogy egy írásos munka mesterséges intelligencia segítségével készült-e.
A vízjel nem lesz látható a szöveg olvasása vagy másolása során. Az OpenAI egy textGrain nevű technológiát alkalmaz, amely kissé megváltoztatja a modell szóhasználatát, és ezáltal egy később észlelhető statisztikai mintázatot hoz létre.
A bevezetés az EU-ban már az elkövetkező hetekben megkezdődik, egyelőre azonban nem válik globális alapértelmezetté. A vállalat emellett pályázatokat írt ki a vízjel-detektáláshoz, a hozzáférés azonban kezdetben csak jóváhagyott kutatókra és kiválasztott szakértői szervezetekre korlátozódik.
Az OpenAI saját tesztjei szerint a szövegek vízjelezése messze nem tökéletes. Egy 400 tokenből álló szövegrészletnél a szavak 10 százalékának szinonimákkal való helyettesítése a felismerési arányt 92 százalékról mintegy 66 százalékra csökkentette, a szavak negyedének cseréje pedig 17 százalékra. A detektálás még gyengébb volt olyan tantárgyaknál, mint a matematika, ahol a modellnek kevesebb szabadsága van a szóválasztásban. A cég legújabb, GPT-6 Astra modelljén sem működik a vízjelezés.
A vállalat szerint a vízjel nem árulja el, hogy ki generálta a szöveget, így sem a felhasználói fiókot, sem a promptot nem hozza nyilvánosságra, és azt sem lehet megállapítani, hogy a végső munka mekkora részét írta vagy szerkesztette ember.
