ChatGPT detektor otkriva studente koji varaju

Znate da ja nisam pristalica korišćenja ChatGPT za pisanje, i da mi nikada neće biti jasno kako neko može da traži opuštanje u pisanju ako mu piše AI. Zbog toga mi je ovaj tekst bio interesantan, pa ga prenosim sa portala PC World.

OpenAI je objavio da kompanija ima nove metode za prepoznavanje sadržaja koji je kreirao ChatGPT, iako još nisu puštene u upotrebu.

Metoda vodenog žiga za sopstveni AI-generisani sadržaj navodno funkcioniše, prema OpenAI-u. Međutim, ona se može lako prevariti. Kompanija takođe razmatra kako bi objavljivanje i primena ovog alata mogla biti korišćena za stigmatizaciju grupa koje koriste AI kao stvarni alat za pisanje, uključujući one koji ne govore jezik dovoljno dobro da generišu uglađeni sadržaj.

Druga metoda, metapodaci, ima više potencijala.

OpenAI je otkrio ove nove metode u ažuriranom blog postu. Originalni post je detaljno opisao kako se OpenAI pridružio Koaliciji za dokaz porekla i autentičnosti sadržaja u pokušaju da bude transparentniji o tome da li je slika, ne tekst, generisana pomoću AI, ili je stock slika prilagođena korišćenjem AI. Ta mogućnost se trenutno dodaje AI-generisanim slikama OpenAI-a, kako je navedeno u ažuriranju.

Neotkrivena metoda je bar drugi pokušaj OpenAI-a da koristi AI za identifikaciju AI-generisanog teksta. U januaru 2023. godine, OpenAI je objavio Classifier koji je bio daleko od savršenog. Kompanija je tada izjavila da je Classifier identifikovao 26 procenata AI-generisanog teksta kao ljudski, i 9 procenata ljudski generisanog teksta kao AI-generisan.

To nije zaista važno u scenariju gde se AI koristi za sastavljanje automatizovanog emaila iz osiguravajuće kompanije, koji vas obaveštava da je vreme da ažurirate osiguranje za iznajmljivače. Međutim, to je apsolutno kritično u akademskoj sredini, gde studenti, ne AI, moraju da demonstriraju da razumeju materijal koji se predaje. Biti izbačen iz škole zbog korišćenja AI, ispravno identifikovanog ili ne, može biti katastrofalno za profesionalnu karijeru.

Nova istraživanja OpenAI su pravovremena, s obzirom na to da je akademska godina 2024-2025 skoro tu.

• Šta je novo: metapodaci

OpenAI je razmatrao upotrebu vodenog žiga za tekst, slično kao što se “nevidljiva” oznaka može primeniti na sliku. OpenAI ne objašnjava kako bi to moglo biti urađeno. OpenAI je očigledno mnogo dalje napredovao u korišćenju metapodataka kao osnove za alate za detekciju AI. Ali tekst sa vodenim žigom je lako prevazići, ili korišćenjem drugog AI alata za parafraziranje ili prepisivanje teksta, ili traženjem od ChatGPT-a da doda, a zatim obriše specijalne karaktere.

Međutim, metapodaci su očigledno praktičnije rešenje. U ovom slučaju, primena metapodataka na AI generisani sadržaj bi bila manje podložna manipulaciji korisnika.

“Za razliku od vodenog žiga, metapodaci su kriptografski potpisani, što znači da nema lažnih pozitivnih rezultata,” rekao je OpenAI. “Očekujemo da će ovo biti sve važnije kako se obim generisanog teksta povećava. Dok vodeni žig za tekst ima nizak stepen lažnih pozitivnih rezultata, primena na velike količine teksta bi dovela do velikog broja ukupnih lažnih pozitivnih rezultata.”

OpenAI je rekao da je u “ranoj fazi istraživanja” primene metapodataka i da je prerano proceniti njegovu efikasnost u ovom trenutku.