ChatGPT detektor otkriva studente koji varaju

Znate da ja nisam pristalica korišćenja ChatGPT za pisanje. Nikada mi neće biti jasno kako neko traži opuštanje u pisanju ako mu piše AI.

Zbog toga mi je ovaj tekst bio interesantan. Prenosim ga sa portala PC World.

Nove metode OpenAI-a

OpenAI je objavio nove metode za prepoznavanje AI sadržaja. Ove metode još nisu u upotrebi.

Metoda vodenog žiga navodno funkcioniše. Ipak, nju je lako prevariti. Kompanija zato razmatra sve posledice. Primena ovog alata mogla bi stigmatizovati određene grupe. To uključuje ljude koji koriste AI kao pomoćni alat. Takođe obuhvata i one koji slabije govore jezik.

Druga metoda su metapodaci. Ona ima više potencijala.

Kako funkcionišu metapodaci?

OpenAI je detalje otkrio u novom blog postu. Originalni post objašnjava ulazak u posebnu koaliciju. Cilj je veća transparentnost sadržaja. Želi se znati da li je slika nastala pomoću AI. Ova mogućnost se već dodaje AI slikama.

Ovo je drugi pokušaj OpenAI-a u detekciji teksta. U januaru 2023. objavili su Classifier. On je bio daleko od savršenog. Classifier je prepoznao 26% AI teksta kao ljudski. Takođe je 9% ljudskog teksta proglasio za AI.

Zašto je detekcija važna?

To nije važno za automatske mejlove osiguranja. Međutim, u školi je potpuno kritično. Studenti moraju pokazati svoje znanje. Izbacivanje iz škole zbog greške alata je katastrofalno. To može uništiti karijeru.

Nova istraživanja dolaze u pravo vreme. Nova školska godina je blizu.

Metapodaci kao stabilnije rešenje

• Šta je novo: metapodaci

OpenAI je razmatrao vodeni žig za tekst. Sličan je nevidljivoj oznaci na slici. Ipak, taj tekst je lako izmeniti. Korisnik može upotrebiti drugi AI za prepisivanje. Može i tražiti od ChatGPT-a uklanjanje specijalnih karaktera.

Metapodaci su mnogo praktičniji. Njihova primena je otpornija na manipulacije korisnika.

“Za razliku od vodenog žiga, metapodaci su kriptografski potpisani. To znači da nema lažnih pozitivnih rezultata,” navodi OpenAI. “Ovo će biti sve važnije sa porastom obima teksta. Vodeni žig bi na veliku količinu teksta dao mnogo grešaka.”

OpenAI je u ranoj fazi ovog istraživanja. Još je rano za procenu konačne efikasnosti.