DetectGPT sayesinde artık ChatGPT kullanıldığı anlaşılabilecek

Stanford araştırmacıları, ChatGPT tarafından üretilen metinlere karşı savaşabilecek ve yarar sağlayabilecek yeni bir araç olan DetectGPT’yi duyurdu. 

ChatGPT üzere büyük lisan modellerinin (LLML’ler) kullanımı çok süratli bir biçimde artıyor. Bunun nedeni ise işlerini çok güzel bir biçimde yapıyor olmalarından kaynaklı. Ayrıyeten üniversitelerdeki dersler için ikna edici ve açık makaleler oluşturulabiliyor. Bu sebepten dolayı artık, makine tarafından oluşturulan yazıları algılayabilen sistemlere muhtaçlık duyuluyor.

ChatGPT’yi tespit eden yeni bir teknoloji geliştirildi

Bir mühlet evvel Standford’daki bir küme araştırmacı DetectGPT isminde (sıfır atış) yeni bir usul önerdi ve bu prosedürün yüksek öğretimde üretilen metinlerle çabada kullanılacak birinci araçlardan biri olmasını hedefliyor. Usul, LLML’ler tarafından üretilen metinlerin tipik olarak modelin mümkünlük işlevinin negatif eğrilik bölgelerinin belli bölgeleri etrafında dolaştığı fikrine dayanıyor. Bu görüş sayesinde grup, metnin makine tarafından üretilip üretilmediğini pahalandırmak için bir yapay zekayı eğitmeye yahut metni karşılaştırmak için büyük data kümeleri toplamaya dayanamayan yeni bir metot geliştirdi. 

“Sıfır atış” olarak isimlendirilen bu metot, DetectGPT’nin makine tarafından yazılmış metni, onu üretmek için kullanılan yapay zeka hakkında rastgele bir bilgi olmadan tespit etmesini sağlıyor. Eğitim sınıflandırıcıları gerçek ve üretilmiş pasajlardan oluşan data kümeleri gerektiren öteki metotların tam bilakis çalışıyor.

Ekip, DetectGPT sistemini bir dizi düzmece haber makalesinde kullandı ve sistem sahteleri ayıklamak açısından öteki tanımlama usullerinden çok daha düzgün bir iş çıkardı. DetectGPT makineler tarafından üretilmiş olan metinleri en güzel tespit edebilecek sistem olduğu düşünülüyor.

Sizler bu mevzu hakkında ne düşünüyorsunuz?

Kaynak: İndir