ChatGPT yaratıcısı OpenAI eğitimcilerin ve diğer kişilerin belirli bir metin parçasının bir insan mı yoksa bir makine tarafından mı yazıldığını anlamasına yardımcı olmak için tasarlanmış (Text Classifier) ücretsiz bir web tabanlı araç yayınladı.
https://platform.openai.com/ai-text-classifier
OpenAI, aracın kusurlu olduğu konusunda uyarıyor ve performans, analiz edilen metnin OpenAI’nin aracının üzerinde eğitildiği yazı türlerine ne kadar benzer olduğuna bağlı olarak değişiyor.
Jan Leike Axios’a “Hem yanlış pozitifler hem de yanlış negatifler var” dedi ve bir belgenin yazarlığını belirlemek için yeni araca tek başına güvenilmemesi gerektiği konusunda uyardı.
Text Classifier nasıl çalışır: Kullanıcılar bir metni bir kutuya kopyalar ve sistem, metnin bir AI sistemi tarafından oluşturulmuş olma olasılığını derecelendirir.
Beş puanlık bir sonuç ölçeği sunar: Yapay zekâ tarafından oluşturulmuş olma olasılığı çok düşük, olası değil, belirsiz, mümkün veya muhtemel.
En iyi, 1.000 kelimeden uzun metin örneklerinde ve İngilizce’de çalışır, performans diğer dillerde önemli ölçüde daha kötüdür. Ve insanlar tarafından yazılan bilgisayar kodunu yapay zekaya karşı ayırt etmek işe yaramıyor.
Bununla birlikte OpenAI, yeni aracın piyasaya sürdüğü bir önceki araçtan önemli ölçüde daha iyi olduğunu söylüyor.
Ayrıca birçok başka şirket, kuruluş ve kişi, yapay zekâ tarafından oluşturulan içeriği tespit etmek için benzer araçlar üzerinde çalışıyor.
