İçeriğe geç

ZeroTell AI Dedektörü ne kadar doğru?

10 dilde 1.826 belgeden oluşan, eğitimden ayrılmış test setimizde dedektör, insanların yazdığı 671 belgeden 4 tanesini AI olarak işaretledi (%0,6) ve AI tarafından yazılan belgeleri %90,6 oranında tanıdı. Başka bir modelin parafraz yaptığı metinlerde sonuçlar çok daha kötü ve hiçbir puan, bir metni kimin yazdığını kanıtlamaz.

Kısa cevap

ZeroTell'in AI Dedektörü, bir metnin her cümlesini kendi puanlama talimatlarımızla birlikte Google'ın Gemini 3.8 Flash modeline gönderir. Puanı %50 veya üzerinde olan bir cümle AI benzeri olarak vurgulanır ve belgenin puanı, metninin vurgulanan cümlelerde yer alan payıdır. Sitenin kullandığı modelin ve ayarların birebir aynısını 28 Ekim 2026 tarihinde etiketli üç test setinde ölçtük. Aşağıdaki her sayı, test betiğimizin ürettiği değerlendirme raporundan doğrudan alınmıştır; yalnızca en az 200 belge veya cümle içeren grupları aktarıyoruz.

En önemli iki sonuç var. İnsan yazısı nadiren işaretleniyor: işaretlenme oranı ayrılmış test setindeki insan belgelerinde %0,6, anadili İngilizce olmayan öğrencilerin yazdığı denemelerde %0,9. Ancak başka bir modelin parafraz yaptığı AI metni, kendi verilerimizde çok daha sık gözden kaçıyor: bu tür belgelerin yakalanma oranı ayrılmış test setinde yalnızca %71,1. Herkese açık MAGE kıyaslama setinde ise aynı tür metin çok daha sık yakalandı (%96,9); yani sonuçlar büyük ölçüde metne bağlı.

Test setine göre sonuçlar (belge düzeyi)

Puanı %50 veya üzerinde olan, yani metninin en az yarısı vurgulanan cümlelerde yer alan bir belge, AI tarafından yazılmış sayılır. Karma bir test belgesi, metninin en az yarısı AI tarafından yazılmışsa AI tarafından yazılmış sayılır. Yanlış pozitif oranı = yanlışlıkla AI olarak işaretlenen insan belgeleri. Tespit oranı = doğru şekilde işaretlenen AI belgeleri. AUROC (0,5 = rastgele tahmin, 1,0 = kusursuz ayrım) eşiğe bağlı değildir.

Test setiBelge sayısıAI olarak işaretlenen insan belgeleriTespit edilen AI belgeleriAUROC
Ayrılmış test seti (10 dil)1.826%0,6 (671 belgeden 4 tanesi)%90,60,954
Öğrenci denemeleri (anadili İngilizce olmayan yazarlar)555%0,9 (222 belgeden 2 tanesi)%98,20,992
Herkese açık MAGE kıyaslama seti (dağılım dışı)1.599%0,3 (399 belgeden 1 tanesi)%96,60,990

Hangi tür AI metni gözden kaçıyor

%50 eşiğindeki tespit oranı, AI metninin nasıl üretildiğine göre ayrılmıştır. 200'den az belge içeren gruplar dahil edilmemiştir.

Test setiDüzenlenmemiş AI metniBaşka bir modelin parafraz yaptığı AI metni
Ayrılmış test seti%97,3%71,1
Herkese açık MAGE kıyaslama seti%96%96,9

Dile göre cümle düzeyinde sonuçlar

Dedektör, puanı %50 veya üzerinde olan cümleleri vurgular. Ayrılmış test seti; aşağıdaki her dilde en az 200 cümle vardır.

DilCümle sayısıVurgulanan insan cümleleriVurgulanan AI cümleleriAUROC
İngilizce8.485%0,6%91,10,986
Çince5.762%0,1%92,30,980
Japonca1.588%1,6%97,70,996
Korece877%0%87,40,987
İspanyolca1.166%0%96,20,984
Almanca1.109%1,5%73,50,901
İtalyanca1.038%0%99,11,000
Portekizce980%0%91,40,993
Malayca1.205%0%81,60,982
Türkçe1.413%1,6%88,60,986

Üç test seti

Ayrılmış test seti (1.827 belge, 23.635 cümle): kendi etiketli verilerimizin, dedektörü geliştirirken asla kullanmadığımız sabit bir bölümü. Belgeler kaynak grubuna göre atanır; bu yüzden geliştirme verilerimizden hiçbir kaynak metin ve onun AI ile yeniden yazılmış hiçbir sürümü burada yer almaz. İnsan metinleri yayımlanmış kaynaklardan gelir ve çoğu, AI yazma araçları yaygınlaşmadan önce yazılmıştır (haberler, ansiklopedi ve web makaleleri, sorulara verilen insan yanıtları); AI metinleri ise 10 dilde düzenlenmemiş model çıktısını, ikinci bir modelin parafraz yaptığı metinleri, insansılaştırılmış taslakları ve karma belgeleri içerir. Bu setteki AI belgelerinin çoğu Gemini ve GPT modelleri tarafından yazılmıştır.

Öğrenci denemeleri (555 belge): ELLIPSE derlemindeki, anadili İngilizce olmayan öğrencilerin yazdığı denemeler; aynı konular üzerine AI tarafından yazılmış denemelerle ve ardından parafraz yapılmış ya da insansılaştırılmış AI denemeleriyle eşleştirilmiştir. Bu set yalnızca değerlendirme için kullanılır, asla dedektörü geliştirmek için kullanılmaz.

MAGE kıyaslama seti (1.600 belge): makine tarafından üretilmiş metinler için herkese açık bir araştırma kıyaslama seti; dedektörü geliştirirken bu seti kullanmadık. Kendi verilerimizde bulunmayan model ailelerinden AI metinleri ve büyük oranda parafraz yapılmış AI metni içerir. Kıyaslama seti herkese açık olduğu için, temeldeki Gemini modeli kendi eğitimi sırasında bu setin bazı kısımlarını görmüş olabilir; bu yüzden sonuçlarını iyimser bir senaryo olarak okuyun.

Bilmeniz gereken sınırlar

Bunlar test setlerimizdeki sonuçlardır, herhangi bir metin için garanti değildir. Kısa metinler, çok düzenlenmiş taslaklar, parafraz yapılmış AI metni ve test etmediğimiz modellerin yazdığı metinler farklı puanlar alabilir.

Düşük bir yanlış pozitif oranı sıfır demek değildir. Metniniz işaretlenirse puanı kanıt olarak değil, daha yakından bakmak için bir neden olarak değerlendirin; ne yapmanız gerektiğini öğrenmek için Akademik Dürüstlük sayfamıza bakın.

Bu sayılar tek bir modele ve metnin bu modele nasıl gönderildiğinin tek bir sürümüne bağlıdır. Bunlardan birini değiştirdiğimizde değerlendirmeyi yeniden çalıştırır ve bu raporu yenisiyle değiştiririz.

Nasıl ölçtük

Bir değerlendirme betiği her test belgesini sitenin kullandığı dedektörün aynısından geçirir, ardından her belgenin ve her cümlenin puanını bilinen etiketiyle karşılaştırır. Sonuçları iki eşikte (sitenin kullandığı %50 ve karşılaştırma için %70) dile, türe ve kaynağa göre raporlar ve 200'den az öğe içeren her grubu aktarılamayacak kadar küçük olarak işaretler. Bu sayfa yalnızca bu daha büyük grupları gösterir. Google'ın içerik filtresinin işlemeyi reddettiği belgelerin puanı yoktur ve bu belgeler sayılara dahil edilmez: ayrılmış test setinde 1, öğrenci denemelerinde 0 ve MAGE kıyaslama setinde 1 belge. Diğer tüm belgeler puanlandı.

Dedektör doğruluğu hakkında sık sorulan sorular

1.826 belgeden oluşan ayrılmış test setimizde insan belgelerini %0,6 oranında AI olarak işaretledi ve AI belgelerini %90,6 oranında tespit etti (AUROC 0,954). Sonuçlar test setine göre değişir ve parafraz yapılmış AI metni çok daha seyrek yakalanır.

Test setlerimizde nadiren: ayrılmış setteki insan belgelerinde %0,6, anadili İngilizce olmayan öğrencilerin denemelerinde %0,9. Bu sıfır değildir; bu yüzden bir puan tek başına asla kanıt değildir.

Daha az güvenilir şekilde. Ayrılmış setimizde, başka bir modelin parafraz yaptığı AI metni %71,1 oranında tespit edildi; düzenlenmemiş AI metninde bu oran %97,3. Herkese açık MAGE kıyaslama setinde parafraz yapılmış metnin tespit oranı %96,9 oldu; yani oran metne göre çok değişiyor.

Hayır. Testi kendi test setlerimiz ve herkese açık bir kıyaslama seti üzerinde kendimiz yaptık. Sayıları kendiniz değerlendirebilmeniz için yöntemi, setleri ve sınırları yayımlıyoruz; model her değiştiğinde testi yeniden çalıştırıyoruz.

Hayır. Tespit olasılığa dayalıdır. Akademik Dürüstlük sayfamızda açıklandığı gibi, puanı taslaklar, sürüm geçmişi ve yazarla yapılacak bir konuşmanın yanında tek bir sinyal olarak kullanın.

ZeroTell AI Dedektörü ile bir metni kontrol edin

Hangi cümlelerin AI tarafından yazılmış gibi göründüğünü ve nedenini görün; ardından kararı kendiniz verin.

AI Dedektörü'nü aç