Yapay Zekâ Bot Erişim Denetimi
ChatGPT, Claude, Perplexity ve Gemini botlarının sitenize erişip erişemediğini görün.
Analiz sonucu
Sıkça sorulan sorular
+− Yapay zekâ botlarını engellemeli miyim?
Ayrım yapmalısınız. EĞİTİM botları (GPTBot, ClaudeBot, CCBot) içeriğinizi model eğitiminde kullanır; bunları engellemek bilinçli bir tercih olabilir ve arama görünürlüğünüzü etkilemez. ARAMA botları (OAI-SearchBot, PerplexityBot, Google-Extended) ise yanıtlarda kaynak gösterilmenizi sağlar; bunları engellemek doğrudan trafik kaybıdır.
+− robots.txt kurallarını nasıl hesaplıyorsunuz?
Gerçek kurallara göre. Bir botun kendi adına grubu varsa yalnızca onu okur ve "*" grubunu tamamen yok sayar — bu en sık yapılan yanılgıdır. Çakışan kurallarda sıra değil, en uzun eşleşen kural kazanır. Desenlerde * ve $ de destekleniyor.
+− Engellersem içeriğim korunur mu?
Kısmen. robots.txt bir ricadır, teknik engel değildir; ona uyan botlar için çalışır. Ayrıca içeriğiniz zaten Common Crawl gibi açık veri kümelerinde olabilir. Gerçek koruma isteniyorsa içeriği giriş arkasına almak gerekir.