GEO Robots.txt चेकर

जांचें कि क्या आपका robots.txt जेनरेटिव इंजन ऑप्टिमाइज़ेशन के लिए तैयार है। तुरंत देखें कि कौन से एआई खोज और प्रशिक्षण बॉट आपकी साइट तक पहुंच सकते हैं।

19 AI और सर्च बॉट्स Content-Signal सपोर्ट साइटमैप डिटेक्शन Google-कम्प्लायंट पार्सर

हम हमेशा robots.txt को साइट रूट से लाते हैं - आपके द्वारा पेस्ट किया गया पथ अनदेखा कर दिया जाता है।

जनरेटिव इंजन ऑप्टिमाइजेशन (GEO) क्या है?

GEO आपकी वेबसाइट को अनुकूलित करने का अभ्यास है ताकि इसे AI-संचालित खोज इंजन और चैट सहायकों - ChatGPT, क्लाउड, पर्प्लेक्सिटी, Google AI ओवरव्यू, मेटा AI और अन्य द्वारा खोजा, उद्धृत और उद्धृत किया जा सके। पहली शर्त यह है कि इन बॉट्स को आपके robots.txt द्वारा अनुमति दी जानी चाहिए।

यह चेकर GEO के लिए महत्वपूर्ण 19 बॉट्स का निरीक्षण करता है - जिसमें AI प्रशिक्षण क्रॉलर (GPTBot, क्लाउडबॉट, Google-एक्सटेंडेड), AI सर्च क्रॉलर (OAI-SearchBot, PerplexityBot, क्लाउड-सर्चबॉट), उपयोगकर्ता-ट्रिगर फ़ेचर्स (ChatGPT-उपयोगकर्ता, क्लाउड-उपयोगकर्ता) और क्लासिक खोज क्रॉलर (Googlebot, Bingbot) शामिल हैं - और दिखाता है कि आपकी साइट किनकी अनुमति देती है।

बॉट संदर्भ

Googlebot

मुख्य Google खोज क्रॉलर - इसे कभी भी ब्लॉक न करें।

Google-Extended

यह नियंत्रित करता है कि Google आपकी सामग्री का उपयोग जेमिनी/बार्ड को प्रशिक्षित करने के लिए करता है या नहीं।

GPTBot

OpenAI क्रॉलर का उपयोग GPT मॉडल के प्रशिक्षण के लिए सामग्री एकत्र करने के लिए किया जाता है।

OAI-SearchBot

OpenAI क्रॉलर जो ChatGPT खोज परिणामों और उद्धरणों को शक्ति प्रदान करता है।

ChatGPT-User

जब कोई उपयोगकर्ता चैटजीपीटी से किसी पेज पर जाने के लिए कहता है तो मांग पर यूआरएल लाता है।

ClaudeBot

एंथ्रोपिक क्रॉलर का उपयोग क्लाउड को प्रशिक्षण देने के लिए सामग्री एकत्र करने के लिए किया जाता था।

Claude-SearchBot

क्लाउड वेब खोज परिणामों के लिए एंथ्रोपिक क्रॉलर।

Claude-User

जब कोई क्लाउड उपयोगकर्ता यूआरएल साझा करता है या अनुरोध करता है तो ऑन-डिमांड प्राप्त करें।

PerplexityBot

पर्प्लेक्सिटी क्रॉलर उनके एआई उत्तर इंजन को शक्ति प्रदान कर रहा है।

Perplexity-User

पर्प्लेक्सिटी वार्तालापों के अंदर उपयोगकर्ता द्वारा ट्रिगर किया गया फ़ेच।

Meta-ExternalAgent

मेटा एआई, लामा प्रशिक्षण और उत्पाद सुविधाओं के लिए मेटा क्रॉलर।

Applebot-Extended

नियंत्रित करता है कि Apple आपके कंटेंट का उपयोग Apple इंटेलिजेंस प्रशिक्षण के लिए कर सकता है या नहीं।

Amazonbot

एलेक्सा और अन्य एआई सुविधाओं के लिए अमेज़ॅन क्रॉलर का उपयोग किया जाता है।

Bytespider

बाइटडांस/टिकटॉक क्रॉलर का उपयोग डौबाओ और संबंधित मॉडलों को प्रशिक्षित करने के लिए किया जाता था।

CCBot

सामान्य क्रॉल - एक खुला डेटासेट जिसका उपयोग लगभग हर एलएलएम द्वारा किसी न किसी बिंदु पर किया जाता है।

अक्सर पूछे जाने वाले प्रश्न

इस GEO Robots.txt चेकर के बारे में

यह चेकर विशेष रूप से जेनरेटिव इंजन ऑप्टिमाइज़ेशन पर काम करने वाली SEO और सामग्री टीमों के लिए बनाया गया था। robots.txt फ़ाइल को मैन्युअल रूप से पढ़ने और बॉट नामों को क्रॉस-रेफरेंस करने के बजाय, आपको 19 क्रॉलर्स के लिए एक त्वरित, रंग-कोडित निर्णय मिलता है - जिसमें क्लासिक क्रॉलर (Googlebot, Bingbot) और OpenAI, एंथ्रोपिक, Google, मेटा, Apple, Amazon, ByteDance, Perplexity और Common Crawl के प्रत्येक प्रासंगिक AI खोज/प्रशिक्षण बॉट शामिल हैं।

पार्सर Google-शैली robots.txt मूल्यांकन का अनुसरण करता है: सबस्ट्रिंग-आधारित उपयोगकर्ता-एजेंट मिलान, पथ मूल्यांकन पर सबसे लंबे समय तक नियम-जीत, और उपयोगकर्ता-एजेंट के लिए वाइल्डकार्ड फ़ॉलबैक: *। यह उभरते कंटेंट-सिग्नल निर्देश का भी पता लगाता है और प्रत्येक घोषित साइटमैप: संदर्भ को सूचीबद्ध करता है।