GEO Robots.txt चेकर
जांचें कि क्या आपका robots.txt जेनरेटिव इंजन ऑप्टिमाइज़ेशन के लिए तैयार है। तुरंत देखें कि कौन से एआई खोज और प्रशिक्षण बॉट आपकी साइट तक पहुंच सकते हैं।
जनरेटिव इंजन ऑप्टिमाइजेशन (GEO) क्या है?
GEO आपकी वेबसाइट को अनुकूलित करने का अभ्यास है ताकि इसे AI-संचालित खोज इंजन और चैट सहायकों - ChatGPT, क्लाउड, पर्प्लेक्सिटी, Google AI ओवरव्यू, मेटा AI और अन्य द्वारा खोजा, उद्धृत और उद्धृत किया जा सके। पहली शर्त यह है कि इन बॉट्स को आपके robots.txt द्वारा अनुमति दी जानी चाहिए।
यह चेकर GEO के लिए महत्वपूर्ण 19 बॉट्स का निरीक्षण करता है - जिसमें AI प्रशिक्षण क्रॉलर (GPTBot, क्लाउडबॉट, Google-एक्सटेंडेड), AI सर्च क्रॉलर (OAI-SearchBot, PerplexityBot, क्लाउड-सर्चबॉट), उपयोगकर्ता-ट्रिगर फ़ेचर्स (ChatGPT-उपयोगकर्ता, क्लाउड-उपयोगकर्ता) और क्लासिक खोज क्रॉलर (Googlebot, Bingbot) शामिल हैं - और दिखाता है कि आपकी साइट किनकी अनुमति देती है।
बॉट संदर्भ
मुख्य Google खोज क्रॉलर - इसे कभी भी ब्लॉक न करें।
यह नियंत्रित करता है कि Google आपकी सामग्री का उपयोग जेमिनी/बार्ड को प्रशिक्षित करने के लिए करता है या नहीं।
OpenAI क्रॉलर का उपयोग GPT मॉडल के प्रशिक्षण के लिए सामग्री एकत्र करने के लिए किया जाता है।
OpenAI क्रॉलर जो ChatGPT खोज परिणामों और उद्धरणों को शक्ति प्रदान करता है।
जब कोई उपयोगकर्ता चैटजीपीटी से किसी पेज पर जाने के लिए कहता है तो मांग पर यूआरएल लाता है।
एंथ्रोपिक क्रॉलर का उपयोग क्लाउड को प्रशिक्षण देने के लिए सामग्री एकत्र करने के लिए किया जाता था।
क्लाउड वेब खोज परिणामों के लिए एंथ्रोपिक क्रॉलर।
जब कोई क्लाउड उपयोगकर्ता यूआरएल साझा करता है या अनुरोध करता है तो ऑन-डिमांड प्राप्त करें।
पर्प्लेक्सिटी क्रॉलर उनके एआई उत्तर इंजन को शक्ति प्रदान कर रहा है।
पर्प्लेक्सिटी वार्तालापों के अंदर उपयोगकर्ता द्वारा ट्रिगर किया गया फ़ेच।
मेटा एआई, लामा प्रशिक्षण और उत्पाद सुविधाओं के लिए मेटा क्रॉलर।
नियंत्रित करता है कि Apple आपके कंटेंट का उपयोग Apple इंटेलिजेंस प्रशिक्षण के लिए कर सकता है या नहीं।
एलेक्सा और अन्य एआई सुविधाओं के लिए अमेज़ॅन क्रॉलर का उपयोग किया जाता है।
बाइटडांस/टिकटॉक क्रॉलर का उपयोग डौबाओ और संबंधित मॉडलों को प्रशिक्षित करने के लिए किया जाता था।
सामान्य क्रॉल - एक खुला डेटासेट जिसका उपयोग लगभग हर एलएलएम द्वारा किसी न किसी बिंदु पर किया जाता है।
अक्सर पूछे जाने वाले प्रश्न
इस GEO Robots.txt चेकर के बारे में
यह चेकर विशेष रूप से जेनरेटिव इंजन ऑप्टिमाइज़ेशन पर काम करने वाली SEO और सामग्री टीमों के लिए बनाया गया था। robots.txt फ़ाइल को मैन्युअल रूप से पढ़ने और बॉट नामों को क्रॉस-रेफरेंस करने के बजाय, आपको 19 क्रॉलर्स के लिए एक त्वरित, रंग-कोडित निर्णय मिलता है - जिसमें क्लासिक क्रॉलर (Googlebot, Bingbot) और OpenAI, एंथ्रोपिक, Google, मेटा, Apple, Amazon, ByteDance, Perplexity और Common Crawl के प्रत्येक प्रासंगिक AI खोज/प्रशिक्षण बॉट शामिल हैं।
पार्सर Google-शैली robots.txt मूल्यांकन का अनुसरण करता है: सबस्ट्रिंग-आधारित उपयोगकर्ता-एजेंट मिलान, पथ मूल्यांकन पर सबसे लंबे समय तक नियम-जीत, और उपयोगकर्ता-एजेंट के लिए वाइल्डकार्ड फ़ॉलबैक: *। यह उभरते कंटेंट-सिग्नल निर्देश का भी पता लगाता है और प्रत्येक घोषित साइटमैप: संदर्भ को सूचीबद्ध करता है।