Robots.txt এ ব্যবহারকারী-এজেন্টদের একত্রিত করুন


11

ব্যবহারকারী-এজেন্টদের একসাথে তালিকাভুক্ত করা যেতে পারে, এর পরে রোবট.এসটিএসটি- তে তাদের মতো সাধারণ নিয়ম অনুসরণ করা যায় ?

User-agent: Googlebot
User-agent: ia_archiver #Alexa
User-agent: BingPreview #Microsoft
User-agent: bingbot #Microsoft
User-agent: MSNBot #Microsoft
User-agent: Slurp #Yahoo
User-agent: Ask Jeeves/Teoma #Ask
Disallow: /adm30_buds/

1
আপনি অনুমতি না দিয়ে user-agent: *অনুসরণ না করে কেন এমন কোনও কারণ আছে ? "অনুমোদিত" ব্যবহারকারী-এজেন্টগুলির তালিকাটি আপনি যে তালিকাটিকে অস্বীকার করতে চান তার চেয়ে বেশি দীর্ঘ?
মাইক হডসন

উত্তর:


10

হ্যাঁ. ধরে নিই যে আপনার এজেন্টের নামগুলি সঠিকভাবে নির্দিষ্ট করা হয়েছে, দেখে মনে হচ্ছে এটি কাজ করা উচিত। আপনি আরও পড়তে চাইলে এখানে একটি সংস্থান রয়েছে। https://developers.google.com/webmasters/control-crawl-index/docs/robots_txt


1
মূল robots.txt এর বৈশিষ্ট একমত: "যদি একাধিক ব্যবহারকারী-এজেন্ট ক্ষেত্র বর্তমান রেকর্ড একাধিক রোবট জন্য একটি অভিন্ন এক্সেস নীতি বর্ণনা করে।"
ইলমারি করোনেন
আমাদের সাইট ব্যবহার করে, আপনি স্বীকার করেছেন যে আপনি আমাদের কুকি নীতি এবং গোপনীয়তা নীতিটি পড়েছেন এবং বুঝতে পেরেছেন ।
Licensed under cc by-sa 3.0 with attribution required.