robots.txt ფაილი მართლაც მარტივი ტექსტური ფაილია. მისი მთავარი ფუნქციაა Google— ის მსგავსი საძიებო სისტემის ზოგიერთი მცოცავის თავიდან აცილება და SEO— ს ვებ — გვერდზე შინაარსის ინდექსირება. თუ არ ხართ დარწმუნებული, აქვს თუ არა თქვენს ვებსაიტს ან თქვენი კლიენტის ვებსაიტს robots.txt ფაილი, მისი შემოწმება მარტივია: უბრალოდ აკრიფეთ example.com/robots.txt. თქვენ ნახავთ შეცდომის გვერდს ან უბრალო ფორმატის გვერდს.
არსებობს სხვადასხვა გზა, რათა შეიქმნას robots.txt ფაილი. თქვენ შეგიძლიათ შექმნათ თქვენი: Content Management System, Computer შემდეგ, რომელიც თქვენ ატვირთეთ მეშვეობით თქვენს სერვერზე, მექანიკური build და ატვირთეთ Webserver.
პირველი ფაილი, რომელსაც საძიებო სისტემის ბოტები ათვალიერებენ, არის რობოტის ტექსტური ფაილი, თუ ის არ არის ნაპოვნი, მაშინ დიდი ალბათობაა, რომ მცოცავი არ ინდექსირებს თქვენი საიტის ყველა გვერდს. ეს პატარა ფაილი შეიძლება შეიცვალოს მოგვიანებით, როდესაც დაამატებთ მეტ გვერდს მცირე ინსტრუქციებით, მაგრამ დარწმუნდით, რომ არ დაამატებთ მთავარ გვერდს დაუშვებელ დირექტივას. Google მუშაობს მცოცავი ბიუჯეტით; ეს ბიუჯეტი ემყარება სკანირების ლიმიტს.
საიტის რუკა სასიცოცხლოდ მნიშვნელოვანია ყველა ვებსაიტისთვის, რადგან ის შეიცავს სასარგებლო ინფორმაციას საძიებო სისტემებისთვის. საიტის რუკა ეუბნება ბოტებს, თუ რამდენად ხშირად განაახლებთ თქვენს ვებსაიტს, რა შინაარსს გთავაზობთ თქვენი საიტი. მისი მთავარი მიზანია აცნობოს საძიებო სისტემებს თქვენს საიტზე არსებული ყველა გვერდის შესახებ, რომლებიც უნდა იყოს crawled, ხოლო რობოტების ტექსტური ფაილი საძიებო რობოტებისთვისაა. ის ეუბნება მცოცავებს, რომელ გვერდზე უნდა დაცოცონ და რომელი არა. საიტის რუკა აუცილებელია თქვენი საიტის ინდექსირებისთვის, მაგრამ რობოტის txt არ არის (თუ არ გაქვთ გვერდები, რომელთა ინდექსირება არ არის საჭირო).