<!--quoteo(post=58888:date=14.05.2007, 14:43:name=•$EGUR@•)--><div class='quotetop'>Цитата(•$EGUR@• @ 14.05.2007, 14:43) [snapback]58888[/snapback]</div><div class='quotemain'><!--quotec-->Что посоветуете вписать в данный файлик на сервере, что бы его полюбили боты, и от него был толк? :hi2:<!--QuoteEnd--></div><!--QuoteEEnd-->
<!--coloro:#FF0000--><span style="color:#FF0000"><!--/coloro--><b>ВНИМАНИЕ!</b><!--colorc--></span><!--/colorc--> Если вы не уверены в своих силах, лучше этот файл даже не создавать, т.к. можете только навредить им
Основы:
User-agent - имя поисковика, если хотите использовать значение для всех роботов то поставте "*" (без кавычек), яндекс любит когда он прописан на сервере отдельно
Disallow - запрет индексирования страницы или категории, например "Disallow: /admin.php"
Host-основной домен сайта
Узнать больше можно на robotstxt.org.ru