В этой статье пойдёт речь о том, как правильно составить robots.txt для uCoz. Такой правильный файл в корне сайта – это один из благоприятных факторов раскрутки вашего сайта, без него Ваш сайт с лёгкостью угодит под фильтр поисковых систем.
Перейдём непосредственно к объяснению и правилам составления:
Файл robots.txt – это файл указывающий роботам поисковых систем: что индексировать, а что не индексировать, где находится sitemap файл и т.п.
Как составить robots.txt для uCoz:
1) Указываем, что все роботы могут индексировать сайт
User-agent: *
2) Закрываем страницы которые роботу не нужно индексировать директивой «Disallow». Какие страницы необходимо закрыть от индексации определяем сами – нужно чтоб дублированного контента было как можно меньше. Именно поэтому мы закрываем от индексации такие директивы как «informer», «tags» и т.п.