Не знаете, как составить файл robots.txt?

Россия+7 (495) 960-65-87
Шрифт:
4 2318

Google Webmaster Central анонсировал новый инструментRobots.txt Generator. Это своего рода переводчик на язык robots.txt, который поможет тем, у кого создание данного файла вызывает трудности. Теперь чтобы запретить или разрешить индексацию элементов сайта, их нужно просто указать в Robots.txt Generator. При желании можно прописать определенные условия для файлов robots.txt тех или иных страниц/разделов сайта.

Написанный файл можно проверить с помощью специального анализатора robots.txt analysis tool. После этого нужно сохранить созданный файл в корневом каталоге сайта. Robots.txt Generator создает файлы, которые будут понятны Google-боту и большинству других крупных роботы. Но есть вероятность, что некоторые роботы не поймут всех функций robots.txt, которые использует генератор.

Следует помнить, что встречаются и недобросовестные роботы, которые игнорируют содержание файла robots.txt и сканируют все закрытые от индексации элементы сайта. В этом случае контент сайта нужно защитить паролем и не полагаясь на robots.txt.

Отметим, многие вебмастера отмечают полезность сервиса Google Webmaster Central. Здесь можно посмотреть, по каким запросам находят сайт, на каких он позициях в выдаче и по каких запросам больше всего переходят на сайт. «"Популярные поисковые запросы" и "Популярные запросы с кликами" в статистике отличаются (+ можно уточнять по типу поиска, региону и дате) и эти отличия наводят на интересные мысли - попробуйте сами и вам понравится», - говорит известный блогер Дмитрий Голополосов (aka Dimok).

Читайте нас в Telegram - digital_bar

Случилось что-то важное? Поделитесь новостью с редакцией.


Новые 
Новые
Лучшие
Старые
Сообщество
Подписаться 
Подписаться на дискуссию:
E-mail:
ОК
Вы подписаны на комментарии
Ошибка. Пожалуйста, попробуйте ещё раз.
Отправить отзыв
  • Ярослав Домбровский
    834
    комментария
    0
    читателей
    Ярослав Домбровский
    больше года назад
    Олег, ну ка ну ка, о вашем роботе поподробнее...
    -
    0
    +
    Ответить
  • Олег Сахно
    483
    комментария
    0
    читателей
    Олег Сахно
    больше года назад
    Робот, например, вот для этих целей:

    https://www.seonews.ru/analytics/
    http://www.4p.ru/main/research/25583/

    Да мало ли, чего можно индексировать в нашем многострадальном интернете ;)
    -
    0
    +
    Ответить
  • Гость
    больше года назад
    >>Следует помнить, что встречаются и недобросовестные роботы, которые игнорируют содержание файла robots.txt и сканируют все закрытые от индексации элементы сайта. В этом случае контент сайта нужно защитить паролем и не полагаясь на robots.txt.

    чё за бред? впервые слышу
    -
    0
    +
    Ответить
  • Олег Сахно
    483
    комментария
    0
    читателей
    Олег Сахно
    больше года назад
    >чё за бред? впервые слышу

    Это вы о чем говорите? Не верите в наличие недобросовестных роботов? Мой робот, например, не обращает внимание на robots.txt и индексирует то, что считает нужным. Вот Вам пример недобросовестного робота, который описан в новости
    -
    0
    +
    Ответить
ПОПУЛЯРНЫЕ ОБСУЖДЕНИЯ НА SEONEWS
Кейс: как продвинуть сайт производителя мебели на заказ в Москве
Art Moderator
2
комментария
0
читателей
Полный профиль
Art Moderator -
Рейтинг «Известность бренда SEO-компаний 2017»: народное голосование
Гость
1
комментарий
0
читателей
Полный профиль
Гость - 1) Ingate 2) Ашманов 3) Кокос 4) Russian Promo 5) Netpeak
«Баден-Баден»: как выйти из-под фильтра
Гость
1
комментарий
0
читателей
Полный профиль
Гость - Здравствуйте! У меня совсем новый сайт (около месяца). Как только добавила страницы - были на 64, 45 и т.д. местах в выдаче яндекса по нч и сч запросам, но через несколько дней улетели за пределы 200. Что это баден - баден или песочница? Текст вроде не спамный, но мне трудно судить. Сайт portretnazakaz.ru
Второе дыхание ссылочного продвижения
Rookee.ru
24
комментария
0
читателей
Полный профиль
Rookee.ru - Еще лучше, когда продвижение осуществляется комплексно :)
Исследование: влияние smart-ссылок на продвижение по СЧ-запросам
Анатолий Шевчик
1
комментарий
0
читателей
Полный профиль
Анатолий Шевчик - +1097988
32 инструмента в помощь SEO-специалисту
Alex Wise
5
комментариев
0
читателей
Полный профиль
Alex Wise - Данис, я тысячу раз извиняюсь насчёт имени! :( Хотя уверен, что лучше всех вас понимаю по этому поводу, ибо меня всегда называют "Алексеем", хотя я Александр: всё из-за сокращения Alex ;) Жду фидбека по новой версии 3.0!
Контекст под SEO. Как поисковая реклама помогает позициям в органической выдаче
Сергей Дембицкий «Sima-Land.ru»
22
комментария
0
читателей
Полный профиль
Сергей Дембицкий «Sima-Land.ru» - Боже мой, неужели SEO-маги вернулись??? Открыть в роботс utm-метки для индексации и наплодить дублей...что? А расчеты в конце статьи про бюджет на SEO и контекст...откуда эти пропорции? Как по мне, SEO-магия вне Хогвартс. Спасибо, развеселили!
Западные специалисты выяснили, как повысить позиции ресурса в выдаче Google
Максим Мирошник
2
комментария
0
читателей
Полный профиль
Максим Мирошник -
Все, что нужно SEO-специалисту. Обзор инструментов
Администратор Сайта
1
комментарий
1
читатель
Полный профиль
Администратор Сайта - Шаришь в seo! Сервис реально хороший
«Прямая линия» с Артуром Латыповым: отвечаем на вопросы
God Koss
1
комментарий
0
читателей
Полный профиль
God Koss - Добрый день! Есть сайты одной компании продвигающиеся в разных странах. .ru .com .net. На российском сайте два языка ru и en, на остальных до 10 языков. Недавно сайт ru по основному брендовому запросу выпал из выдачи Яндекс но после апа вернулся на вторую позицию. На вопрос аффилирования в тех поддержку, получит ответ, что всё в порядке и сайт com не учавствует в выдаче. Но он есть и занимает 1 место. Как быть в данной ситуации? Так же, после возврата в топ 10 по этому запросу зашла еще одна внутренняя страница. Могло ли это случиться из-за каннибализации запроса? Немного изменил description на внутренней, исключил вхождения брендового запроса. Жду апа. Хотел бы услышать ваше мнение. Заранее благодарю!
ТОП КОММЕНТАТОРОВ
Комментариев
910
Комментариев
834
Комментариев
554
Комментариев
540
Комментариев
483
Комментариев
373
Комментариев
321
Комментариев
262
Комментариев
234
Комментариев
171
Комментариев
156
Комментариев
137
Комментариев
121
Комментариев
97
Комментариев
97
Комментариев
95
Комментариев
86
Комментариев
80
Комментариев
67
Комментариев
60
Комментариев
59
Комментариев
57
Комментариев
55
Комментариев
54
Комментариев
53

Отправьте отзыв!
Отправьте отзыв!