Модератор форума: Yuri_G |
Сообщество uCoz » Вебмастеру » Раскрутка сайта » Robots.txt (индексация сайта) |
Robots.txt |
Нажмите на ссылку, чтобы перейти к ответу
Сообщение отредактировал webanet - Вторник, 27 Мар 2018, 20:08:42
|
|
|
Dogica, Вы про это ?
Цитата Host: ваш сайт.ru Sitemap: http://ваш сайт.ru/sitemap.xml Sitemap: http://ваш сайт.ru/sitemap-forum.xml Сообщение отредактировал _VITALIK_ - Вторник, 24 Мар 2015, 22:04:41
|
Данная деректива и должна стоять в обязательном порядке , если конечно домен свой Директива Host не является обязательной в списке правил robots.txt Использовать ее или нет - каждый решает сам. Также она не является показателем качества ресурса и не говорит о том, что "сайтом занимаются". Ее использовать нужно только в случаях, если необходимо передать указания зеркальщику Яндекса. Только Яндекс "понимает" это правило. Также заметьте, если у вас нет прикрепленного домена - для вас она даже чисто теоретически бесполезна. Мне можно задать любые вопросы по продвижению, внутренней оптимизации uCoz-сайтов и SEO-модулю.
|
Вот новый robots.txt который представил ЮКОЗ. Ответьте пожалуйста, то что я выделил черным, за какие страницы они отвечают и какую несут пользу? Заранее спасибо
User-agent: * Allow: /*?page Allow: /*?ref= Disallow: /*? Disallow: /stat/ Disallow: /index/1 Disallow: /index/3 Disallow: /register Disallow: /index/5 Disallow: /index/7 Disallow: /index/8 Disallow: /index/9 Disallow: /index/sub/ Disallow: /panel/ Disallow: /admin/ Disallow: /informer/ Disallow: /secure/ Disallow: /poll/ Disallow: /search/ Disallow: /abnl/ Disallow: /*_escaped_fragment_= Disallow: /*-*-*-*-987$ Disallow: /shop/checkout/ Disallow: /shop/user/ Disallow: /*0-*-0-17$ Disallow: /*0-0- |
Убирают из выдачи или позволяют выпасть различным системным урлам - страницам соц. авторизации, системным страницам сортировок, ленточным вариантам форума, правилам форума и еще куче специфических урлов. Также в выделенных вами фрагментах есть 2 правила для модуля ИМ.
Мне можно задать любые вопросы по продвижению, внутренней оптимизации uCoz-сайтов и SEO-модулю.
|
_aleksey_, Спасибо большое, значит можно спокойно прописывать в своем robots.txt новые значения? Также рекомендую добавить сайт в панели вебмастера - там также много полезной информации относительно сайта и его индексации. Мне можно задать любые вопросы по продвижению, внутренней оптимизации uCoz-сайтов и SEO-модулю.
|
| |||