Модератор форума: Yuri_G  
Сообщество uCoz » Вебмастеру » Раскрутка сайта » Robots.txt (индексация сайта)
Robots.txt
Модератор форума
Сообщение # 1 | 16:57:58
webanet
Сообщений: 24067
Репутация: 4985

Сообщение # 361 | 14:39:37
JXL, удалите из файлового менеджера файл роботтекста и он заменится системным. если у вас системный стоит - то есть вы не делали правок и не заливали свой. то в этом случае залейте файл с названием robots.txt c любым содержимым и когда он появится в файловом менеджере, то сразу удалите его. он заменится на системный. так вы перебьете системный файл. после всех процедур можете опять проверить в вебмастере результаты

ТУТ можно оставить своё мнение по любому вопросу
https://webanetlabs.net/
deadjoker
Сообщений: 91
Репутация: 9

Сообщение # 362 | 15:36:07
Как закрыть от индексации все ссылки которые ведут на depositfiles, turbobit, ifolder, unibytes и youtube?
И надо ли это вообще делать?

Читал, что для многих сайтов которые работают с файлообменниками - рекомендуется закрыть индексацию ссылок ведущий на данные обменники.
Вроде как частично помогает в раскрутке.
webanet
Сообщений: 24067
Репутация: 4985

Сообщение # 363 | 15:40:58
deadjoker, ставьте прокирование. при добавлении материала ставьте галку на проксирование. пользователям автоматом будет проксироваться. а в роботтекст добавьте строчку Disallow: *?

ТУТ можно оставить своё мнение по любому вопросу
https://webanetlabs.net/
JXL
Репутация: 2

Сообщение # 364 | 19:19:12
Всем спасибо. Помог совет
Quote (Ferro7)
Всё так. На всякий случай, скопируйте это - User-agent: * - и замените первую строчку у себя в файле
fllop
Сообщений: 72
Репутация: 45

Сообщение # 365 | 14:17:18
скажите правильно закрыл?
User-agent: *
Disallow: /a/
Disallow: /stat/
Disallow: /index/1
Disallow: /index/2
Disallow: /index/3
Disallow: /index/5
Disallow: /index/7
Disallow: /index/8
Disallow: /index/9
Disallow: /panel/
Disallow: /admin/
Disallow: /secure/
Disallow: /informer/
Disallow: /mchat
Disallow: /search
Disallow: /shop/order/
/index/0-3
Disallow: *?

Host: имя.ru

Sitemap: http://имя/sitemap.xml


/index/0-3 - страница для правообладателей
Disallow: *? - исходящие ссылки с сайта как я понял с сообщения выше... Проксированием пользуюсь..
Сообщение отредактировал fllop - Воскресенье, 24 Июн 2012, 14:20:14
Shеriff
Сообщений: 3187
Репутация: 2662

Сообщение # 366 | 14:45:57
Quote (fllop)
/index/0-3

Disallow: /index/0-3
Quote (fllop)
Disallow: *?

Disallow: /go?
Disallow: /*? (спасибо Drinko)

Профессиональный сервис опросов WebAsk
Сообщение отредактировал Shеriff - Воскресенье, 24 Июн 2012, 14:55:25
Drinko
Сообщений: 909
Репутация: 773

Сообщение # 367 | 14:51:22
fllop, уберите Disallow: *? (или слэш допишите) и добавьте:

Disallow: /pda/
Disallow: /rtr/
Disallow: /*?
Disallow: /*-$
Disallow: /forum/*-*-0-17$


Закроет большинство дублей

Quote (Shеriff)
Disallow: /go?

Нет-нет - все правльно было со звездочкой. Она убирает сессионные дубли после авторизации.

Сообщение отредактировал Drinko - Воскресенье, 24 Июн 2012, 14:51:40
Shеriff
Сообщений: 3187
Репутация: 2662

Сообщение # 368 | 14:52:41
Quote (Drinko)
Нет-нет - все правльно было со звездочкой. Она убирает сессионные дубли после авторизации.

Пардон.

Профессиональный сервис опросов WebAsk
Сообщение отредактировал Shеriff - Воскресенье, 24 Июн 2012, 14:57:30
fllop
Сообщений: 72
Репутация: 45

Сообщение # 369 | 14:58:40
Disallow: /pda/ - пда версии сайта нет (вроде как, когда дописываю /pda сайт имеет тот же вид что и без него )
Disallow: /rtr/ - а это что
Disallow: /*? - понял исправил
Disallow: /*-$ - тоже если не трудно подскажите что закрывает?
Disallow: /forum/*-*-0-17$ - не активирован форум


Скажите ещё вот что. На многих сайтах (на разных платформах) в боковых блоках есть "похожие материалы/случайные материалы" - это вроде бы как делается доля перелинковки. Я вот только сейчас узнал что информеры закрыты от индексации, и вот теперь думаю, а стоит ли?
Сообщение отредактировал fllop - Воскресенье, 24 Июн 2012, 15:00:13
Drinko
Сообщений: 909
Репутация: 773

Сообщение # 370 | 15:04:47
fllop, если не закрыть PDA, то при переходе по такой ссылке робот ПС дальше будет индексировать именно мобильную версию, а не основную. Из-за чего могут появиться дубли.

Quote (fllop)
Disallow: /rtr/ - а это что

Рекламные ротаторы.
Quote (fllop)
Disallow: /*-$ - тоже если не трудно подскажите что закрывает?

Закрывает дубли вида:

//forum.ucoz.ru/forum/21-13447- (дубль)
//forum.ucoz.ru/forum/21-13447-1 (основной адрес)

В других модулях тоже частенько такое встречается.

Quote (fllop)
Скажите ещё вот что. На многих сайтах (на разных платформах) в боковых блоках есть "похожие материалы/случайные материалы" - это вроде бы как делается доля перелинковки. Я вот только сейчас узнал что информеры закрыты от индексации, и вот теперь думаю, а стоит ли?

Ни в коем случае - похожие материалы очень полезны для перелинковки smile

Сообщение отредактировал Drinko - Воскресенье, 24 Июн 2012, 15:06:29
Shеriff
Сообщений: 3187
Репутация: 2662

Сообщение # 371 | 15:05:01
Quote (fllop)
Disallow: /rtr/ - а это что

Ротатор баннеров.
Quote (fllop)
Disallow: /*-$ - тоже если не трудно подскажите что закрывает?

Дубли страниц материалов.

Профессиональный сервис опросов WebAsk
webanet
Сообщений: 24067
Репутация: 4985

Сообщение # 372 | 15:05:33
fllop, информеры открыты для индексации, если их ставить кодом $MYINF_x$

ТУТ можно оставить своё мнение по любому вопросу
https://webanetlabs.net/
fllop
Сообщений: 72
Репутация: 45

Сообщение # 373 | 15:13:06
Ох как много вопросов у меня появилось wacko
webanet, а у меня стояли скриптами почему то biggrin Исправил. (то то я и думаю почему только 1Пр гугл даёт, а оно вон в чём дело то оказывается)
То есть это Disallow: /*-$ именно то что нужно использовать когда материал входит сразу в несколько категорий? К примеру комедии, боевики, фантастика, новинки 2012 ? huh

Ну и собственно контрольный вопрос:

User-agent: *
Disallow: /a/
Disallow: /stat/
Disallow: /index/1
Disallow: /index/2
Disallow: /index/3
Disallow: /index/5
Disallow: /index/7
Disallow: /index/8
Disallow: /index/9
Disallow: /panel/
Disallow: /admin/
Disallow: /secure/
Disallow: /informer/
Disallow: /mchat
Disallow: /search
Disallow: /shop/order/
Disallow: /index/0-3
Disallow: /pda/
Disallow: /rtr/
Disallow: /*?
Disallow: /*-$

Host: имя.ru

Sitemap: http://имя/sitemap.xml


Ничего не перепутал?
Сообщение отредактировал fllop - Воскресенье, 24 Июн 2012, 15:18:08
Drinko
Сообщений: 909
Репутация: 773

Сообщение # 374 | 15:24:08
Quote (fllop)
Disallow: /*-$ именно то что нужно использовать когда материал входит сразу в несколько категорий?

Нет. Он убьет только дубли оканчивающиеся на - (дефис).
Quote (fllop)
Ничего не перепутал?

Все ОК smile

webanet
Сообщений: 24067
Репутация: 4985

Сообщение # 375 | 15:26:30
fllop,

с /pda/ несогласна, а остальное ничего нигде не напутано

*-$ - это явно не средство от вхождения материалов в несколько категорий

ТУТ можно оставить своё мнение по любому вопросу
https://webanetlabs.net/
Сообщество uCoz » Вебмастеру » Раскрутка сайта » Robots.txt (индексация сайта)
Поиск: