Модератор форума: Yuri_G  
Индексирование сайта запрещено в файле robots.txt
Модератор форума
Сообщение # 1 | 17:33:08
Проблема
На сайте стандартный robots.txt карантин закончился, а в вебматере Яндекса есть запись "Ваш сайт не проиндексирован Яндексом.(Индексирование сайта запрещено в robots.txt? Если вы исправили robots.txt, необходимо заново добавить сайт в очередь на индексирование.)"

Причины
1) Вы добавили сайт в вебмастер и на индексацию во время карантина, при добавлении сайта робот Яндекса проверил сайт и выдал ошибку. Даже, если карантин уже закончился, информация об ошибке может ещё какое-то время провисеть, так как подобная информация изменяется с задержками
2) Вы прикрепили к сайту домен и у вас не стоит настройка индексации по двум доменам. Это значит, что старый юкозовский домен закрыт от индексации, а вы не добавили информацию о новом домене в вебмастер Яндекса и смотрите информацию по старому
3) Ошибки в файле robots.txt, если составлен и залит некорректный по содержанию файл. Во избежании ошибок, если вы не разбираетесь в этом, пользуйтесь стандартным.

Проблема
Вебмастер Google - ошибки сканирования - заблокирован файлом robots.txt. На сайте карантин закончился

Причины
1) Вы добавили сайт в вебмастер и на индексацию во время карантина, при добавлении сайта робот Google проверил сайт и выдал ошибку. Даже, если карантин уже закончился, информация об ошибке может ещё какое-то время провисеть, так как подобная информация изменяется с задержками
2) Если сайт давно проиндексирован и вы получили инфо о запрете проиндексированных страницах.
Вы прикрепили к сайту домен и у вас не стоит настройка индексации по двум доменам. Это значит, что старый юкозовский домен закрыт от индексации, а вы не добавили информацию о новом домене в вебмастер Google и смотрите информацию по старому
2) Если сайт снят с карантина давно и индексируется нормально, то смотрите список заблокированных страниц, которые выдает Google. Перейдите по ссылкам, которые указаны в списке как заблокированные. Это должны быть все страницы запрещенные в robots.txt и вебмастер выдает по ним техническую информацию. Реагировать на это не надо, даже если список большой

Проблема
Яндекс при обработке robots.txt выдает ошибку - "Обнаружена неизвестная директива"

Причина
1) Была прописана несуществующая директива
2) Ошибки синтаксиса и запрещенные символы и теги
webanet
Сообщений: 24067
Репутация: 4985

Сообщение # 241 | 22:20:55
work4410, ваш сайт создан позавчера и находится на карантине. подробнее про карантин //forum.ucoz.ru/forum/21-38597-1

ТУТ можно оставить своё мнение по любому вопросу
https://webanetlabs.net/
joker7am
Сообщений: 17
Репутация: 12

Сообщение # 242 | 11:13:19
Добрый день!

мой домен на ucoz: 5elem.ucoz.ru
Если открыть robots.txt (http://5elem.ucoz.ru/robots.txt), то мы увидим:
User-agent: *
Disallow: /

к хостингу прикреплен домен: http://www.profi-centr.ru/
Если открыть robots.txt (http://www.profi-centr.ru/robots.txt), то мы увидим:
User-agent: *
Disallow: /a/
Disallow: /stat/
Disallow: /index/1
Disallow: /index/2
Disallow: /index/3
Disallow: /index/5
Disallow: /index/7
Disallow: /index/8
Disallow: /index/9
Disallow: /panel/
Disallow: /admin/
Disallow: /secure/
Disallow: /informer/
Disallow: /mchat
Disallow: /search
Host: profi-centr.ru/

Sitemap: http://www.profi-centr.ru/sitemap.xml
Sitemap: http://www.profi-centr.ru/sitemap-forum.xml
Sitemap: http://www.profi-centr.ru/sitemap-shop.xml

Подскажите в чем проблема, как такое произошло и как это исправить?

В данный момент моего сайта нету в выдаче.... мне нужно как можно скорее его вернуть. спасибо!

Сайту более 2ух лет..... Тех. поддержка молчит.

Не бойся когда один, бойся когда ноль...
Miss_Esq
Сообщений: 13859
Репутация: 4159
Уровень замечаний:

Сообщение # 243 | 11:39:08
joker7am,
Цитата
Подскажите в чем проблема, как такое произошло и как это исправить?
Всё правильно, как есть так и должно быть ...

joker7am
Сообщений: 17
Репутация: 12

Сообщение # 244 | 11:44:26
Miss_Esq, да, но яндекс не индексирует мой сайт: profi-centr.ru.....

Не бойся когда один, бойся когда ноль...
Miss_Esq
Сообщений: 13859
Репутация: 4159
Уровень замечаний:

Сообщение # 245 | 11:45:16
joker7am, Когда прикрепили домен ?

joker7am
Сообщений: 17
Репутация: 12

Сообщение # 246 | 11:53:11
яндекс пишет, что profi-centr.ru является не главным зеркалом... у меня в настройках стоит перенаправление со стандартного домена на прикрепленный... что еще нужно сделать?

Добавлено (03 Фев 2013, 11:53:11)
---------------------------------------------
года 2 назад, все было ок. а 1.02. робот яндекса выкинул из выдачи


Не бойся когда один, бойся когда ноль...
Miss_Esq
Сообщений: 13859
Репутация: 4159
Уровень замечаний:

Сообщение # 247 | 11:57:49
joker7am,
Цитата
года 2 назад, все было ок. а 1.02. робот яндекса выкинул из выдачи
Сегодня 2.02 ..... не поспешили паниковать ? У поисковиков бывают "закидоны" .... если не пройдёт со следующим апом напишите в Яндекс ..

А вообще навигация у вас хлипкая ... создаётся впечатление что сайт мелкий, не смотря что Google показывает более 2 000 страниц, а как на них попасть одному аллаху известно ..

webanet
Сообщений: 24067
Репутация: 4985

Сообщение # 248 | 17:19:28
Miss_Esq, хотя бы через раз вникайте в суть проблемы и анализируйте сайт. не знаете не пишите. это просто. ваш ответ - это минус. если пользователь вас начитался, то будет сидеть и ждать погоды от поисковика, а погоды не будет

joker7am,
Цитата
яндекс пишет, что profi-centr.ru является не главным зеркалом
правильно вам яндекс пишет. ваш сайт настроен на отображение с www. ссылки на сайте все с www. а вы ему закинули ссылку без www. для яндекса сайт с www и без разные вещи. подробнее //forum.ucoz.ru/forum/21-38603-1

в файле роботс http://www.profi-centr.ru/robots.txt изменить директиву хост и прописать с www в яндексе настроить главное зеркало с www и ждать переиндексации. и не трогайте больше настройку приоритетного отображения в пу

ТУТ можно оставить своё мнение по любому вопросу
https://webanetlabs.net/
G-R-I-G-O-R-I-4
Репутация: 0

Сообщение # 249 | 21:46:45
В течении какого времени после снятия карантина информация в роботе изменится и сайт будет проиндексирован????
Enigma3510
Репутация: 0

Сообщение # 250 | 16:52:28
Здравствуйте. Приключился такой случай. В вебмастере гугла увидел, что robots заблокировал 8к. страниц. В чём может быть причина? читал на
форумах, пишут что из-за этого robots, который неправильно составлен. У
меня, как мне кажется, всё в норме. Но почему тогда заблокированы
страницы?
Второй вопрос. При тесте показателей сайта на cy-pr.com у меня он
показал, что у гугла 65% всех страниц под фильтром. Почему? Контент на
сайте уникальный, все описания писались в ручную, что и скопировано с
других сайтов, то это только плеера с фильмами. Кстати, я сайт добавлял в
поисковики во время карантина, что очень плохо, знаю. Может это быть
причиной для фильтра? Что если удалить сайт с поисковиков и заново
добавить? изменится что нибудь?

Цитата
User-agent: *
Disallow: /a/
Disallow: /stat/
Disallow: /index/1
Disallow: /index/2
Disallow: /index/3
Disallow: /index/5
Disallow: /index/7
Disallow: /index/8
Disallow: /index/9
Disallow: /panel/
Disallow: /admin/
Disallow: /secure/
Disallow: /informer/
Disallow: /mchat
Disallow: /search
Disallow: /shop/order/
Disallow: /?ssid=

Sitemap: http://сайт.ru/sitemap.xml
Sitemap: http://сайт.ru/sitemap-forum.xml
Sitemap: http://сайт.ru/sitemap-shop.xml
webanet
Сообщений: 24067
Репутация: 4985

Сообщение # 251 | 16:55:31
Enigma3510, дайте примеры информации гугла по роботсу

Цитата
В вебмастере гугла увидел, что robots заблокировал 8к
у меня почти 17 к и все чудно. это лишний мусор и дубли

ТУТ можно оставить своё мнение по любому вопросу
https://webanetlabs.net/
Elooo
Репутация: 0

Сообщение # 252 | 17:02:49
Цитата
дайте примеры информации гугла по роботсу

Точнее? не совсем понял...
Доступно только для пользователей
webanet
Сообщений: 24067
Репутация: 4985

Сообщение # 253 | 17:09:09
Elooo, надо было дать примеры заблокированных страниц из этого количества, но если вы затираете адрес сайта, то будем считать, что все в порядке

ТУТ можно оставить своё мнение по любому вопросу
https://webanetlabs.net/
Elooo
Репутация: 0

Сообщение # 254 | 19:46:21
Цитата (webanet)
надо было дать примеры заблокированных страниц из этого количества
Как я узнаю какие страницы под фильтром? если нажать на цифру не удаётся.
Цитата (webanet)
но если вы затираете адрес сайта, то будем считать, что все в порядке
скрыто от лишних глаз, т.к. это не так важно.

Добавлено (15 Фев 2013, 19:46:21)
---------------------------------------------

Цитата (Elooo)
Как я узнаю какие страницы под фильтром?
Вопрос в силе.
Vkenik
Репутация: 0

Сообщение # 255 | 18:42:39
мой сайт http://softs.do.am/robots.txt

User-agent: *
Disallow: /

Что сделать Чтобы Стало Таким

User-agent: *
Disallow: /a/
Disallow: /stat/
Disallow: /index/1
Disallow: /index/2
Disallow: /index/3
Disallow: /index/5
Disallow: /index/7
Disallow: /index/8
Disallow: /index/9
Disallow: /panel/
Disallow: /admin/
Disallow: /secure/
Disallow: /informer/
Disallow: /mchat
Disallow: /search
Disallow: /shop/order/

Sitemap: http://softs.do.am/sitemap.xml
Sitemap: http://softs.do.am/sitemap-forum.xml
Sitemap: http://softs.do.am/sitemap-shop.xml
Поиск:
Telegram
Будьте в курсе всех обновлений: подпишитесь на наш официальный Telegram-канал uCoz и задавайте вопросы в чате сообщества!