Модератор форума: Yuri_G  
Сообщество uCoz » Вебмастеру » Раскрутка сайта » Индексирование сайта запрещено в файле robots.txt (ошибки индексирования при снятом карантине)
Индексирование сайта запрещено в файле robots.txt
Модератор форума
Сообщение # 1 | 17:33:08
Проблема
На сайте стандартный robots.txt карантин закончился, а в вебматере Яндекса есть запись "Ваш сайт не проиндексирован Яндексом.(Индексирование сайта запрещено в robots.txt? Если вы исправили robots.txt, необходимо заново добавить сайт в очередь на индексирование.)"

Причины
1) Вы добавили сайт в вебмастер и на индексацию во время карантина, при добавлении сайта робот Яндекса проверил сайт и выдал ошибку. Даже, если карантин уже закончился, информация об ошибке может ещё какое-то время провисеть, так как подобная информация изменяется с задержками
2) Вы прикрепили к сайту домен и у вас не стоит настройка индексации по двум доменам. Это значит, что старый юкозовский домен закрыт от индексации, а вы не добавили информацию о новом домене в вебмастер Яндекса и смотрите информацию по старому
3) Ошибки в файле robots.txt, если составлен и залит некорректный по содержанию файл. Во избежании ошибок, если вы не разбираетесь в этом, пользуйтесь стандартным.

Проблема
Вебмастер Google - ошибки сканирования - заблокирован файлом robots.txt. На сайте карантин закончился

Причины
1) Вы добавили сайт в вебмастер и на индексацию во время карантина, при добавлении сайта робот Google проверил сайт и выдал ошибку. Даже, если карантин уже закончился, информация об ошибке может ещё какое-то время провисеть, так как подобная информация изменяется с задержками
2) Если сайт давно проиндексирован и вы получили инфо о запрете проиндексированных страницах.
Вы прикрепили к сайту домен и у вас не стоит настройка индексации по двум доменам. Это значит, что старый юкозовский домен закрыт от индексации, а вы не добавили информацию о новом домене в вебмастер Google и смотрите информацию по старому
2) Если сайт снят с карантина давно и индексируется нормально, то смотрите список заблокированных страниц, которые выдает Google. Перейдите по ссылкам, которые указаны в списке как заблокированные. Это должны быть все страницы запрещенные в robots.txt и вебмастер выдает по ним техническую информацию. Реагировать на это не надо, даже если список большой

Проблема
Яндекс при обработке robots.txt выдает ошибку - "Обнаружена неизвестная директива"

Причина
1) Была прописана несуществующая директива
2) Ошибки синтаксиса и запрещенные символы и теги
webanet
Сообщений: 24067
Репутация: 4985

Сообщение # 76 | 00:41:25
katan, к сайту домен крепился? если нет, то добавьте сайт опять в поисковик через аддурилку
bandjuk,
Quote

Host:
зачем ему хост, если не прикреплен домен?

ТУТ можно оставить своё мнение по любому вопросу
https://webanetlabs.net/
cannibal66670
Репутация: 0

Сообщение # 77 | 03:15:05
Здравствуйте всем! Прошел уже месяц, после создания сайта, soft-plus-soft могу ли я узнать у администрации сняли ли с него карантин и возможна ли его индексация?
Wonka
Сообщений: 37
Репутация: 3

Сообщение # 78 | 09:19:40
cannibal66670, к адресу своего сайта допишите /robots.txt и вы все увидете.
Снят
Metatron
Репутация: 0

Сообщение # 79 | 09:19:50
Quote (Selena)
Metatron, в процитированном robots.txt нет запрета на индексацию главной страницы вашего сайта.

так вы определитесь тогда)) сами ведь пишите что нет запрета
Metatron
Репутация: 0

Сообщение # 80 | 09:19:50
подскажите пожалуйста, зарегил сайт в яндекс, начал проверять индексацию и пишет что главная страница сайта запрещена к индексации роботом тхт, это какаято моя ошибка.. или может чего не понимаю.. подскажите пожалуйста.. и как сделать чтобы теги тоже участвовали в поиске?

в роботе
User-agent: *
Disallow: /a/
Disallow: /stat/
Disallow: /index/1
Disallow: /index/2
Disallow: /index/3
Disallow: /index/5
Disallow: /index/7
Disallow: /index/8
Disallow: /index/9
Disallow: /panel/
Disallow: /admin/
Disallow: /secure/
Disallow: /informer/
Disallow: /mchat
Disallow: /search
Disallow: /shop/order/

Sitemap: http://www.severnayatema.ru/sitemap.xml
Sitemap: http://www.severnayatema.ru/sitemap-forum.xml
Sitemap: http://www.severnayatema.ru/sitemap-shop.xml
Selena
Сообщений: 15657
Репутация: 1100

Сообщение # 81 | 09:19:50
Metatron, в процитированном robots.txt нет запрета на индексацию главной страницы вашего сайта.

Отправляя сообщение о помощи, приводите ссылку на свой сайт. Это не считается рекламой, зато снимает массу вопросов.
Metatron
Репутация: 0

Сообщение # 82 | 09:19:50
а яндекс пишет вот что

Сайт не участвует в поиске, так как ранее наш робот получил полный запрет на его индексирование в Вашем файле robots.txt. В настоящий момент запрет отсутствует, сайт уже начал индексироваться и должен появиться в поиске после 1–2 обновлений поисковых баз, после этого сообщение обновится.

Внимание! Главная страница сайта исключена из индекса: Документ запрещен в файле robots.txt .
Selena
Сообщений: 15657
Репутация: 1100

Сообщение # 83 | 09:19:50
Metatron, вам Яндекс уже всё написал.

Отправляя сообщение о помощи, приводите ссылку на свой сайт. Это не считается рекламой, зато снимает массу вопросов.
Metatron
Репутация: 0

Сообщение # 84 | 14:17:50
подскажите пожалуйста, зарегил сайт в яндекс, начал проверять индексацию и пишет что главная страница сайта запрещена к индексации роботом тхт, это какаято моя ошибка.. или может чего не понимаю.. подскажите пожалуйста.. и как сделать чтобы теги тоже участвовали в поиске?
Сообщение отредактировал Metatron - Понедельник, 27 Фев 2012, 14:18:17
victor8704
Сообщений: 9
Репутация: 1

Сообщение # 85 | 15:53:16
Metatron, С момента создания сайта ждите месяц, пока не будет снят карантин. На этот период Ваш сайт запрещен для индексации и у вас есть время наполнить сайт контентом. По окончании срока карантина, яндекс сам обнаружит что индексация разрешена, либо добавите сайт повторно.
Более подробно описано здесь: //forum.ucoz.ru/forum/21-13447-2#385672

Прежде чем мечтать, подумай - а вдруг сбудется !?
Сообщение отредактировал victor8704 - Понедельник, 27 Фев 2012, 15:57:14
Metatron
Репутация: 0

Сообщение # 86 | 16:06:24
Сайту полтора года, а вот домен прикрепил на днях
Miss_Esq
Сообщений: 13859
Репутация: 4159
Уровень замечаний:

Сообщение # 87 | 16:19:37
Metatron, Адрес сайта uCoz и домен ..

Selena
Сообщений: 15657
Репутация: 1100

Сообщение # 88 | 16:22:39
Metatron, а в Яндексе у вас сайт по какому домену указан?

Отправляя сообщение о помощи, приводите ссылку на свой сайт. Это не считается рекламой, зато снимает массу вопросов.
Metatron
Репутация: 0

Сообщение # 89 | 17:01:40
Miss_Esq,
www.severnayatema.ru
www.severnayatema.ucoz.ru

Selena,
www.severnayatema.ru
Miss_Esq
Сообщений: 13859
Репутация: 4159
Уровень замечаний:

Сообщение # 90 | 17:09:41
Metatron, по прикреплённому домену robots.txt нормальный , допишите директиву Host

Сообщество uCoz » Вебмастеру » Раскрутка сайта » Индексирование сайта запрещено в файле robots.txt (ошибки индексирования при снятом карантине)
Поиск: