Модератор форума: Yuri_G  
Сообщество uCoz » Вебмастеру » Раскрутка сайта » Robots.txt (индексация сайта)
Robots.txt
Модератор форума
Сообщение # 1 | 16:57:58
Selena
Сообщений: 15657
Репутация: 1100

Сообщение # 1621 | 18:41:58
kuselev, может там можно глянуть, что именно заблокировано? Гугл любит чтобы всё было открыто, а в роботсе ограничен доступ к служебным страницам. Таким как, например, капча или админпанель. Смысл их индексировать? Если речь о служебных страницах, то можно игнорировать сообщение.

Отправляя сообщение о помощи, приводите ссылку на свой сайт. Это не считается рекламой, зато снимает массу вопросов.
Администратор1508
Репутация: 0

Сообщение # 1622 | 11:38:01
Добрый день. При запросе моего сайта в поисковой системе Google выдает следующее: посетить страницу Описание веб-страницы недоступно из-за ограничений в файле robots.txt.
Адрес сайта za4et.ru
Не написано ни название сайта, ни его краткое описание. Помогите пожалуйста, как исправить?
webanet
Сообщений: 24067
Репутация: 4985

Сообщение # 1623 | 22:10:09
Администратор1508, все дело в том, что вы совсем недавно прикрепили домен. в гугле информация ещё по старой версии. удалите из файлового менеджера файл sitemap.xml карта сайта обновитсяю у вас там ещё ссылки на юкозовский адрес стоят. после этого добавьте карту сайта в инструментах для вебмастеров в гугле. просто допишите в форму sitemap.xml
далее воспользуйтесь инструментом гугла //forum.ucoz.ru/forum/21-38708-1 ничего не вводите в форму нажмите ок и выберите все связанные страницы. после этого пойдет веселее. а по роботсу у вас запрета нет

ТУТ можно оставить своё мнение по любому вопросу
https://webanetlabs.net/
alex2014
Репутация: 0

Сообщение # 1624 | 09:29:39
User-agent: *Disallow: /a/
Disallow: /stat/
Disallow: /index/1
Disallow: /index/2
Disallow: /index/3
Disallow: /index/5
Disallow: /index/7
Disallow: /index/8
Disallow: /index/9
Disallow: /panel/
Disallow: /admin/
Disallow: /secure/
Disallow: /informer/
Disallow: /mchat
Disallow: /search
Disallow: /shop/order/
Disallow: /?ssid=
Disallow: /abnl/

Sitemap: http://www.мой сайт/sitemap.xml
Sitemap: http:/www.мой сайт /sitemap-forum.xml
Sitemap: http://www.мой сайт/sitemap-shop.xml

ответьте у меня правильно настроенный файл или нет в гугле в графе под заблокированные стоит 1 , у меня еще в поисковике под моим url написано веб страница не доступна из за ограничения в файле robots.txt что мне с этим делать чтобы этого не было подскажите
Yuri_G
uWeb support
uVip manager
Сообщений: 4336
Репутация: 943

Сообщение # 1625 | 13:54:37
alex2014, где ссылка на сам сайт, или же изволите проверить по адресу http://www.мой сайт/robots.txt ?

alex2014
Репутация: 0

Сообщение # 1626 | 15:14:24
вот ссылка: http://www.zarabotok-inter.ru/robots.txt
Астахов
Репутация: 0

Сообщение # 1627 | 17:41:40
Что делать?
наш робот получил полный запрет на индексирование сайта в Вашем файле robots.txt. Пожалуйста, воспользуйтесь формой проверки. Если запрет все еще присутствует, то по вопросу устранения этой проблемы Вам нужно обратиться к администратору Вашего сайта или хостеру. Если сейчас запрет отсутствует, то сообщение обновится в течение 2–3 дней.
webanet
Сообщений: 24067
Репутация: 4985

Сообщение # 1628 | 17:47:31
Астахов, читайте //forum.ucoz.ru/forum/21-38597-1

ТУТ можно оставить своё мнение по любому вопросу
https://webanetlabs.net/
Астахов
Репутация: 0

Сообщение # 1629 | 17:54:46
В общем понятно! Спасибо) Моему сайту как раз таки и нет месяца)
Yuri_G
uWeb support
uVip manager
Сообщений: 4336
Репутация: 943

Сообщение # 1630 | 17:58:09
alex2014, все верно, но если вы не планируете использовать модули - "Форум" и "Интернет-магазин", то строки:

Код
Sitemap: http://www.zarabotok-inter.ru/sitemap-forum.xml
Sitemap: http://www.zarabotok-inter.ru/sitemap-shop.xml
из роботса можно удалить.

alex2014
Репутация: 0

Сообщение # 1631 | 04:27:42
не планирую! только как их удалить ? и еще ответьте как это понимать в поиск гугла в вожу свой url и под ним отображается описание веб страницы не доступно из за ограничения в файле robots.txt а ввожу site:zarabotok-inter.ru/& то показывается 4 страницы с опсанием и заголовком а без этих приставок просто urlописание веб страницы не доступно из за ограничения в файле robots.txt, а в гугл вебмастер статус индексирования отображается а также в разделе файлы sitemap отображается:Проиндексировано всего0
1/sitemap.xmlSitemap19 мая 2014 г.-Интернет4 веб страницы отправленно -и вот не пойму проиндексированы ли страницы в гугле или нет и как сделать чтобы описание веб страницы в гугле были доступны?

Добавлено (21 Май 2014, 04:27:42)
---------------------------------------------
Замечания возникшие при обходе вашего сайта поисковым роботом GooglebotURL адресКод ошибкиДатаhttp://www.zarabotok-inter.ru/index/3URL restricted by robots.txt2014-05-19http://www.zarabotok-inter.ru/URL restricted by robots.txt2014-05-17ответьте что бы это могло означать кто знает ? и что мне с этими замечаниями делать?

BOSSuy
Сообщений: 14
Репутация: 67

Сообщение # 1632 | 19:20:39
День добрый. Я тут в роботсе прописал такое:
Disallow: /forum/15
Хотел бы уточнить. Я только что запретил к индексации весь форум, или только 15 страницу? Я о том, правильно ли я понимаю процесс. smile
Я планирую там ставить работы на модерацию, чтобы они не индексировались заранее.. И если только 15 страницу - это ведь целый раздел. Не будут ли в таком случае индексироваться страницы с вставленными там темами? Адреса ведь таковых будут немножко другими..
Я на всякий случай. А то мало ли, вдруг весь форум..
surprised

Сообщение отредактировал BOSSuy - Среда, 21 Май 2014, 19:21:17
webanet
Сообщений: 24067
Репутация: 4985

Сообщение # 1633 | 19:36:22
BOSSuy, только этот форум запрещен. чтобы не спрашивать в дальнейшем по каждому урлу используйте http://webmaster.yandex.ua/robots.xml
Имя хоста вставляете http://megahit-online.ru/robots.txt
Список URL прописываете интересующий урл и жмете проверить

ТУТ можно оставить своё мнение по любому вопросу
https://webanetlabs.net/
bass_pro
Сообщений: 39
Репутация: 0

Сообщение # 1634 | 11:08:55
webanet, подскажите... Роботс.тхт как добавить?
Я сделал так.
Просто создал текстовый файл
в него добавил -
User-agent: *Disallow: /a/
Disallow: /stat/
Disallow: /panel/
Disallow: /admin/
Disallow: /secure/
Disallow: /informer/
Disallow: /mchat
Disallow: /search
Disallow: /shop/order/
Disallow: /?ssid=

Host: www.dnestrovsk.moy.su
Sitemap: http://dnestrovsk.moy.su/sitemap.xml
Сохранил и добавил на сайт через Файловый менеджер
проверяю изменение, НО выдает это-
User-agent: *Disallow: /

Что не так делаю???
webanet
Сообщений: 24067
Репутация: 4985

Сообщение # 1635 | 12:37:08
bass_pro,
Цитата
Что не так делаю???
вы не прочитали тему //forum.ucoz.ru/forum/21-38597-1
а вот когда карантин закончится, то вам вообще не стоит трогать файл robots.txt

потому что тот, который вы пытаетесь залить неверный и содержит грубейшую ошибку

Host: www.dnestrovsk.moy.su
Sitemap: http://dnestrovsk.moy.su/sitemap.xml

домена dnestrovsk.moy.su с приставкой www не существует в природе и хост на внутренние системные домены прописывать не надо. и нигде при добавлении сайта в поисковые системы нельзя писать адрес сайта с приставкой www

ТУТ можно оставить своё мнение по любому вопросу
https://webanetlabs.net/
Сообщество uCoz » Вебмастеру » Раскрутка сайта » Robots.txt (индексация сайта)
Поиск: