Поиск по блогу
Рубрики
- CMS (38)
- Блогинг (25)
- Веб-программирование (9)
- Вы знали об этом? (31)
- Высокие технологии (32)
- Мои проекты (22)
- Монетизация (47)
- Обзор хостингов (5)
- Оффтопик (67)
- Практика в SEO/SMO (72)
- Разработка сайта (43)
Я работаю с ...
Автоматизация заработка Astakov
Биржа ссылок и статей Sape
Биржа статей Miralinks
Вечные ссылки GetGoodLinksВечные ссылки GoGetLinks
Вечные ссылки Блогун
Копирайтинг ContentMonster
Партнерская программа CityAds
Регистратор доменов 2Domains
Реклама в блогах RotaPost
Хостинг BeGet
ЦОП РСЯ Profit-Partner
Популярные записи
- Как сделать прозрачный фон у картинки 129
- Склейка доменов + объединение домена с WWW и без WWW 40
- Добавление сайта в поисковые системы, каталоги и куда только можно 36
- Добавляем кнопку ReTweet в RSS-ленту без плагинов 25
- Какую CMS выбрать для создания простого интернет-магазина? 25
- Twite: первые наблюдения и испытания 22
- SEO оптимизация блога WordPress без плагинов 21
Свежие комментарии
- SeoCoding к записи Как сделать доход на вечных ссылках пассивным
- Станислав к записи Принципы создания сайтов
- tim к записи Добавление сайта в поисковые системы, каталоги и куда только можно
- Татьяна к записи Бессрочная акция по обмену ссылками
- serge к записи Как сделать прозрачный фон у картинки
- felixtrader к записи Как сделать прозрачный фон у картинки
- Сайтостроитель к записи Чем отличаются сайты на html от сайтов на php
Записи с меткой «robots.txt»
Склейка доменов + объединение домена с WWW и без WWW
Повторим урок о картах сайта — Sitemap
Ещё в октябре я описывал о такой вещи, как Sitemap или Карта сайта. Сегодня я просто хотел бы повторить этот урок (вообще, повторение - мать учения) и добавить ещё пару слов и пару полезностей об этой вещице.
Карта сайта - это некая противоположность файлу robots.txt. Если последний указывал страницы и директории, которые не нужно было индексировать поисковым системам, то первый же, наоборот, указывает на странице, которые нужно пройти роботу. Как я и говорил тогда:
Роботы под контролем! Задаем правила индексации с robots.txt
Сегодня рассмотрим файл robots.txt. Этот файл частично контролирует индексацию сайта поисковыми системами. Что именно контролирует? В нем задаются страницы и/или разделы сайта, которые запрещены к индексации и которые не нужно индексировать. Кроме этого может содержать обратную информацию. Например, можно сделать так, чтобы доступ к разделу /news/ был запрещен для всех страниц, кроме /news/page.html. Ну и кроме всего этого может содержать и другую информацию, но она нам будет не очень интересна, хотя частична будем упомянута.
Файл должен находится в корне сайта и иметь относительно корня ссылку http://www.yousite.ru/robots.txt




