Чек-лист: Проверка индексации сайта в Google и Яндекс

188504 марта 2024

Ситуация не из приятных: сканирование сайта поисковыми роботами проходит достаточно быстро, но процесс добавления страниц в индекс не оправдывает ожиданий. Одни страницы сайта не попадают в базу поисковых систем, а другие удаляются. В результате ресурс ранжируется по проиндексированным данным. Если в индекс попали целевые страницы, вам повезло чуть больше. Так или иначе на позиции сайта в выдаче проблемы с индексацией влияют отрицательно. Особенным «приколом» 2023 года стало то, что функция принудительного переобхода страниц (когда обновляешь контент старых страниц) перестала корректно работать в Google. Также Google «выкатил» новый апдейт, который убивает неполезные по его мнению сайты. Проблема приобрела вселенские мастштабы и каждую конкретную ситуацию мы советуем рассматривать индивидуально.

Мы подготовили чек-лист, который поможет быстро оценить видимость страниц индексе и их количество.

Корректное управление индексацией позволяет оптимизировать расход краулингового бюджета: роботы индексируют только важные для продвижения страницы.

  1. Панели веб-мастеров

В 2024 году, когда SEO и маркетинг постоянно эволюционируют, ключевым аспектом успеха является глубокое понимание индексации сайта в поисковых системах. Этот чек-лист не только предоставит вам полный обзор состояния индексации вашего сайта, но и выявит потенциальные проблемы, позволяя оперативно реагировать на изменения алгоритмов Google и Яндекс. Освоение этих методов станет вашим преимуществом в борьбе за высокие позиции в поисковой выдаче.

В Google Search Console проверяем «Статус индексирования» в разделе «Индекс».  Проблемы с индексацией выглядят следующим образом:

Отметка «Проиндексировано всего» указывает число адресов, добавленных в индекс.

Просмотр удаленных страниц, прошедших индексацию успешно или с ошибкой доступен в отчете «Покрытие».  Также можете проверить определенную страницу на попадание в индекс.

Проверка в Яндекс.Вебмастере осуществляется через путь «Индексирование сайта» — «Страницы в поиске». Далее при выборе «История» получим динамику количества страниц в поиске.

  1. Проверка вручную: поисковые операторы 

Операторы поисковых систем используются для уточнения результатов поиска. Оператор «site:» выводит список проиндексированных страниц. Для применения параметра в поисковую строку Google или Яндекс введите «site:[url сайта]». Для получения точных данных в Google необходимо перейти на последнюю страницу поиска. Различия в полученных цифрах — показатель наличия проблем на сайте или его попадания под фильтр поисковых систем.

Оператор Cache проверяет частоту посещения сайта поисковым ботом. Настройте дополнительные инструменты поиска, чтобы просмотреть данные об индексации за час, день, неделю, месяц, год или все время.

  1. Автоматизированная проверка: плагины и букмарклеты 

Букмарклеты — скрипты, сохраняемые в закладках браузера. Принцип работы плагинов и букмарклетов одинаковый: открываете сайт для проверки и призываете на помощь закладку из браузера. В результате получаете необходимую информацию за один клик, ничего не прописывая и не настраивая.

Расширения: SEO-tools, RDS bar, SimilarWeb, MozBar.

Работа с плагином RDS bar

  1. Специальные сервисы проверки

Специальные сервисы облегчают работу SEO-специалистов: позволяют не только проверить индексацию, но и выявить возможные проблемы. Среди таких сервисов: Netpeak Spider, SEO-reports, Rush Analytics. Кроме проиндексированных страниц дополнительно получаете код ответа, заголовки, метаописания, robots.txt и пр.

Возможные причины выпадения страниц из индекса и их решение:

  1. Недавний запуск сайта.

Индексирование недавно появившегося сайта занимает много времени. Для ускорения процесса пройдите регистрацию в «Add url», разместите сайт в каталоге и добавьте ссылки с рейтинговых ресурсов, социальных сетей.

  1. Отсутствие карты сайта (sitemap.xml).

Ее основная функция: сообщать поисковым системам об изменениях на ресурсе и задавать частоту проверки. Такие карты помогают сайту индексироваться быстрее с более эффективной скоростью обхода.

Чтобы проверить, есть ли страница в файле sitemap, используйте инструмент проверки URL в Search Console.

Как использовать Google Search Console маркетологу (длительность 8 минут)

  1. Приватные настройки WordPress.

В настройках чтения уберите галочку с пункта «Видимость для поисковых систем».

  1. Ошибка в метатегах в коде страниц<meta name = “robots” content = “noindex”, nofollow” />.

Чтобы найти все страницы с метатегом noindex на вашем сайте, выполните аудит сайта через Ahrefs: просмотрите предупреждения в отчете “Внутренние страницы”. Для борьбы с этой ошибкой необходимо избавиться от строки или заменить элементы на «index» и«follow». 

  1. Ошибка в использовании директив в файле robots.txt. Закрытие доступа в robots.txt черезUser-agent: * Disallow: /

Подробнее о работе с индексным файлом читайте здесь.

  1. Отсутствие уникального контента.
  2. Дублирование страниц.

Заполните сайт качественным и собственным контентом, удалите мусорные страницы, чтобы избежать санкций от поисковиков.

Чтобы максимально повысить скорость индексации, обновляйте сайт не реже 3 раз в неделю. Например, размещайте новые публикации  и обновляйте старый контент. Google будет чаще сканировать ваш сайт, а обновленные старые публикации сохранят актуальность для новых посетителей.

Собирайте информацию о соотношении проиндексированных страниц, динамике их индексации, отслеживайте тренды. Необходимо регулярно отслеживать индексирование сайта, чтобы своевременно решать проблемы и предотвращать отрицательные последствия, вносить изменения в стратегию продвижения.

Основная задача веб-мастера — убедиться, что страницы его сайта проиндексированы поисковыми системами. Для этого необходимо использовать различные методы проверки индексации.

Поиск по URL-адресу: простой способ проверить, проиндексирована ли страница, заключается в том, чтобы ввести URL-адрес страницы в поисковую строку и нажать Enter. Если страница отображается в результатах поиска, то она проиндексирована.

Использование инструментов веб-мастера: такие инструменты, как Google Search Console и Yandex.Webmaster, позволяют отслеживать индексацию страниц сайта. В них можно увидеть количество проиндексированных страниц и определить, есть ли какие-либо проблемы с индексацией.

Поиск по ключевым словам: еще один способ проверки индексации — поиск страницы по ключевым словам, которые она должна содержать. Для этого нужно ввести в поисковую строку ключевые слова, которые должны быть на странице, и посмотреть, появится ли страница в результатах поиска.

Использование команды site: в поисковых системах можно использовать команду site:, которая показывает все страницы сайта, проиндексированные поисковой системой. Если страница не появляется в этом списке, то она не проиндексирована.

Проверка в индексе: можно просто проверить, проиндексирована ли страница, перейдя на страницу поисковой системы, вводя URL-адрес в строку поиска и проверяя, есть ли страница в результатах поиска.

Использование этих методов позволит быстро и легко проверить, проиндексирована ли страница поисковыми системами. Если страница не проиндексирована, необходимо решить проблемы с индексацией.

Павел Савицкий, SEO-специалист GUSAROV:
В большинстве случаев я пользуюсь таким сервисом, как Netpeak Spider. После сканирования сайта можно определить не просто страницы, которые не индексируются, но и выявить причины непопадания их в индекс поисковых систем. Этих причин может быть много: отсутствие или некорректно заполненные заголовки, мета-теги (заголовки в выдаче), закрытие от индексации в служебном файле robots.txt, некорректно настроенный редирект и т.д. Наличие многофункциональных возможностей Netpeak Spider позволяет выгрузить различные типы страниц (например, индексируемые и неиндексируемые) с техническими ошибками в Excel, что в дальнейшем приводит к ускорению работы по исправлению неиндексируемых URL.

04 марта 2024
Похожие записи:
image8
Инструкция: как добавить компанию на карты Google и Яндекс
Кейсы по SEO
ТОП-10: лучшие кейсы по SEO-продвижению сайтов за август
seo_strategy-06.01
Стратегии SEO для стартапов: 5 тактик, которые работают для новых компаний
При нахождении на сайте Вы соглашаетесь с политикой обработки персональных данных.
Чат с менеджером Чат с менеджером