Shop
shopnseo
SnS Ultimate Pack
Управление содержимым
E-commerce
Разделы /Сервисы
Продукты /Решения
Бренды
Характеристики
Модификации
Акции
Скидки
Контент
Cтраницы / Информация
Обзоры
Заметки
Метки
Контент
Комментарии
Связи
Карточки контента
Типы карточек
Библиотека
Книги / Библиотека СЕО
Главы / Тексты
Авторы / Авторы
Персонажи
Жанры
Блог
Блоги
Посты
Блогеры
Продвижение
FAQ
Примечания
Анонсы
Новости
Материалы
Инструменты
Мета-описания
Ключевые слова
Черновики
Ссылки
Форумы
Форумы
Треды
Экспресс-правка
Сервисы
Решения
Бренды
Обзоры
Рубрики / Журналы
Статьи / Статьи
Профили пользователей
Страницы / Информация
Новости / Новости
Книги / Библиотека СЕО
Главы / Тексты
Управление сайтом
On-Page SEO
Просмотр логов
Пользователи
Пользователи
Визиты
Профили
Уведомления
Рассылки
Сервер
Сайты
Структура сервера
Правка
Тарифы
Периоды оплаты
Типы контента
Типы сайтов
Проверка ссылок
Главная
Фронтенд (Realtime)
Задачи
Начало сессии:
18 февраля 2026 г. в 15:17:36 GMT+3
Mega Menu
Разделы
5
Главная
Структура
Сортировка
•
Хостинг
12-11-2025 в 12:18:53
•
Веб-разработка под ключ
06-11-2025 в 15:09:54
•
SEO-продвижение
02-11-2025 в 08:25:46
•
Веб-аналитика
02-11-2025 в 07:02:20
•
Веб-разработка
11-10-2025 в 07:10:33
Продукты
5
Главная
Структура
Создать
•
Копия Разовое создание контента
18-02-2026 в 14:48:14
•
Копия Копия Копия Копия Eventalk Template
18-02-2026 в 14:48:09
•
Копия Сервер-суппорт
18-02-2026 в 14:47:24
•
Копия Копия Maxim Bootstrap Template
18-02-2026 в 14:47:19
•
Копия Копия Копия Gp Bootstrap Template
18-02-2026 в 14:45:49
Книги
5
Главная
Структура
Создать
•
Справочник по SEO
21-07-2025 в 10:46:41
•
Руководство по платформе ShopnSeo
05-06-2025 в 15:31:28
•
Конструкторы сайтов и CMS
21-05-2024 в 14:32:43
•
Гид по On-Page SEO
28-03-2024 в 12:52:25
•
Полный гид по SEO
28-03-2024 в 12:49:34
Главы
5
Главная
Структура
Создать
•
Поисковая оптимизация (SEO)
10-09-2025 в 01:34:06
•
SEO контент
10-09-2025 в 01:32:55
•
Log file. Лог-файл
10-09-2025 в 01:31:05
•
DMOZ
10-09-2025 в 01:30:47
•
Author Authority / Авторитет автора
10-09-2025 в 01:30:16
Блоги
5
Главная
Структура
Создать
•
Практические примеры
18-11-2025 в 19:30:25
•
Теория продвижения
18-11-2025 в 19:18:36
•
Теория интернета
18-11-2025 в 19:11:57
•
Про контент
09-07-2025 в 20:05:55
•
AIO/GMO Lab
09-07-2025 в 12:49:43
Посты
5
Главная
Структура
Создать
•
AI search is growing SEO fundamentals still drive
12-01-2026 в 19:48:42
•
SEO изображений для мультимодального ИИ
12-01-2026 в 19:47:36
•
SEO-отладка: Практический курс для быстрого решения проблем
12-01-2026 в 17:56:59
•
Полное руководство по SEO-хлебным крошкам
12-01-2026 в 17:48:38
•
Featured snippets: Как завоевать позицию ноль
12-01-2026 в 17:46:03
Страницы
5
Главная
Структура
Создать
•
Копия страницы - Команда
18-02-2026 в 14:43:20
•
Копия страницы - Наши партнеры
18-02-2026 в 14:32:44
•
Копия страницы - Решения
18-02-2026 в 14:32:23
•
Копия страницы - Условия
18-02-2026 в 12:59:37
•
Копия страницы - Хостинг
18-02-2026 в 11:47:24
Анонсы
0
Главная
Структура
Создать
Новости
5
Главная
Структура
Создать
•
Новая AI-модель для выявления мошеннических рекламодателей
12-01-2026 в 16:57:50
•
Google объяснил ошибку «Индекс без контента»
12-01-2026 в 16:54:26
•
Google тестирует синюю кнопку Send вместо AI Mode
12-01-2026 в 16:49:12
•
Google советует ориентироваться на поведение аудитории
12-01-2026 в 16:47:10
•
Google тестирует и убирает AI Overviews
12-01-2026 в 16:45:31
Материалы
0
Главная
Структура
Создать
FAQ
5
Главная
Структура
Создать
•
Что такое UI-дизайн?
05-09-2025 в 09:20:39
•
Что такое брендинг?
05-09-2025 в 09:20:37
•
Что такое дизайн?
05-09-2025 в 09:20:36
•
Что такое веб-дизайн?
05-09-2025 в 09:20:35
•
Что такое UX-дизайн?
05-09-2025 в 09:20:33
Примечания
0
Главная
Структура
Создать
Express Menu
Раздел
Товар
Страницы
Книги
Главы
Блоги
Посты
Новости
Материалы
Создать
Раздел
Продукт
Страницу
Книгу
Главу
Блог
Пост
Новости
Материал
Анонс
Черновик
Управление сайтом
Главная
Контакты
Пользователи
Профили пользователей
LinkGazer
Структура сервера
Почистить кэш навигатора
Новых сообщений нет
Смотреть все сообщения
Гость
Профиль
class
Настройки
Помощь
Выйти
Главная
Посты
Посты
Правка текста поста
'#8. Посты : posts';
'Blog_PostController_actionUpdateHtml';
'#layouts_templates_updateHtml';
Правка кода HTML в тексте
<div class="row"> <div class="col-md-12"> <p class="lead">Скромный файл robots.txt часто незаметно находится на заднем плане сайта WordPress, но его настройки по умолчанию довольно просты и не способствуют индивидуальным директивам, которые вы, возможно, захотите применить.</p> <h2 class="mt-4">Где находится файл WordPress Robots.txt?</h2> <p>По умолчанию WordPress генерирует виртуальный файл robots.txt. Вы можете увидеть его, посетив <code>/robots.txt</code> вашей установки:</p> <div class="alert alert-info"> <p class="mb-0">https://yoursite.com/robots.txt</p> </div> <p>Этот файл по умолчанию существует только в памяти и не представлен физическим файлом на вашем сервере.</p> <p>Если вы хотите использовать пользовательский файл robots.txt, просто загрузите его в корневую папку установки. Это можно сделать либо с помощью FTP-приложения, либо плагина, например Yoast SEO (<strong>SEO → Инструменты → Редактор файлов</strong>).</p> <h2 class="mt-4">Стандартный файл WordPress Robots.txt (и почему его недостаточно)</h2> <p>Если вы не создаете файл robots.txt вручную, вывод WordPress по умолчанию будет выглядеть следующим образом:</p> <pre class="bg-light p-3"><code>User-agent: * Disallow: /wp-admin/ Allow: /wp-admin/admin-ajax.php</code></pre> <p>Хоть это и безопасно, но не оптимально. Давайте рассмотрим улучшения.</p> <h3 class="mt-4">Всегда включайте XML-карты сайта</h3> <p>Убедитесь, что все XML-карты сайта указаны явно, так как это помогает поисковым системам обнаруживать все релевантные URL-адреса:</p> <pre class="bg-light p-3"><code>Sitemap: https://example.com/sitemap_index.xml Sitemap: https://example.com/sitemap2.xml</code></pre> <h3 class="mt-4">Что не следует блокировать</h3> <p>Существуют устаревшие рекомендации запрещать некоторые основные каталоги WordPress, такие как <code>/wp-includes/</code>, <code>/wp-content/plugins/</code> или даже <code>/wp-content/uploads/</code>. Не делайте этого!</p> <div class="card mb-4 border-warning"> <div class="card-header">Почему их не следует блокировать:</div> <div class="card-body"> <ul> <li>Google достаточно умен, чтобы игнорировать нерелевантные файлы</li> <li>Блокировка CSS и JavaScript может ухудшить рендеринг и вызвать проблемы с индексацией</li> <li>Вы можете непреднамеренно заблокировать ценные медиафайлы в <code>/wp-content/uploads/</code>, которые должны быть доступны для сканирования</li> </ul> </div> </div> <p>Вместо этого позвольте поисковым роботам извлекать CSS, JavaScript и изображения, необходимые для правильного отображения.</p> <h3 class="mt-4">Управление промежуточными сайтами</h3> <p>Рекомендуется убедиться, что промежуточные (тестовые) сайты не сканируются ни в целях SEO, ни в целях общей безопасности. Лучше полностью запретить сканирование таких сайтов.</p> <p>Используйте метатег noindex, но для дополнительной защиты рекомендуется применить оба варианта. В WordPress перейдите в <strong>Настройки > Чтение</strong> и отметьте опцию «Запретить поисковым системам индексировать этот сайт», или добавьте следующее в robots.txt:</p> <pre class="bg-light p-3"><code>User-agent: * Disallow: /</code></pre> <div class="alert alert-warning"><strong>Важно:</strong> при переходе к боевой версии сайта обязательно проверьте этот параметр, чтобы убедиться, что вы отменили все запреты индексации.</div> <h3 class="mt-4">Очистка необязательных путей WordPress</h3> <p>Многие пути по умолчанию не добавляют никакой ценности для SEO:</p> <pre class="bg-light p-3"><code>Disallow: /trackback/ Disallow: /comments/feed/ Disallow: */embed/ Disallow: /cgi-bin/ Disallow: /wp-login.php</code></pre> <h3 class="mt-4">Запрет определенных параметров запроса</h3> <p>Иногда полезно запретить поисковым системам сканировать URL-адреса с параметрами запроса с низкой ценностью:</p> <pre class="bg-light p-3"><code>User-agent: * Disallow: /*?*replytocom= Disallow: /*?*print=</code></pre> <p>Используйте инструмент «Параметры URL» в Google Search Console для мониторинга шаблонов индексации на основе параметров.</p> <h3 class="mt-4">Запрет таксономий и SERP с низкой ценностью</h3> <p>Если на вашем сайте WordPress есть архивы тегов или внутренние страницы результатов поиска, вы можете их заблокировать:</p> <pre class="bg-light p-3"><code>User-agent: * Disallow: /tag/ Disallow: /page/ Disallow: /?s=</code></pre> <p>Учитывайте вашу контент-стратегию. Если страницы таксономий тегов являются частью контента, который вы хотите индексировать, то игнорируйте эти запреты.</p> <p>Убедитесь, что внутренняя структура ссылок поддерживает ваше решение и сводит к минимуму внутренние ссылки на разделы, которые вы не собираетесь индексировать.</p> <h2 class="mt-4">Мониторинг статистики сканирования</h2> <p>После настройки файла robots.txt отслеживайте статистику сканирования с помощью Google Search Console:</p> <div class="card mb-4"> <div class="card-body"> <ol> <li>Изучите статистику сканирования в разделе «Настройки», чтобы узнать, не тратят ли боты ресурсы впустую</li> <li>Используйте инструмент проверки URL-адресов, чтобы проверить, проиндексирован ли заблокированный URL-адрес</li> <li>Проверьте файлы Sitemap и убедитесь, что они ссылаются только на те страницы, которые должны сканироваться и индексироваться</li> </ol> </div> </div> <p>Некоторые инструменты управления сервером, такие как Plesk, cPanel и Cloudflare, могут предоставлять подробную статистику сканирования, выходящую за рамки Google.</p> <p>Используйте переопределение конфигурации Screaming Frog для имитации изменений и обратите внимание на функции оптимизации сканирования Yoast SEO, некоторые из которых решают вышеуказанные проблемы.</p> <h2 class="mt-4">Заключение</h2> <p>Хотя WordPress – отличная CMS, в ней не предусмотрен идеальный файл robots.txt по умолчанию и отсутствует оптимизация сканирования из коробки.</p> <div class="alert alert-success"> <p class="mb-0">Всего несколько строк кода и менее 30 минут вашего времени могут избавить вас от тысяч ненужных запросов на сканирование, а также предотвратить потенциальные проблемы масштабирования в будущем.</p> </div> </div> </div>
Краткое название:
Robots.txt: что следует включить?
Полное название
Robots.txt: что следует включить?
Архив
Скопировать текст в память браузера
Редактировать название и описание
Сохранить
Сохранить и перейти на след.
Название
Сохранить
Стандартный редактор
Смотреть
Полное название и описание
Полное название (Заголовок)
Robots.txt: что следует включить?
Описание
Сократите ненужную активность сканирования и раздувание индекса, обновив файл robots.txt WordPress. Вот что следует включить, исключить и никогда не блокировать.
Как правило описание должно иметь около 150 знаков. Оно используется для заполнения мета-тега Description веб-страницы.
Сейчас используется -
0
символов
Скопировать
Вставить
Сохранить
Описание скопировано!
Описание вставлено!