Как обновить файл robots.txt

Если вы пользуетесь сервисом веб-хостинга (например, Wix или Blogger), вероятнее всего, вам не потребуется редактировать файл robots.txt напрямую или у вас даже не будет такой возможности. Вместо этого ваш провайдер будет указывать поисковым системам, нужно ли сканировать ваш контент, с помощью страницы настроек поиска или другого инструмента.

Если же вы хотите самостоятельно запретить или разрешить поисковым системам обработку определенной страницы вашего сайта, попробуйте найти информацию об этом в сервисе управления хостингом. Пример запроса: "wix как скрыть страницу от поисковых систем".

Чтобы обновить правила в существующем файле robots.txt, скачайте его копию с сайта и внесите необходимые изменения.

Как скачать файл robots.txt

Скачать файл robots.txt можно разными способами, например:

• Откройте в браузере нужный URL (например, https://example.com/robots.txt), скопируйте текст и сохраните его в новом файле на компьютере. Обязательно следуйте инструкциям в отношении формата файла.
• Скачайте копию файла robots.txt с помощью cURL или другого подобного приложения. Пример:

  curl https://example.com/robots.txt -o robots.txt

• В Отчете о файлах robots.txt в Search Console скопируйте содержимое файла robots.txt и вставьте его в файл на компьютере.

Как изменить файл robots.txt

Откройте файл robots.txt, скачанный с сайта, в текстовом редакторе, и внесите необходимые изменения в правила. Используйте поддерживаемый синтаксис и обязательно сохраните файл в кодировке UTF-8.

Как загрузить файл robots.txt

Загрузите новый текстовый файл robots.txt в корневой каталог сайта. Способ загрузки зависит от того, какую платформу и какой сервер вы используете. Ознакомьтесь с нашими рекомендациями.

Если у вас нет разрешения загружать файлы в корневой каталог сайта, обратитесь к администратору домена.

Например, если главная страница вашего сайта расположена по адресу subdomain.example.com/site/example/, возможно, вам не удастся обновить файл robots.txt по адресу subdomain.example.com/robots.txt. В этом случае свяжитесь с владельцем домена example.com/ и попросите его внести изменения.

Как обновить версию файла robots.txt, сохраненную в кеше Google

Сканируя ваши страницы, поисковые роботы Google учитывают изменения в файле robots.txt и обновляют его кешированную копию каждые 24 часа. Если вы хотите обновить кеш быстрее, запросите повторное сканирование в Отчете о файлах robots.txt.