Генератор Robots.txt

Как пользоваться

1. 1
   Заполните поля

   Введите числа или выберите нужные опции.

2. 2
   Посмотрите результат

   Ответ обновляется сразу, как только вы меняете значение.

3. 3
   Используйте

   Скопируйте результат или запишите его. Ничего никуда не отправляется.

About this tool

Choose the crawler, list the paths you do not want crawled and any paths to allow, and add your sitemap address. Copy the result into a file named robots.txt in the root of your site. Remember that robots.txt is a request to crawlers, not a way to hide private pages.

When to use it

Create a robots.txt file for your website, with sitemap and rules.

Tips

Do not block pages you want indexed. Test the file.

Privacy

Everything runs in your browser, so your data is not uploaded or stored.

Пример с решением

With the boxes at their starting values (Crawler (user-agent): All crawlers (*); Allow everything when no paths are listed: Yes; Paths to block (one per line): /admin /private/), the tool shows: User-agent: * Disallow: /admin Disallow: /private/. Change any box to see your own numbers. The result updates as you type, and nothing leaves your browser.

Советы для лучшего результата

Проверьте каждое поле, прежде чем доверять результату: одна неверная цифра меняет весь ответ. Используйте точные числа из расчётного листка, счёта, сертификата или договора и отметьте дату расчёта. Ставки, пороги и правила время от времени меняются, поэтому для налогов, сборов и юридических вопросов считайте результат оценкой и сверяйте с официальным источником, указанным на странице. Пробуйте сколько угодно сценариев: ничего не сохраняется и не отправляется, обновление страницы очищает поля.