Все Новий

user:thomas gists створені користувачем

title:mygist gists з наданим ім'ям

description:sync gists with given description

filename:myfile.txt gists мають файли з наданим ім'ям

extension:yml gists мають файли з наданим розширенням

language:go gists мають файли з наданою мовою

topic:homelab gists with given topic

all:systemctl search all fields

Увійти

Все Новий Увійти

All gists matching topic Robots

Нещодавні зверху створені
Нещодавні знизу створені
Нещодавні зверху оновлені
Нещодавні знизу оновлені
Erreur32's Avatar

Erreur32 / tips_httpd.conf_spiders.md

0 вподобань
0 форк(-ів)
1 файл(-ів)
Остання активність 1 month ago
Crawler Robots Tips
1 # To relieve servers
2
3 ##Imagine a robots.txt file like this (Google understands this format):
4 #User-agent: *
5 #Disallow: /detailed
6 #Disallow: /?action=detailed
7 #Disallow: /*/detailed
8 #Crawl-delay: 20
9 ##
Новіше Пізніше

Працює на Opengist ⋅ Load: 14ms⋅

Українська
Čeština Deutsch English Español Français Magyar Italiano 日本語 Polski Português Русский Türkçe Українська 中文 繁體中文