adrianshort
/
planningalerts
espelhamento de https://github.com/adrianshort/planningalerts.git
1
0
Fork 0
Código Issues 0 Versões 0 Wiki Atividade
Automatically exported from code.google.com/p/planningalerts
Você não pode selecionar mais de 25 tópicos Os tópicos devem começar com uma letra ou um número, podem incluir traços ('-') e podem ter até 35 caracteres.
228 Commits
2 Branches
1.3 MiB
Tag: 23946850c8
Branches Tags
${ item.name }
Criar branch ${ searchTerm }
de 23946850c8
${ noResults }
planningalerts/docs/robots.txt

robots.txt 74 B
Original Visão normal Histórico

Add a robots.txt file to stop search engines bothering our scrapers and api.
17 anos atrás
​
​
​
 1234 
  1. User-agent: *

  2. Disallow: /cgi-bin/

  3. Disallow: /scrapers/

  4. Disallow: /api.php