Gerador de robots.txt
Gere um arquivo robots.txt na hora — permita bots, bloqueie caminhos, adicione sitemap. Nada é enviado.
Um caminho por linha (ex.: /admin)
Resultado
Gere um arquivo robots.txt
Um arquivo robots.txt informa aos rastreadores de mecanismos de busca quais páginas ou seções do seu site eles podem ou não acessar. Coloque o arquivo gerado na raiz do seu domínio.
Tudo roda no seu navegador — nada é enviado a um servidor.
Perguntas frequentes
O que significa Allow: /? Diz a todos os bots que podem rastrear o site inteiro.
Devo listar cada página a bloquear? Não — apenas liste os prefixos de caminho que deseja bloquear.