Sobre MissWrenchBot
Se MissWrenchBot apareceu nos seus logs de acesso, alguém usou uma das ferramentas deste site para verificar o seu endereço. O rastreador não sai andando pela web por conta própria e não monta nenhum índice.
O que ele pede
Uma verificação típica carrega uma página e às vezes os arquivos que ela referencia, como folhas de estilo, scripts e imagens, para medir tamanho, cabeçalhos ou cache. O localizador de links quebrados segue os links dentro de um único site. Ele vai com calma e para em um número fixo de páginas.
Como ele se identifica
As requisições trazem este user agent:
Mozilla/5.0 (compatible; MissWrenchBot/1.0; +https://misswrench.com/crawler/)
Como bloqueá-lo
O localizador de links obedece ao robots.txt. Para excluí-lo, acrescente:
User-agent: MissWrenchBot
Disallow: /As verificações de uma única página são feitas em nome de uma pessoa que está olhando o seu site e se comportam como uma visita de navegador.