O que é um web crawler e como rastrear um site (com a Semrush)

Erika Varagouli

Aug 25, 202111 min read
web crawler rastreadores

Assim como os CEOs têm assistentes e o Papai Noel, elfos, o Google (assim como outros mecanismos de pesquisa) tem os web crawlers. O nome “web crawler”, ou rastreador de sites, rastreadores web, todos podem soar um pouco estranho. Mas o que essas coisas misteriosas rastreiam na web e o que exatamente elas fazem? 

Neste guia, vamos explicar o que são web crawlers, como os mecanismos de busca os usam e como podem ser úteis para os proprietários de sites.

Também daremos informações sobre como você pode usar nosso rastreador de site gratuito, a ferramenta Auditoria de site, para descobrir o que os web crawlers podem encontrar no seu site e como você pode melhorar seu desempenho online como resultado. 

O que é um web crawler e o que ele faz?

Um web crawler é um bot de internet, também conhecido como web spider, indexador automático ou robô da web, que funciona para rastrear sistematicamente a web. Esses bots são quase como os arquivistas e bibliotecários da Internet. 

Eles extraem e baixam informações e conteúdo, que são indexados e catalogados nas SERPs para serem exibidos para os usuários por ordem de relevância.

É assim que um mecanismo de pesquisa como o Google consegue responder rapidamente às consultas de pesquisa dos usuários com exatamente o que procuram: aplicando seu algoritmo de pesquisa aos dados do rastreador da web.

Portanto, a rastreabilidade é um atributo essencial para o desempenho do site.

Como funcionam os rastreadores de sites?

Para encontrar as informações mais confiáveis e relevantes, um bot começará com uma certa seleção de páginas da web. Ele pesquisará (ou rastreará) esses dados e irá para os links mencionados neles até outras páginas, onde fará a mesma coisa novamente.

No final, os rastreadores produzem centenas de milhares de páginas, cujas informações têm o potencial de responder à sua consulta de pesquisa.

O próximo passo para mecanismos de pesquisa como o Google é posicionar todas as páginas de acordo com fatores específicos para apresentar aos usuários apenas o conteúdo melhor, mais confiável, mais preciso e mais interessante.

Os fatores que influenciam o algoritmo e o processo de posicionamento do Google são muitos e mudam constantemente. Alguns são mais conhecidos (palavras-chave, colocação de palavras-chave, estrutura de links internos e externos etc.). Outros são mais complexos de identificar como, por exemplo, a qualidade geral do site. 

Basicamente, quando falamos sobre como seu site é rastreável, estamos realmente avaliando com que facilidade os web crawlers rastreiam seu site em busca de informações e conteúdo. Quanto mais clara for a estrutura e a navegação do seu site para o rastreamento, maior será a probabilidade de você se posicionar mais alto nas SERPs.

Web crawlers e rastreabilidade fecham o ciclo com o SEO.

Como a Semrush usa web crawlers

Os rastreadores de sites não são apenas uma ferramenta secreta dos mecanismos de pesquisa. Na Semrush, também usamos web crawlers. Fazemos isso por duas razões importantes:

  1. Para criar e manter nosso banco de dados de backlinks
  2. Para ajudar na análise da integridade do site

Faça uma auditoria do seu perfil de backlinks’

com a ferramenta Backlink Audit

ADS illustration

Nosso banco de dados de backlinks é uma grande parte do que usamos para tornar nossas ferramentas mais fortes. Nossos rastreadores pesquisam regularmente na web novos backlinks para que possamos atualizar nossas interfaces. 

Graças a isso, você pode analisar os backlinks do seu site com a ferramenta Backlink Audit e verificar os perfis de backlinks dos concorrentes com nossa ferramenta Análises de backlinks

Basicamente, você pode ficar de olho nos links que seus concorrentes criam e nos que quebram, garantindo que seus backlinks estejam em bom funcionamento.

A segunda razão pela qual usamos rastreadores da web é nossa ferramenta Auditoria do site. A ferramenta Auditoria do site é um rastreador de sites poderoso que analisa e categoriza o conteúdo do site para que você analise a integridade. 

Ao fazer uma auditoria de site com a Semrush, a ferramenta rastreia a web para você encontrar gargalos ou erros, facilitando as alterações e a otimização do seu site imediatamente. É uma maneira super fácil de rastrear um site.

Consiga informações sobre perfis de backlinks

com a ferramenta Análises de backlinks

ADS illustration

Por que você deve usar a ferramenta Auditoria de site da Semrush para rastrear seu site

Ao usar a ferramenta Auditoria de site, você solicita que nossos rastreadores acessem um site. Os rastreadores retornam uma lista de problemas que mostram exatamente onde um determinado site precisa melhorar para impulsionar o SEO. 

Há mais de 120 problemas que podem ser verificados, incluindo:

  • conteúdo duplicado
  • links quebrados
  • implementação do HTTPS
  • rastreabilidade (sim, informamos a facilidade com que os rastreadores acessam seu site)
  • indexabilidade.

E tudo isso é feito em minutos, com uma interface de usuário fácil de usar, então não há por que se preocupar em desperdiçar horas para acabar com um documento enorme de dados ilegíveis.

website crawler

Quais são os benefícios do rastreamento de sites?

Mas por que é tão importante verificar essas coisas? Vamos falar sobre os benefícios de algumas dessas verificações.

Rastreabilidade 

Não deve surpreender que a verificação da rastreabilidade é de longe a mais relevante. Nossos web crawlers podem dizer exatamente com que facilidade os bots do Google navegam no seu site e acessam suas informações. 

Você aprende como limpar a estrutura do site e organizar seu conteúdo, concentrando-se no sitemap, robots.txt, links internos e estrutura de URL.

Às vezes, não é possível rastrear algumas páginas do site. Há muitas razões pelas quais isso pode acontecer. Uma delas é a resposta lenta do servidor (mais de 5 segundos) ou recusa de acesso do servidor. O principal é que, depois que você sabe que tem um problema, pode começar a resolvê-lo.

Implementação do HTTPS

Esta é uma parte realmente importante da auditoria se você quiser passar seu site de HTTP para HTTPS. Ajudaremos você a evitar alguns dos erros mais comuns que os proprietários de sites cometem nesta área, rastreando certificados adequados, redirecionamentos, canônicos, criptografia e muito mais. Nossos rastreadores da web tornarão isso o mais claro possível. 

Os links quebrados são uma causa clássica de descontentamento do usuário. Muitos links quebrados podem até mesmo prejudicar seu posicionamento nas SERPs porque podem levar os rastreadores a entender que seu site não é bem mantido ou bem codificado. 

Nossos rastreadores encontram esses links quebrados antes que seja tarde demais. As correções em si são simples: remover o link, substitui-lo ou entrar em contato com o proprietário do site que tem seu link para relatar o problema. 

Conteúdo duplicado

Conteúdo duplicado pode causar grandes problemas ao seu SEO. No melhor dos casos, pode fazer com que os mecanismos de pesquisa escolham uma de suas páginas duplicadas para posicionar, prejudicando a outra. No pior dos casos, os mecanismos de pesquisa podem assumir que você está tentando manipular as SERPs e diminuir o posicionamento ou banir seu site completamente. 

Uma auditoria do site pode ajudar a cortar isso pela raiz. Nossos rastreadores da web encontram o conteúdo duplicado no site e o incluem em uma lista ordenada. 

Depois, você pode usar o método que quiser para corrigir o problema — seja informando os mecanismos de pesquisa adicionando um link rel=”canonical" à página correta, usando um redirecionamento 301 ou editando o conteúdo nas páginas implicadas.

Saiba mais sobre esses problemas neste guia sobre como corrigir problemas de rastreabilidade.

Como configurar um rastreador de site com a Auditoria de site da Semrush

Configurar um rastreador de site com a Auditoria de site da Semrush é tão fácil que leva apenas seis etapas. Antes de começarmos, confira se configurou o projeto. Isso pode ser feito facilmente no painel. Outra opção é escolher um projeto que você já iniciou, mas em que ainda não fez uma auditoria do site. 

Auditoria de site projeto

Etapa 1: configurações básicas

Depois que seu projeto for iniciado, é hora da primeira etapa: definir suas configurações básicas.

Primeiro, escolha seu escopo de rastreamento. Seja qual for o domínio, subdomínio ou subpasta específico que você quer rastrear, pode inseri-lo aqui na seção "escopo de rastreamento". Como mostrado abaixo, se você inserir um domínio, também poderá escolher se quer rastrear todos os subdomínios com ele.

Novo projeto de auditoria de site

Depois, ajuste o número máximo de páginas que quer verificar por auditoria. Quanto mais páginas você rastrear, mais precisa será a auditoria, mas também é importante prestar atenção ao seu próprio compromisso e nível de habilidade

Para o Pro, recomendamos rastrear até 20 mil páginas por auditoria. Para Guru, recomendamos o mesmo, 20 mil páginas por auditoria, e para os usuários Business, recomendamos 100 mil páginas por auditoria. Descubra o que funciona para você.

Escolha também sua fonte de rastreamento. Isso é o que decide como nosso bot rastreia seu site e encontra as páginas a serem auditadas.

Auditoria do site fonte

Como mostrado, há quatro opções.

  1. Site: com esta opção, vamos rastrear o site como o GoogleBot (com um algoritmo de pesquisa do tipo “breadth-first”), navegando através dos seus links (começando na página inicial). Esta é uma boa escolha se você tiver interesse apenas em rastrear as páginas mais acessíveis que um site tem a oferecer a partir da sua página inicial. 
  2. Sitemaps do site: se você escolher esta opção, vamos apenas rastrear as URLs encontradas no sitemap do arquivo robots.txt.
  3. Digitar a URL do sitemap: é semelhante aos sitemaps no site, mas, neste caso, você pode inserir sua própria URL do sitemap, tornando sua auditoria um pouco mais específica.
  4. URLs de arquivo: com esta opção, você pode especificar exatamente quais páginas quer auditar. Basta salvá-las como arquivos .csv ou .txt no computador e enviá-las diretamente para a Semrush.
    Isso é ótimo quando uma visão geral não é necessária. Por exemplo, quando você faz alterações específicas em páginas específicas e só quer ver o desempenho delas. Pode reduzir um pouco do orçamento de rastreamento e gerar as informações que você realmente quer.

Etapa 2: configurações do rastreador 

Depois, você precisa decidir sobre o tipo de bot que quer rastrear seu site. Existem quatro combinações possíveis, dependendo se você escolher a versão para dispositivos móveis ou computador do SemrushBot ou GoogleBot.

img-semblog

Em seguida, escolha suas configurações de Crawl-delay. Opte por atraso mínimo entre páginas, Respeitar o robots.txt ou 1 URL a cada 2 segundos. 

  1. Escolha “atraso mínimo” para o bot rastrear com a velocidade normal. Para o SemrushBot, isso significa que ele reservará cerca de um segundo antes de começar para rastrear a próxima página.
  2. “Respeitar o robots.txt” é ideal para quando há um arquivo robots.txt no site e você precisa de um atraso de rastreamento específico. 
  3. Caso se preocupe se o site ficará mais lento por causa do nosso rastreador ou você ainda não tem uma orientação clara de rastreamento, então provavelmente vai preferir “1 URL a cada 2 segundos”. Talvez a auditoria leve mais tempo, mas a experiência do usuário não será pior durante a auditoria. 

Etapa 3: allow/disallow URLs

Nesta seção, você realmente personaliza sua auditoria decidindo quais subpastas definitivamente quer que sejam rastreadas e quais definitivamente não quer. 

Para fazer isso corretamente, é necessário incluir tudo na URL após o TLD. As subpastas que você definitivamente quer que sejam rastreadas ficam na caixa à esquerda. As que definitivamente não quer, ficam na caixa à direita.

img-semblog

Etapa 4: remoção de parâmetros de URL 

Esta etapa trata de nos ajudar a garantir que seu orçamento de rastreamento não seja desperdiçado rastreando a mesma página duas vezes. Basta especificar os parâmetros de URL que você usa no site para removê-los antes de rastrear. 

img-semblog

Etapa 5: contornar as restrições do site

É ideal quando você precisa de uma alternativa. Vamos dizer, por exemplo, que seu site ainda esteja em pré-produção ou está oculto pela autenticação de acesso básica. Acha que isso significa que não podemos fazer uma auditoria para você? É aí que você se engana.

Há duas opções para contornar isso e garantir que sua auditoria funcione.

img-semblog
  1. A opção um é ignorar disallow no robots.txt e na meta tag robots, que envolve enviar o arquivo .txt, que forneceremos para você, para a pasta principal do site.
  2. A opção dois é rastrear com suas credenciais. Para fazer isso, você só precisa inserir o nome de usuário e a senha que usaria para acessar a parte oculta do seu site. O SemrushBot usará essas informações para conduzir a auditoria. 

Etapa 6: agendamento

O último passo é nos dizer com que frequência você gostaria que seu site fosse auditado. Pode ser toda semana, todos os dias ou apenas uma vez. O que quer que você decida, fazer auditorias regularmente é definitivamente aconselhável para estar a par da integridade do site.

agendamento auditoria

E é isso! Você aprendeu a rastrear um site com a ferramenta Auditoria do site.

Como analisar os dados do seu rastreador da web com a Semrush

Todos os dados sobre suas páginas da web coletados durante os rastreamentos são registrados e salvos na seção Auditoria do site do projeto. Lá, você encontra sua pontuação saúde do seu site.

Verifique também o número total de páginas rastreadas divididas entre “Íntegras”, “Quebradas” ou “Com problemas”. Essa visualização praticamente reduz pela metade o tempo necessário para identificar problemas e resolvê-los.

Semrush site audit

Finalmente, você também encontra aqui nossa avaliação da facilidade de rastreio das suas páginas:

img-semblog

Ao entrar na seção de rastreabilidade, você terá uma análise ainda mais detalhada da profundidade de rastreamento, sitemap x páginas rastreadas, indexabilidade e muito mais.

img-semblog

Agora você sabe como configurar sua auditoria de site com o rastreador da web e onde encontrar os dados que reunimos apenas para você.

[Create-campaign destination_url="https://www.semrush.com/siteaudit/" show_input="false"header="Encontre e conserte erros no sitemap" text="com a ferramenta Auditoria do site" button_text="Teste grátis"bg_images="https://static.semrush.com/blog/uploads/media/96/fd/96fd495930d058321d5f78f5554aff88/trial-superbanner-1.png"bg_button="-success"]

Lembre-se: quando você melhora a rastreabilidade, garante que os mecanismos de pesquisa entendam seu site e seu conteúdo. Ajudar os mecanismos de pesquisa a rastrear seu site com mais facilidade aumenta suas chances de ter um posicionamento mais alto nas SERPs. 

Author Photo
Erika VaragouliI create local and global content marketing strategies here at Semrush. I started my career as a journalist, but gradually the world of SEO and content marketing won me over. I am obsessed with creating content people love, Nick Cave, and Italian films. Fueled by caffeine.
Subscribe to learn more about SEO
By clicking “Subscribe” you agree to Semrush Privacy Policy and consent to Semrush using your contact data for newsletter purposes