Budget crawl

Définition : Qu’est-ce que le budget crawl ?

Le budget crawl fait référence au nombre de pages que Googlebot va visiter sur un site web par jour. En effet, les robots des moteurs de recherche ne visitent pas l’intégralité des pages d’un site en une seule et unique visite. Il faut plusieurs passages pour que toutes les pages d’un site aient été visitées. Ce budget crawl permet ainsi d’établir le nombre de pages qui seront explorées à chaque visite.

img

Facteurs pris en compte dans le calcul du budget crawl

Ce budget crawl accordé à chaque site web par les moteurs de recherche est calculé selon certains critères :

  • La vitesse de chargement des pages : Google valorise l’expérience utilisateur, ce qui explique pourquoi il va favoriser les sites au temps de chargement rapide
  • La profondeur de la page : Les pages étant éloignées de la page d’accueil, c’est-à-dire atteintes en un grand nombre de clics, ont bien moins de chance d’être explorées que celles facilement accessibles depuis la page d’accueil.
  • La fréquence des mises-à-jour : Plus vous publierez du contenu régulièrement, plus vous aurez de chance que Google explore vos pages.
  • La qualité du contenu du site : Il est important que ce contenu alimentant votre site soit de qualité pour inciter Google à revenir visiter vos pages.

Globalement, les moteurs de recherche vont calculer ce budget crawl en se basant sur la qualité des pages d’un site web.

Intérêt du budget crawl en SEO

L’exploration des pages d’un site web par les moteurs de recherche est l’étape préalable à leur indexation. Plus le budget crawl accordé à votre site sera important, plus vos chances de voir vos pages se positionner dans les premiers résultats de recherche seront importantes.

En outre, les innombrables pages présentes sur le web sont toutes en compétition les unes avec les autres. En effet, Google, et les autres moteurs de recherche, disposent d’une ressource d’exploration limitée du fait de leur grand nombre. Ainsi, au vu de la lourde concurrence pour se positionner dans les premières positions de la SERP, obtenir le meilleur budget crawl possible est essentiel pour votre ranking.

Optimisation du budget crawl

Il existe quelques techniques pour optimiser le budget crawl. Ces astuces sont basées à la fois sur l'optimisation des critères pris en compte par les moteurs de recherche dans le calcul de ce budget crawl, et sur l’utilisation judicieuse de ce budget.

Augmenter la vitesse de chargement de ses pages

Un site dont les pages chargent rapidement garantit une bien meilleure expérience utilisateur qu’un site dont les pages prennent du temps à charger. Or, les moteurs de recherche valorisent les sites offrant une bonne expérience utilisateurs. En outre, de même qu’une page prenant du temps à charger fait perdre du temps à un utilisateur, il en fait perdre aux robots des moteurs de recherche. Ainsi, afin d’optimiser le budget crawl accordé à votre site, il convient d’améliorer le temps de chargement de vos pages.

Optimiser le maillage interne

Avoir un bon maillage interne permet de lier vos pages entre elles, et d’éviter les pages orphelines. De plus, il permet également de fluidifier la navigation sur votre site, aussi bien pour les utilisateurs que pour Google.

Ainsi, en optimisant votre maillage interne, vous améliorerez, d’une part, l’expérience utilisateur, et d’autre part, rendrez vos pages plus facilement accessibles par Google. Cela ne pourra qu’être bénéfique à l’important du budget de crawl accordé à votre site internet.

img

Corriger les défauts

Si Google, ou un autre moteur de recherche, remarque de nombreux défauts sur votre site web, alors il le jugera peu intéressant, et lui accordera un très faible budget de crawl. C’est pourquoi il convient de corriger tous les défauts internes de votre site si vous souhaitez obtenir un budget crawl important.

Cela passe par :

  • Vous débarrasser de vos pages 404 : Pour cela, vous pouvez mettre en place des redirections, ou afficher un code serveur 410 Gone
  • Ne pas multiplier les redirections : Veillez toutefois à ne pas multiplier les redirections. En effet, si leur nombre est trop important, vous risquez d’épuiser votr budget crawl avant que Google n’ait exploré la page que vous souhaitez indexer
  • Supprimer les liens brisés : En conservant des liens brisés dans votre maillage interne, vous renverrez Google vers des pages 404

Publier régulièrement du contenu de qualité

Pour attirer les robots crawlers sur votre site, rien de mieux que de publier régulièrement du contenu. En effet, cela indique à Google que votre site vit toujours, et permet de vous positionner sur un nombre plus large de mots-clés.

Attention toutefois à ce que ce contenu soit de bonne qualité, car rien ne sert d'en publier régulièrement s’il est de piètre qualité. Pour cela, positionnez-vous sur des mots-clés pertinents, rédigez de longs articles traitant de sujets sous un angle peu habituel, et répondez clairement à l’intention de recherche des utilisateurs.

Économie de ce budget crawl

Finalement, il convient de ne pas gaspiller votre budget crawl sur des pages inutiles, car cela aurait pour effet d'entraver la performance SEO de votre site. Commencez par identifier les pages consommant inutilement du budget crawl. Pour cela, utilisez la Search Console, et regardez les pages crawlées mais non indexées pour vous donner une idée du budget crawl gâché pour des pages inutiles. Puis vous pouvez utiliser le logiciel Screaming Frog pour identifier avec précision les pages stratégiques de votre site pour lesquelles utiliser votre budget crawl.

Une fois ces pages stratégiques identifiées, il vous faut alors y rediriger le Googlebot. Pour cela, commencez par optimiser votre maillage interne pour lier vos pages stratégiques entre elles. Vous pouvez également bloquer vos pages inutiles à l’aide du fichier robots.txt qui indique à Google l’ensemble des URLs à ne pas explorer.