Mythe contre réalité

Vérificateur de backlinks en temps réel : mythe, réalité et un tableau de retry

Chaque outil avec cette étiquette est un crawler avec un délai. Le nôtre se rafraîchit environ une fois par mois. Voici comment scripter autour sans gaspiller de crédits.

A wooden bridge over a valley with one damp plank showing recent contact

Mythe contre réalité

MytheRéalité
Le sondage horaire détecte un nouveau lien plus tôtL'index change environ une fois par mois, donc 29 sondages sur 30 retournent les mêmes lignes
Un lien manquant signifie qu'il a été suppriméIl est peut-être simplement plus récent que le dernier rafraîchissement
Plus frais est toujours mieuxPour les tendances, une capture mensuelle stable bat une quotidienne bruyante
Search Console contient les mêmes donnéesIl montre ce que Google signale pour votre propriété, ce qui est une vue différente et partielle
Un plan payant rend le crawl instantanéAucun fournisseur ne crawl chaque page chaque jour

Comment travailler avec un index mensuel

La majeure partie du travail réside dans une habitude : exécuter hebdomadairement, comparer mensuellement.

Si vous venez de créer un lien et voulez une preuve, n'attendez aucun index. Ouvrez la page, affichez le code source, et confirmez l'anchor text et l'attribut rel. Puis attendez le prochain rafraîchissement. Google lui-même a besoin de jours ou de semaines pour recrawler, et le changement de 2016 de Penguin 4.0 n'a rendu le traitement de Google lui-même qu'en temps réel, pas ce que les outils tiers peuvent voir.

Un vérificateur de backlinks en temps réel au sens strict devrait surveiller tout le web. Personne ne le fait, et la petite astuce de re-interroger une base de données périmée chaque heure ne fait que dépenser des crédits pour la même réponse.

Alertes pour les nouveaux liens, et pourquoi elles déçoivent

Les gens demandent souvent une alerte dès qu'un lien apparaît. La demande est raisonnable. La réponse honnête est qu'un index mensuel ne peut pas la fournir, car un lien qui apparaît sur le web aujourd'hui peut ne rejoindre aucun index pendant des semaines.

Les alertes basées sur un sondage répété semblent actives et ne vous disent rien de nouveau. Les trois sous-sections ci-dessous expliquent où va l'effort, et ce qu'une configuration plus calme peut faire à la place.

Ce qu'une alerte peut réellement voir

Une alerte ne peut surveiller que ce que l'index contient déjà. Entre les rafraîchissements, les mêmes lignes reviennent, et une alerte qui se déclenche sur des données identiques n'est que du bruit dans votre boîte mail.

Le sondage ajoute des appels, pas des lignes

Le sondage horaire envoie de nombreuses requêtes pour une seule réponse. La note de coût à la fin de cette page montre l'arithmétique. La facture augmente avec la fréquence tandis que les lignes restent stables.

Un tirage daté fait le même travail

Un job hebdomadaire écrit un fichier daté, et un diff par rapport à la semaine dernière montre ce qui a changé. Le résultat correspond au rythme réel des données, et vous êtes toujours informé des nouvelles lignes dans la semaine.

Le fichier est aussi votre preuve quand quelqu'un demande ce qui a changé le mois dernier. Gardez le nommage identique d'un run à l'autre, afin que les fichiers se trient eux-mêmes.

Tableau de dépannage pour les boucles

RéponseSignificationCe que le script devrait faire
HTTP 401Clé manquante ou incorrecteArrêter, alerter, ne pas réessayer
HTTP 402Crédits épuisésArrêter, recharger avec USDT, relancer à la main
ok: false avec 200Mauvais paramètre comme une action inconnueLogger le corps et échouer le job
Timeout ou 5xxBug réseau ou serveurRéessayer deux fois avec une attente de 10 et 60 secondes
Lignes en dessous de totalVotre pagination s'est arrêtée trop tôtCorriger la boucle ; les données sont correctes
Le solde diminue plus vite que prévuUne boucle re-télécharge les pagesComparer _credits avant et après chaque run

Un wrapper de retry qui ne dépense pas deux fois

Seuls les échecs transitoires sont réessayés. 401 et 402 sortent immédiatement.

python
import json, time, urllib.request as u, urllib.error as e
def call(url, tries=3):
    for i in range(tries):
        try:
            with u.urlopen(url, timeout=30) as r:
                return json.load(r)
        except e.HTTPError as x:
            if x.code in (401, 402):
                raise SystemExit(f'stop: HTTP {x.code}')
            if i == tries - 1:
                raise
        except (e.URLError, TimeoutError):
            if i == tries - 1:
                raise
        time.sleep(10 * 6 ** i)
A garden shed with a watering can and a single water drop on a leaf

Ce que cela laisse pour votre planning

Mettez la capture sur une minuterie hebdomadaire, comme dans le runbook Actions. Diff monthly avec le script SQLite.

Mettez le coût sur une seule ligne. Un pull de refdomains hebdomadaire pour un domaine coûte 2 crédits, soit environ 0,01 $ par an.

Traitez avec suspicion toute promesse de vérificateur de backlinks en temps réel, la nôtre incluse. L'étiquette honnête pour ce que vous pouvez scripter est un index mensuel avec une habitude hebdomadaire autour, ce qui bat toujours une vérification manuelle tous les trimestres.

Définissez une vérification de fraîcheur adaptée aux données

Ces quatre étapes remplacent une alerte par une habitude que vous pouvez maintenir.

01

Choisissez une cadence

Hebdomadaire pour le pull, mensuel pour la comparaison. Écrivez les deux dans les notes du repo pour que le planning ne dérive pas avec le temps.

02

Stockez la réponse brute

Sauvegardez le JSON intact sous la date du jour. Vous pouvez recalculer n'importe quel nombre plus tard, et vous n'avez jamais à faire confiance à un résumé que vous ne pouvez pas vérifier.

03

Comparez des ensembles, pas des totaux

Comptez ce qui est arrivé et ce qui a disparu entre deux pulls. Un total qui reste plat peut cacher un échange de cinquante domaines.

04

Arrêtez la boucle à la première erreur

Un 401, un 402 ou un ok faux termine le run. Le prochain run planifié réessaie, ce qui est moins cher que n'importe quelle boucle d'alerte.

Lire un lien manquant sans paniquer

Un lien qui n'est pas encore dans l'index est un cas différent d'un lien qui a été supprimé. Les confondre conduit à de mauvaises décisions, alors vérifiez lequel vous avez avant d'agir.

Commencez par la page. Si elle est toujours en ligne et que le lien y est, l'index est simplement en retard. Attendez le prochain rafraîchissement avant de conclure quoi que ce soit sur la page ou le site.

Plus récent que le dernier rafraîchissement

La plupart des liens manquants sont récents. Notez la date à laquelle vous avez trouvé le lien, et comparez-la avec la date du dernier rafraîchissement. Un écart de quelques semaines est normal pour un index mensuel.

Un lien que vous avez trouvé le mardi et vérifié le vendredi n'a pas eu le temps d'atteindre l'index, donc l'écart est attendu plutôt qu'inquiétant.

Supprimé, déplacé ou jamais indexé

Certains liens sont vraiment partis. La page a été supprimée, le lien a été retiré, ou la page est maintenant derrière une connexion. Vérifiez la page elle-même. Si le lien y est et que l'index le manque toujours, c'est une question d'index, pas un changement sur l'autre site.

Notez quel cas vous avez trouvé, car la correction est différente pour chacun.

Trois mises à jour de liens Google qui ont fixé le rythme

  1. Penguin 4.0

    Google a déclaré que son signal de spam de liens est devenu partie de l'algorithme de base et s'exécutait en temps réel, de son côté.

  2. Mise à jour du spam de liens

    Google a annoncé une mise à jour SpamBrain visant à neutraliser les liens spammy au lieu de les compter.

  3. Mises à jour Core et spam

    Un déploiement majeur en mars a changé la façon dont Google gère le contenu à faible valeur et les liens manipulateurs, et a mis des semaines à se stabiliser.

A magnifying glass inspecting a vine growing through a stone wall

Que faire quand vous avez besoin d'une preuve aujourd'hui

Vérifier prend moins de temps que d'en débattre. Affichez le code source de la page. Cherchez votre URL, l'anchor text et tout attribut nofollow, sponsored ou ugc.

Pour un ensemble plus grand, récupérez les pages qui lient vous-même avec un script poli et un délai, et grep le HTML pour votre domaine. C'est un travail différent de celui de demander à un index, et c'est le seul qui voit un lien publié il y a une heure.

Un rythme mensuel qui reste peu coûteux

Imaginez un petit site avec un domaine cible. Le job s'exécute chaque lundi, écrit un fichier, et ne fait rien d'autre jusqu'au premier du mois. Cela s'aligne avec le rafraîchissement. L'utilisation des crédits reste stable.

Le premier lundi de chaque mois est le jour de la comparaison. Ouvrez les deux fichiers les plus récents, comptez les domaines nouveaux et disparus, et écrivez une ligne dans vos notes. Dix minutes suffisent généralement. Ces notes deviennent une histoire que vous pouvez croire.

Gardez la comparaison au même endroit chaque mois, pour que l'histoire se lise comme une seule ligne.

Que faire avec un pic

Une saute soudaine de nouvelles lignes après un rafraîchissement est normale, car l'index peut rattraper plusieurs semaines d'un coup. Lisez un échantillon des nouveaux domaines avant de décider s'il s'agit d'une campagne ou d'un problème.

Si le pic est un domaine avec des centaines de lignes, cherchez un modèle ou un widget avant de le lire comme une campagne.

Que faire avec un mois calme

Un mois plat est souvent juste un mois plat. Vérifiez que le job a tourné et a écrit un fichier, car un job qui s'est arrêté silencieusement ressemble exactement à un index calme.

Questions sur le temps réel, répondues

Les mêmes quelques questions reviennent chaque fois qu'un planning est configuré pour la première fois.

Existe-t-il un vérificateur de backlinks véritablement en temps réel ?

Pas un qui couvre tout le web. Tout outil qui promet du temps réel décrit un crawler avec un délai, et le délai est la partie à questionner. Le nôtre se rafraîchit environ une fois par mois, et la page le dit.

À quelle fréquence un script doit-il appeler l'API ?

Hebdomadaire suffit pour un pull et mensuel pour comparer les tendances. Sondage plus souvent coûte des crédits et retourne les mêmes lignes jusqu'au rafraîchissement de l'index.

Pourquoi un autre outil peut-il montrer un lien que mon API ne montre pas ?

Chaque index crawl une tranche différente du web selon son propre calendrier. Un lien peut atteindre un index avant un autre, donc comparez les tendances au sein d'une seule source plutôt qu'entre deux.

Puis-je recevoir un email quand un nouveau lien apparaît ?

Seulement si votre job en envoie un. Un script planifié peut comparer deux tirages datés et poster les nouveaux domaines par email ou chat. Gardez les alertes de panne aussi, pour qu'une rupture silencieuse ne passe pas inaperçue.

Un retry dépense-t-il deux fois des crédits ?

Un retry après un timeout peut dépenser un deuxième appel, c'est pourquoi le wrapper ci-dessus s'arrête sur 401 et 402 et attend entre les essais. Lisez _credits avant et après chaque run pour voir ce que le job coûte réellement.

Coût de l'habitude

Sondage des refdomains d'un domaine toutes les heures, c'est 24 appels par jour à 2 crédits chacun, soit 48 crédits ou 0,0048 $ par jour. Pas cher en argent, inutile en information. Hebdomadaire coûte un septième d'un sondage quotidien et montre la même chose.