Les tests d'incrémentalité mesurent le résultat commercial supplémentaire généré par une action marketing, par opposition au résultat qui lui est simplement associé. La méthode est expérimentale : un groupe sélectionné aléatoirement est exclu de l'action, et la différence de résultats entre les groupes exposés et exclus représente l'effet incrémental. Tous les autres indicateurs, y compris les conversions rapportées par la plateforme et les modèles d'attribution, décrivent une corrélation entre l'exposition et le résultat, et non une relation de cause à effet.
Le problème que cette méthode résout est que l'attribution surestime systématiquement les performances des actions ciblant des personnes déjà prêtes à convertir. La publicité de marque sur les moteurs de recherche en est l'exemple type : elle affiche de fortes performances car les personnes recherchant une marque ont une forte intention d'achat, mais une partie de ces clics seraient arrivés via les résultats organiques, sans aucun coût. Le même raisonnement s'applique au reciblage, à la prospection d'audiences issues de clients existants et à tout canal permettant d'atteindre des personnes proches de l'achat. Le retour sur investissement publicitaire affiché peut être excellent alors que le retour sur investissement incrémental est quasi nul.
Plusieurs modèles sont utilisés selon les éléments randomisables. Les études de validation géographique divisent les marchés en régions appariées, en menant des actions dans certaines et pas dans d'autres, ce qui convient aux canaux non ciblables individuellement. Les études de validation au niveau de l'audience excluent un pourcentage aléatoire de l'audience adressable, ce qui convient aux campagnes e-mail, au reciblage et aux plateformes prenant en charge les listes d'exclusion. Les études d'impact sur les conversions de plateforme randomisent au niveau des enchères, mais dépendent de la plateforme pour la réalisation et le compte rendu de leur analyse. Les études de validation croisée alternent l'exposition dans le temps au sein d'un même marché, ce qui convient aux activités non segmentables par audience.
La fiabilité des résultats dépend des détails de conception. La contamination, lorsque le groupe témoin est atteint malgré tout par un autre canal ou par débordement entre régions, biaise la mesure vers zéro. Une échelle insuffisante produit des intervalles si larges que le test ne permet pas de distinguer un effet substantiel d'une absence d'effet, et les tests d'incrémentalité nécessitent généralement un volume plus important que prévu, car les effets mesurés sont plus faibles que ne le suggèrent les coefficients de corrélation. La fenêtre de mesure doit être suffisamment longue pour prendre en compte les conversions différées, et les tests à fenêtre courte sous-estiment systématiquement les effets sur les achats envisagés.
La difficulté organisationnelle est plus importante que la difficulté méthodologique. Les tests d'incrémentalité montrent fréquemment que les canaux affichant d'excellentes performances contribuent en réalité bien moins qu'on ne le pensait, ce qui menace les budgets, les relations avec les agences et la réputation interne de la personne ayant justifié les dépenses. S'engager dans le test avant d'en connaître le résultat, convenir à l'avance de la décision que chaque résultat déclenchera et mener l'analyse avec des personnes n'ayant aucun intérêt direct dans les conclusions sont autant de moyens d'éviter que celles-ci ne soient remises en cause ultérieurement.
La conception des tests doit tenir compte du fait que l'incrémentalité varie selon l'audience et le contexte, et n'est pas une caractéristique unique d'un canal. Une publicité largement redondante pour les clients existants qui reviendraient de toute façon peut s'avérer réellement incrémentale pour les prospects n'ayant jamais été exposés à la marque, et un résultat composite unique masque ces deux aspects. Lorsque le volume le permet, l'exécution du test au sein de segments définis fournit des résultats bien plus exploitables qu'une moyenne par canal, car la décision qui en découle ne porte généralement pas sur l'arrêt d'un canal, mais sur les audiences au sein de ce canal pour lesquelles il convient de continuer à investir. C'est également pourquoi les résultats d'une période doivent être réévalués périodiquement, car l'incrémentalité évolue en fonction de la notoriété de la marque, de l'activité concurrentielle et de la saturation de l'audience.
Étant donné que les résultats déterminent directement la répartition du budget, ce travail se situe à l'intersection de la mesure et de la planification. La conception et l'analyse expérimentales sont généralement assurées par Analyse des données, l'exécution par services de marketing, et les décisions de réaffectation par gestion de la croissance, car la valeur du test ne se concrétise que lorsque les dépenses évoluent effectivement en fonction des résultats obtenus.