Groupe témoin (bêta fermée )

Qu’est-ce qu’un groupe témoin ?

Un groupe témoin est très utile pour mesurer la performance d’une campagne. Un groupe témoin est un petit groupe d’utilisateurs (un pourcentage d’utilisateurs des segments associés) qui est volontairement non exposé à une publicité ou à un email afin de mesurer la différence en termes d’engagement ou de conversion entre la population non exposée (groupe témoin) et la population exposée (utilisateurs des segments associés).

Dans notre cas, nous ne prenons pour l’instant en compte que les conversions (achats en ligne et hors ligne).

Comment ça fonctionne ?

Un groupe témoin se configure sur un stream (menu de partage). Cochez la case « Set control group » pour activer la possibilité de configurer un groupe témoin.

Indiquez le % d’utilisateurs que vous souhaitez définir pour votre groupe témoin : ces utilisateurs ne seront pas poussés sur le stream (et ne seront donc pas exposés à la campagne).

10 % est généralement suffisant pour obtenir des métriques statistiquement significatives ; toutefois, pour les segments très petits, il est recommandé de doubler ce %.

Dès que vous lancez le stream, le groupe témoin sera également lancé et les résultats seront enregistrés.

****⚠️ Limitations

• Attention à la modification des streams avec un groupe témoin actif, car cela impacte les résultats sur le dashboard de performance de la campagne. Même chose pour les segments utilisés dans un stream avec un groupe témoin actif : si vous modifiez une condition, cela impacte l’ensemble des résultats.

• Lorsqu’un stream est terminé, vous ne pouvez pas le relancer ; vous devez le dupliquer

Comment puis-je lire les résultats ?

Lorsqu’un stream avec un groupe témoin est activé, une icône apparaîtra à droite du nom du stream sur la page de la liste des streams.

Cliquez sur cette icône pour accéder à la partie analytics.

Commencez par sélectionner la période d’analyse : vous pouvez choisir par exemple de consulter les résultats sur les 3 derniers jours ou la semaine dernière.

Toutes les données seront liées à cette période d’analyse.

Définition de chaque métrique :

Population totale: nombre d’utilisateurs dans les segments sélectionnés sur le stream. Cela équivaut à Audience activée + Groupe témoin.

Audience activée: nombre d’utilisateurs qui ont été poussés sur le stream (et exposés à la campagne). Cela équivaut à Segments associés – groupe témoin.

Groupe témoin: nombre d’utilisateurs dans le groupe témoin ; cela représente le % d’utilisateurs sélectionnés pour faire partie du groupe témoin et ne pas être exposés à la campagne. Cela équivaut à Segments associés – audience activée.

---

Cartes

Vous trouverez ici quelques métriques liées aux conversions.

Nous comparons la performance entre les utilisateurs exposés et non exposés en termes de conversions (achats en ligne et hors ligne).

En détail :

Revenu incrémental

Le revenu incrémental représente l’impact de la campagne sur votre chiffre d’affaires.

Tout commence par une supposition : si nous considérons l’ensemble de la population dans le groupe témoin, quelles sont les performances et quel est le revenu incrémental généré par la campagne ?

Ce revenu incrémental peut être positif ou négatif, et il représente la performance et l’impact de la campagne.

Plus en détail, nous considérons l’ensemble de la population d’utilisateurs (= Audience activée + utilisateurs du groupe témoin) et nous appliquons les résultats du groupe témoin pour le taux de conversion et le montant moyen du panier à tous ces utilisateurs : \\

Ensuite, nous pouvons facilement comparer le revenu généré par l’audience activée et le revenu simulé généré par la population totale comme groupe témoin, et voir si le revenu incrémental est négatif ou positif.

Formule :

Revenu incrémental = (revenu généré par l’audience activée + revenu généré par le groupe témoin) - (revenu simulé généré par la population totale comme groupe témoin)

Taux de conversion

Pour chaque population, nous calculons ici le taux de conversion sur la période sélectionnée.

Formule :

Taux de conversion = nombre de conversions ÷ nombre d’utilisateurs

(nous comparons le taux de conversion calculé pour la population « audience activée » et pour la population « groupe témoin »)

Uplift (% de différence du taux de conversion)

Il représente l’impact de la campagne. Comme nous comparons les utilisateurs de l’audience activée et les utilisateurs du groupe témoin, nous devons déterminer l’impact de la campagne en termes de conversions.

Si l’uplift est faible ou négatif, cela signifie que les utilisateurs du groupe témoin obtiennent de bons résultats sans exposition à la campagne et que la campagne n’est donc pas aussi efficace qu’elle devrait l’être.

À l’inverse, si l’uplift est élevé, cela signifie que la campagne surperforme, car les utilisateurs exposés à la campagne convertissent davantage que les utilisateurs du groupe témoin ; l’impact sur les achats est très positif.

Formule :

Uplift = ((taux de conversion « audience activée » - taux de conversion « groupe témoin ») ÷ taux de conversion « audience activée ») x 100

Revenu moyen par utilisateur (ARPU)

Nous comparons ici le revenu par utilisateur pour chaque population (audience activée et groupe témoin).

Formule :

Revenu moyen par utilisateur (ARPU) = revenu total ÷ nombre d’utilisateurs

(nous comparons l’ARPU calculé pour la population « audience activée » et pour la population « groupe témoin »)

Montant moyen du panier

Nous comparons ici le montant moyen du panier pour chaque population.

Formule :

Montant moyen du panier = revenu total ÷ nombre de conversions

(nous comparons le montant moyen du panier calculé pour la population « audience activée » et pour la population « groupe témoin »)

Graphiques

Évolution du taux de conversion

Vous pouvez voir ici l’évolution du taux de conversion jour après jour pour les deux populations : l’audience activée et le groupe témoin.

Ce graphique est cumulatif afin de mieux refléter l’impact en termes d’utilisateurs, d’exposition et de conversions ; cela signifie que les conversions sont ajoutées chaque jour.

Radar

Vous pouvez visualiser directement ici la comparaison entre les deux populations (audience activée et groupe témoin) pour les métriques suivantes : ARPU (Average Revenue Per User) ; montant moyen du panier ; taux de conversion. Cela vous permet d’analyser rapidement quelles métriques sont les plus impactantes et pertinentes pour comparer les populations.

Métriques

Vous avez ici un résumé de toutes les métriques nécessaires pour comparer les populations, comme le nombre d’utilisateurs et le nombre de conversions (nécessaires pour calculer le taux de conversion, par exemple). Le chiffre d’affaires est basé sur total_final_conversion_amount, ce qui signifie qu’il peut évoluer en fonction, par exemple, des retours de produits.

Puis-je exporter le groupe témoin ?

Oui, vous pouvez sélectionner un export (email, S3 ou FTP par exemple) et sélectionner l’univers « campaign » :

Vous pouvez sélectionner 1 segment ou choisir « all users » et exporter les variables suivantes :

• Groupe témoin : l’utilisateur appartient-il au groupe témoin ? Vrai / Faux

• Nombre d’expositions : nombre d’expositions à la campagne pour un utilisateur = nombre de fois qu’un utilisateur est entré dans un segment et a été transmis via le connecteur

• Première exposition : date de la première exposition

• Dernière exposition : date de la dernière exposition

• ID du stream : ID du stream pour lequel le groupe témoin a été activé