एक्सपेरिमेंट की रिपोर्ट

एक्सपेरिमेंट की रिपोर्टिंग के दो मुख्य तरीके हैं:

  • एक्सपेरिमेंट की सीधे तौर पर रिपोर्टिंग: मेट्रिक के लिए, experiment संसाधन के बारे में क्वेरी करें. इस विकल्प से, कंट्रोल और ट्रीटमेंट ग्रुप की मेट्रिक, एक ही जवाब में मिलती हैं. साथ ही, आंकड़ों की तुलना करने वाला डेटा भी मिलता है. जैसे, लिफ़्ट और p-वैल्यू. एक ही कैंपेन में किए जाने वाले एक्सपेरिमेंट की रिपोर्टिंग करने का यही तरीका है.
  • कैंपेन की रिपोर्टिंग: मेट्रिक के लिए, campaign संसाधन के बारे में क्वेरी करें. साथ ही, बेस और एक्सपेरिमेंट कैंपेन के बीच अंतर करने के लिए, campaign.experiment_type का इस्तेमाल करें. यह विकल्प सिर्फ़ उन एक्सपेरिमेंट के लिए उपलब्ध है जिनमें कंट्रोल और ट्रीटमेंट कैंपेन अलग-अलग होते हैं. जैसे, सिस्टम से मैनेज किए जाने वाले एक्सपेरिमेंट.

इस गाइड में, सीधे तौर पर एक्सपेरिमेंट की रिपोर्टिंग पर फ़ोकस किया गया है. यह सुविधा, रिपोर्टिंग की सुविधा देने वाले सभी तरह के एक्सपेरिमेंट के साथ काम करती है.

एक्सपेरिमेंट की सीधे तौर पर रिपोर्टिंग

परफ़ॉर्मेंस की मेट्रिक और कंट्रोल और ट्रीटमेंट ग्रुप के बीच आंकड़ों की तुलना करने के लिए, सीधे तौर पर experiment संसाधन के बारे में क्वेरी की जा सकती है.

मेट्रिक और आंकड़ों का महत्व

क्लिक, इंप्रेशन, लागत, कन्वर्ज़न, और कन्वर्ज़न वैल्यू जैसी मुख्य मेट्रिक के लिए, experiment संसाधन एक ही लाइन में ट्रीटमेंट मेट्रिक (उदाहरण के लिए, metrics.clicks) और कंट्रोल मेट्रिक (उदाहरण के लिए, metrics.control_clicks) दोनों उपलब्ध कराता है.

यह फ़ील्ड भी उपलब्ध कराता है, ताकि ग्रुप के बीच के अंतर के आंकड़ों के महत्व का आकलन किया जा सके:

  • metrics.*_p_value: यह संभावना कि अगर एक्सपेरिमेंट का मेट्रिक पर कोई असर नहीं पड़ता, तो भी नतीजे दिखेंगे. p-वैल्यू कम होने का मतलब है कि आंकड़ों का महत्व ज़्यादा है.
  • metrics.*_point_estimate: कंट्रोल ग्रुप की तुलना में, ट्रीटमेंट ग्रुप के लिए दी गई मेट्रिक में अनुमानित प्रतिशत लिफ़्ट (पॉज़िटिव या नेगेटिव). ये दोनों, margin_of_error के साथ मिलकर, अनुमानित अंतर के लिए तय कॉन्फ़िडेंस लेवल के साथ कॉन्फ़िडेंस इंटरवल के बारे में बताते हैं. अनुमानित संख्या (ट्रीटमेंट / कंट्रोल - 1) है. पॉइंट एस्टिमेट, कॉन्फ़िडेंस इंटरवल का सेंटर होता है.
  • metrics.*_margin_of_error: कॉन्फ़िडेंस इंटरवल का रेडियस, जो point_estimate पर केंद्रित होता है. इसे तय कॉन्फ़िडेंस लेवल के लिए कैलकुलेट किया जाता है. यह एक्सपेरिमेंट के टाइप पर निर्भर करता है.

experiment संसाधन पर, मुख्य मेट्रिक के ये फ़ील्ड काम करते हैं. इनमें ट्रीटमेंट ग्रुप की वैल्यू, कंट्रोल ग्रुप की वैल्यू, और पहले बताई गई स्टैट फ़ील्ड शामिल हैं:

  • clicks
  • impressions
  • cost_micros
  • conversions
  • cost_per_conversion
  • conversion_value
  • conversion_value_per_cost

खास तौर पर, कन्वर्ज़न के लिए, स्टैट फ़ील्ड, रिलेटिव वैल्यू के तौर पर नहीं, बल्कि absolute_change के इन फ़ील्ड के ज़रिए उपलब्ध हैं:

  • metrics.conversions_absolute_change_p_value: इस बात की p-वैल्यू कि एक्सपेरिमेंट का कन्वर्ज़न में होने वाले ऐब्सलूट बदलाव पर कोई असर नहीं पड़ता. इसकी वैल्यू 0 से 1 तक होती है.
  • metrics.conversions_absolute_change_point_estimate: एक्सपेरिमेंट के कन्वर्ज़न में होने वाले ऐब्सलूट बदलाव पर पड़ने वाले असर का अनुमान लगाते समय, पॉइंट एस्टिमेट.
  • metrics.conversions_absolute_change_margin_of_error: एक्सपेरिमेंट के कन्वर्ज़न में होने वाले ऐब्सलूट बदलाव पर पड़ने वाले असर का अनुमान लगाते समय, मार्जिन ऑफ़ एरर.

experiment संसाधन के लिए मान्य क्वेरी बनाने में मदद पाने के लिए, Google Ads क्वेरी बिल्डर टूल का इस्तेमाल करें.

उदाहरण के तौर पर दी गई क्वेरी

यहां दी गई GAQL क्वेरी, किसी एक्सपेरिमेंट के लिए मुख्य मेट्रिक वापस लाती है:

SELECT
  experiment.experiment_id,
  experiment.name,
  experiment.type,
  metrics.clicks,
  metrics.control_clicks,
  metrics.clicks_point_estimate,
  metrics.clicks_margin_of_error,
  metrics.clicks_p_value,
  metrics.conversions,
  metrics.control_conversions,
  metrics.conversions_absolute_change_point_estimate,
  metrics.conversions_absolute_change_margin_of_error,
  metrics.conversions_absolute_change_p_value
FROM experiment
WHERE experiment.experiment_id = EXPERIMENT_ID

नतीजे समझना

यह तय करने के लिए कि आपके एक्सपेरिमेंट से आंकड़ों के लिहाज़ से अहम नतीजे मिले हैं या नहीं, p-वैल्यू, पॉइंट एस्टिमेट, और मार्जिन ऑफ़ एरर फ़ील्ड का इस्तेमाल किया जा सकता है. उदाहरण के लिए, अगर conversions_absolute_change_p_value चुने गए थ्रेशोल्ड से कम है (उदाहरण के लिए, 95% कॉन्फ़िडेंस के लिए 0.05) और conversions_absolute_change_point_estimate - conversions_absolute_change_margin_of_error की वैल्यू शून्य से ज़्यादा है, तो इसका मतलब है कि कन्वर्ज़न के मामले में, ट्रीटमेंट ग्रुप, कंट्रोल ग्रुप से बेहतर परफ़ॉर्म कर रहा है.

यहां Python का एक स्निपेट दिया गया है, जो p-वैल्यू और लिफ़्ट के अनुमानों के आधार पर नतीजों का आकलन करने का तरीका दिखाता है:

Java

This example is not yet available in Java; you can take a look at the other languages.

C#

This example is not yet available in C#; you can take a look at the other languages.

PHP

This example is not yet available in PHP; you can take a look at the other languages.

Python

def evaluate_experiment(
    client: GoogleAdsClient, customer_id: str, row: GoogleAdsRow
) -> None:
    """Evaluates the performance of the experiment.

    Args:
        client: an initialized GoogleAdsClient instance.
        customer_id: a client customer ID.
        row: a GoogleAdsRow containing the experiment arm and metrics.
    """
    metrics = row.metrics
    experiment_resource_name = row.experiment.resource_name

    # 1. Evaluate conversion success as a primary success signal.
    # - Point Estimate: Represents the estimated average lift or difference in conversions.
    # - Margin of Error: Outlines the confidence interval bounds. Note that the margin_of_error provided by the API is calculated for a preset confidence level which is set based on the experiment type.
    # - Lower Bound: (Point Estimate - Margin of Error). If this value is above 0,
    #   we have statistical significance that performance has improved.
    conv_p_value = metrics.conversions_absolute_change_p_value
    conv_lift = metrics.conversions_absolute_change_point_estimate
    conv_error = metrics.conversions_absolute_change_margin_of_error
    conv_lower_bound = conv_lift - conv_error

    if conv_p_value <= P_VALUE_THRESHOLD:
        if conv_lower_bound > 0:
            print(
                "Significant Success: Conversions increased. Even at the lower"
                f" bound, the lift is {conv_lower_bound:.2f}. Promoting"
                " changes."
            )
            promote_experiment(client, customer_id, experiment_resource_name)
            return
        elif (conv_lift + conv_error) < 0:
            print(
                "Significant Decline: Even the upper bound"
                f" ({conv_lift + conv_error:.2f}) is below zero. Ending"
                " experiment."
            )
            end_experiment(client, customer_id, experiment_resource_name)
            return

    # 2. Evaluate click volume as a secondary signal.
    # This is helpful as an early indicator or for lower-volume accounts.
    click_p_value = metrics.clicks_p_value
    click_lift = metrics.clicks_point_estimate
    click_error = metrics.clicks_margin_of_error
    click_lower_bound = click_lift - click_error

    if click_p_value <= P_VALUE_THRESHOLD and click_lower_bound > 0:
        # We have a directional winner: high confidence in more traffic,
        # but not enough data to confirm conversion impact yet.
        print(
            f"Click volume is significantly up (+{click_lift*100:.1f}%). "
            "Graduating treatment for further manual analysis."
        )

        # Graduate if it's a separate campaign test.
        # This keeps the high-volume treatment running independently.
        # Intra-campaign experiments (like ADOPT_BROAD_MATCH_KEYWORDS and
        # ADOPT_AI_MAX) run directly within the base campaign, meaning there is only
        # a single campaign involved and no separate treatment campaign to graduate.
        # Therefore, graduation is not supported for intra-campaign experiments.
        experiment_type_name = row.experiment.type_.name
        if (
            experiment_type_name != "ADOPT_BROAD_MATCH_KEYWORDS"
            and experiment_type_name != "ADOPT_AI_MAX"
        ):
            graduate_experiment(client, customer_id, experiment_resource_name)
        else:
            print(
                "Intra-campaign trial detected: Graduation is not supported"
                " because there is only one campaign. Continuing to run to"
                " gather more conversion data."
            )
    else:
        # Both conversions and clicks are noisy.
        print(
            "Inconclusive: No significant lift in Conversions"
            f" (p={conv_p_value:.2f}) or Clicks (p={click_p_value:.2f})."
            f" Current estimated lift: {conv_lift:.2f} +/- {conv_error:.2f}."
            " Continue running."
        )

Ruby

This example is not yet available in Ruby; you can take a look at the other languages.

Perl

This example is not yet available in Perl; you can take a look at the other languages.

curl

कैंपेन की रिपोर्टिंग के मुकाबले फ़ायदे

कैंपेन की रिपोर्ट के लिए अलग-अलग क्वेरी करने के मुकाबले, सीधे तौर पर एक्सपेरिमेंट की रिपोर्टिंग के कई फ़ायदे हैं:

  1. एक जगह पर मेट्रिक: कंट्रोल और ट्रीटमेंट के लिए मेट्रिक, एक ही लाइन में वापस पाएं.
  2. आंकड़ों के कॉन्फ़िडेंस का डेटा: कैलकुलेट की गई p-वैल्यू, पॉइंट एस्टिमेट, और मार्जिन ऑफ़ एरर उपलब्ध कराता है.
  3. एफ़िशिएंसी: कई रिपोर्ट के नतीजों को मैन्युअल तरीके से जोड़ने या उनकी तुलना करने की ज़रूरत नहीं होती.
  4. एक ही कैंपेन में किए जाने वाले एक्सपेरिमेंट के लिए सहायता: एक ही कैंपेन में किए जाने वाले एक्सपेरिमेंट के लिए, कंट्रोल और ट्रीटमेंट की तुलना करने का यही तरीका है. इनमें ट्रैफ़िक को एक ही कैंपेन में बांटा जाता है.

कैंपेन की रिपोर्टिंग

ऐसे एक्सपेरिमेंट जिनके लिए अलग-अलग ट्रीटमेंट कैंपेन बनाए जाते हैं (उदाहरण के लिए, SEARCH_CUSTOM), उनके लिए campaign संसाधन के बारे में क्वेरी की जा सकती है. साथ ही, campaign.experiment_type का इस्तेमाल करके, BASE (कंट्रोल) और EXPERIMENT (ट्रीटमेंट) कैंपेन की पहचान की जा सकती है. अगर आपको मेट्रिक को ज़्यादा जानकारी वाले लेवल पर सेगमेंट करना है (उदाहरण के लिए, विज्ञापन ग्रुप या कीवर्ड के हिसाब से) या कैंपेन का ऐसा मेटाडेटा देखना है जो experiment संसाधन पर उपलब्ध नहीं है, तो यह तरीका काम का है. हालांकि, इसके लिए आपको परफ़ॉर्मेंस की तुलना और आंकड़ों की कैलकुलेशन मैन्युअल तरीके से करनी होगी.

एक ही कैंपेन में किए जाने वाले एक्सपेरिमेंट के लिए, कैंपेन-लेवल की रिपोर्टिंग का इस्तेमाल करके, ग्रुप की तुलना नहीं की जा सकती. ऐसा इसलिए, क्योंकि ट्रैफ़िक का बंटवारा, एक ही कैंपेन में अंदरूनी तौर पर होता है. एक ही कैंपेन में किए जाने वाले एक्सपेरिमेंट के लिए, campaign के बारे में क्वेरी करने पर, सिर्फ़ एग्रीगेट किए गए कुल नतीजे मिलते हैं.

सबसे सही तरीके

  • सही कॉन्फ़िडेंस लेवल चुनें: p-वैल्यू का थ्रेशोल्ड कम सेट करने से, दिशा दिखाने वाली गाइडेंस तेज़ी से मिल सकती है. खास तौर पर, कम बजट या कन्वर्ज़न वॉल्यूम के साथ. 95% कॉन्फ़िडेंस (p-वैल्यू <= 0.05) को, शिक्षा के क्षेत्र में स्टैंडर्ड माना जाता है. यह लंबे समय में ज़्यादा सटीक नतीजे पाने के लिए बेहतर हो सकता है.
  • एक्सपेरिमेंट को काफ़ी समय तक चलाएं: एक्सपेरिमेंट को कम से कम चार हफ़्तों तक चलाएं, ताकि हफ़्ते के हिसाब से परफ़ॉर्मेंस के साइकल, कन्वर्ज़न में होने वाली देरी, और लर्निंग पीरियड को ध्यान में रखा जा सके.
  • रैंप-अप के लिए समय दें: ऑटोमेटेड बिडिंग का इस्तेमाल करने वाले कैंपेन या नई सुविधाओं की जांच करने वाले कैंपेन के लिए, पहले एक से दो हफ़्तों के डेटा को अनदेखा करें. इससे बिडिंग मॉडल और ट्रैफ़िक लेवल को बंटवारे के हिसाब से फिर से कैलिब्रेट करने के लिए समय मिल जाता है.
  • 50/50 बंटवारे का इस्तेमाल करें: आम तौर पर, 50/50 ट्रैफ़िक बंटवारा, आंकड़ों के लिहाज़ से अहम नतीजे पाने का सबसे तेज़ तरीका है.
  • पहले से शेड्यूल करें: विज्ञापन की समीक्षा और मंज़ूरी की प्रोसेस के लिए समय देने के लिए, एक्सपेरिमेंट की शुरू होने की तारीख को तीन से सात दिन बाद के लिए सेट करें.
  • किसी भी कैंपेन के लिए, एक समय पर सिर्फ़ एक एक्सपेरिमेंट चलाया जा सकता है.
पीछे जाएं
ऐसेट ऑप्टिमाइज़ेशन एक्सपेरिमेंट
आगे बढ़ें
एसिंक्रोनस गड़बड़ियां