A/B Testing を使用した Address Validation の影響の測定

このドキュメントでは、Google Maps Platform の Place Autocomplete API と Address Validation API のA/B テストを実施する際に検討すべき手法について説明します。

Place Autocomplete API と Address Validation API を使用するメリットは次のとおりです。

  • カスタマー エクスペリエンスの向上: 住所や場所をリアルタイムで提案することで、購入手続きをより迅速かつ簡単に完了できます。これにより、カスタマー エクスペリエンスの向上につながります。
  • データの精度の向上: Place Autocomplete と Address Validation API を使用すると、顧客データの精度を高めることができます。これは e コマースでは特に重要です。荷物を配送するには正確な住所データが必要となるからです。

住所の品質を改善するには、A/B テストを実施して、ニーズに最も適した検証ソリューションを評価します。これにより、ユースケースに最適なプロダクトを定量的に決定できます。

A/B テストは、ウェブページやアプリの 2 つのバージョンを比較する方法です。変数の変更が測定可能な結果に与える影響を判断するために使用される、一種のコントロール テストです。
A/B テストを実施するには、ページまたはアプリの 2 つのバージョンを作成します。1 つはコントロールとして、もう 1 つは測定可能な変更を加えたものです。その後、これらのバージョンをさまざまなユーザーに表示し、ユーザーがどのように反応するかを測定します。パフォーマンスが優れたバージョンが勝者となります。

システム アーキテクチャの概要

e コマースのユースケースで住所確認の A/B テストを行う方法を見てみましょう。次のアーキテクチャ図は、ユーザーがコマース エクスペリエンスとどのようにやり取りするかを示しています。これにより、より効果的な検証戦略を決定できます。

[システム コンテキスト] 住所確認の A/B テスト

Address Validation API の値を A/B テストする際に関与するシステム。

このアーキテクチャ図は、e コマース ウェブサイトで A/B テストシステムを操作している顧客を示しています。このシステムは、e コマース ストアのソフトウェア システムから、ユーザーに表示するテスト変数を決定します。e コマース ショップが Google Maps Platform ソフトウェア システムに対して API 呼び出しを行います。また、A/B テストの分析情報を収集し、分析ソフトウェア システムで処理して A/B テスト システムに報告します。

A/B テストのプロセス

A/B テスト全体のプロセスを考える場合、考慮すべき段階は 4 つあります。

  • 準備 - テストの要件、範囲、タイムスケールを特定します。
  • ビルド - テストを実行する環境に Place Autocomplete API と Address Validation API を実装します。
  • 実行 - 有意な結果が得られるか、時間が経過するまで、テストの実行中に指標を収集します。
  • 分析 - 結果を仮説と比較し、次のステップを特定します。

それぞれについて順番に説明します。

準備

A/B テストの要件の決定

初期検出

住所検証プロバイダを追加または変更する理由を自問します。たとえば、Google マップのプレイス オートコンプリートを使用すると、次のように指定できます。

  • 時間の節約: 場所の名前を入力し始めると候補が表示されるため、場所の名前全体を入力する必要はありません。
  • エラーを減らす: 場所の名前を間違って入力しても、Google マップの場所の自動入力機能によって正しい場所が候補として表示されます。

検証に対処すると、次のような多くのメリットがあります。

  • 配達率の向上: 住所の検証により、郵便物や荷物が正しい住所に送付されるため、配達率の向上につながります。これにより、ビジネスの時間と費用を節約し、顧客満足度を向上させることができます。
  • データ品質の向上: 住所の検証は、住所のエラーを特定して修正することで、データ品質の向上に役立ちます。これにより、マーケティング キャンペーンやその他のデータドリブンな取り組みの精度を高めることができます。

仮説の決定

テストする仮説を決定する。例を 2 つ紹介します。

1. コンバージョン率

入力補完ソリューションを追加すると、通常はコンバージョン率が若干上昇します。これは追跡に適した指標です。別のプロバイダから入力候補ソリューションを変更する場合、コンバージョン率は横ばいになると考えられます。コンバージョン率が低下した場合は、まず実装を確認します。

コンバージョン率は重要ですが、全体像をつかむことはできません。住所確認ソリューションを追加することは、ユーザーが住所を入力する際に質の低い住所を送信しないようにすることを目的としています。また、状況によっては取得に対処する際に多少の負担がかかる場合があります。これにより全体的なコンバージョン率が低下する可能性がありますが、必ずしも悪いわけではありません。住所確認機能の追加により未完了の注文が住所データの質が低いため、配送料のチャージバックによりビジネスに損害が生じている可能性があります。

2. 品質の低い住所の削減

このような場合、優れた住所検証ソリューションが力を発揮します。住所検証を実装することで、品質の低い住所データが削減されるはずです。

新しいソリューションと既存のソリューションを比較する場合は、「正しい住所」の一致率を比較して、一致率が高いサービスを選びたくなるかもしれません。これは、一方のサービスがもう一方のサービスよりも誤検出の数が多いため、混乱を招く可能性があります。

その代わり、より効果的な指標は、住所データを使用した場合の成果を比べることです。e コマースを例にとると、住所を取得することで期待される結果は、最終的に荷物の配送に成功することです。

構築

ここからが面白いところです。お客様のために新しいソリューションを構築する時です。e コマースの購入手続きに Place AutocompleteAddress Validation API を実装するための便利なガイドがすでに用意されています。この手順を行う際に、この点を確認することをおすすめします。

特に、Address Validation API の出力から住所の品質を判断するガイダンスなど、e コマース専用に構築していない場合でも、多くの情報が関連しています。

アーキテクチャ図

e コマース環境で A/B テストを構築するために使用できるコンテナの例を次に示します。

[実行環境] A/B Testing で住所確認を行う

アーキテクチャを支える重要なシステムの重要なアプリケーション、サービス、データストア。(クリックして拡大)

アーキテクチャ図は、A/B テスト ソフトウェア システムと e コマース アプリ ソフトウェア システムを構成するコンテナを示しています。ロードバランサとやり取りする e コマース ウェブサイトがユーザーに表示され、そこから e コマース ウェブサイトのアプリに誘導されます。A/B テスト マネージャーはロードバランサと通信して、ユーザーに表示する A/B テスト変数を選択します。この A/B テストシステムは、A/B テストの結果と構成を任意のデータベースに記録します。e コマース ウェブアプリは、Google マップ プラットフォーム ソフトウェア システムに対して API 呼び出しを行い、アナリティクス イベントをアナリティクス ソフトウェア システムに報告します。このシステムは、テストイベントを A/B テスト結果データベースに記録します。

実装を検証する

ソリューションが適切に実装されていないと、信頼できないテスト結果が得られます。A/B テストを実施する前に、少人数のユーザー グループでソリューションを検証し、想定どおりに機能することを確認することが重要です。内部 QA テスターや、建設的なフィードバックを提供できると信頼できる外部テスターのグループなどです。

実行

徐々に増やす

解決策が検証された場合でも、少数のユーザーから始めて、テストを徐々に拡大することをおすすめします。これにより、バグなどの問題を早期に発見し、多数のユーザーに影響を与えることなく迅速に対処できます。

完全なテスト

少人数のユーザー グループでソリューションをテストし、問題が解消されたら、完全な A/B テストを開始できます。必ずしもトラフィックを 50% ずつ分割する必要はありませんが、ランダムに選択された実際の使用状況のセットとサイズが同等である必要があります。

指標の取得

テストでは、仮説を裏付ける適切なデータが取り込まれていることを確認する必要があります。このプロセスで A/B テスト プラットフォームを使用すると、データの収集と後でのデータ分析が容易になります。Google Maps Platform では、役立つ API 使用状況の指標も収集されます。レポート ツールの使用方法について詳しくは、こちらのページをご覧ください。

推奨される指標は次のとおりです。

Place Autocomplete

コンバージョン率: フォームのコンバージョン率や完了率は、予測入力ソリューションを導入する前と比べて改善されましたか?
ツールの操作: 以前のソリューションと比較して、Place Autocomplete を正常に操作しているユーザーが増えていますか?

Address Validation

配達の成功: 住所の品質が原因で配達できなかった件数は減りましたか?
住所の変更: 配送業者からの住所変更に関する請求の件数が減少しましたか?
住宅と商業施設: 住宅と商業施設のデータの収集は改善されましたか?(一部の地域のみ

分析

テストが終了したので、元のテストの基準と仮説に照らして結果を分析します。A/B テスト プラットフォームを使用してプロセスを完了した場合は、一部の情報がすでに利用可能になっている可能性があります。

上記の品質の低い住所の削減セクションに戻ると、A/B テスト プラットフォームで収集されていない他の指標も使用できます。テストシナリオ間の配信失敗率などがこれに該当します。たとえば、次のようなデータを使用します。

ソリューション A 解決策 B
配達失敗 1.75% 1.23%

上の基本的な例を見ると、このユースケースにはソリューション B の方が適していることは明らかです。

まとめ

このガイドが、A/B テストの開始に役立つことを願っています。ここでは e コマース分野の例を取り上げましたが、同じ基本原則をあらゆるところに適用できます。ビジネスの住所データの質が高いことによる成果を特定し、それを主な仮説としてトラッキングします。

参考資料として、ガイドの中でも言及されているリンクを以下に記載します。

ぜひ Google のテスト ソリューションをご活用ください。

次のステップ

確実な住所で購入手続き、配送、オペレーションを改善する ホワイトペーパーをダウンロードし、Address Validation で購入手続き、配送、オペレーションを改善する ウェブセミナーをご覧ください。

関連情報:

寄稿者

主な作成者:

Henrik Valve | Google Maps Platform ソリューション エンジニア