指標を使用してエージェントのパフォーマンスをモニタリングする

リリースすると、ビジネス メッセージで主なパフォーマンス指標が追跡される 選択します指標にはビジネス アカウントからアクセスできます コミュニケーション デベロッパー コンソール BigQuery を使用します。

エージェントの成功を測るために追加の分析が必要な場合は、 カスタム指標を追跡するために 会話の履歴を確認できます。

指標にアクセスする

データポータルのレポートでパートナー レベルとエージェント レベルの指標にアクセスできる 。別の方法として、 エージェントの指標を参照するか、プログラムでアクセスします。

他のユーザーに指標へのアクセスを許可するには

  1. ユーザーとして追加する 関連付ける必要があります
  2. Business Communications 経由で指標にアクセスする方法を受講者に説明します。 BigQuery で管理できます

パートナー レベルの指標

パートナー レベルの指標には、管理しているすべてのエージェントのデータが表示されます。

  1. Business Communications Developer を開きます。 コンソール ビジネス メッセージの Google アカウントでログインします。
  2. [指標ダッシュボード] カードの下部にある [指標を表示] をクリックします。

エージェント レベルの指標

エージェント レベルの指標には、選択したエージェントに関するデータのみが表示されます。

  1. Business Communications Developer を開きます。 コンソール ビジネス メッセージの Google アカウントでログインします。
  2. エージェントを選択します。

    [指標ダッシュボード] カードに指標が表示されます。

より詳細な指標を表示するには、左側のナビゲーションで [アナリティクス] をクリックします。

BigQuery での指標

BigQuery はサーバーレスの ML と簡単なデータを使用した、スケーラブルで費用対効果に優れたデータ ウェアハウス アクセス、予測分析などですBigQuery のデータには、次のいずれかの方法で BigQuery UI または BigQuery API を使用します。BigQuery ドキュメントをご覧ください

BigQuery の指標データは 1 年半利用できます。

BigQuery でエージェント指標にアクセスするには、次の要件を満たしている必要があります。 要件:

BigQuery にアクセスできる場合は、 プロジェクト、データセット、ビューを以下に示します。

  • プロジェクト ID: bizcomms-bm-metrics
  • データセット: partner_metrics_user_viewspartner_metrics_sa_views
  • ビュー: message_metricssession_metricsquality_metricsintent_metrics

たとえば、message_metrics ビューからすべてのフィールドを表示するには、 次のクエリを実行します。

SELECT * FROM bizcomms-bm-metrics.partner_metrics_user_views.message_metrics

利用可能な指標

ビジネス メッセージでは、次の 4 つのカテゴリで指標が追跡されます。 MessageSessionQualityIntent の 3 つのカテゴリに分類できます。

次の項目はすべての指標カテゴリで共通です。

指標 定義 サンプル値
date セッションが作成された日付(UTC)。 2021-12-31
<ph type="x-smartling-placeholder"></ph>をご覧ください。 BigQuery の日付型
agent_id セッション情報が計算されているエージェントの ID。 12345678-9012-3456-789012345678
agent_name エージェントの名前。 Growing Tree Bank
brand_id エージェントが所属するブランドの ID。 12345678-9012-3456-789012345678
brand_name エージェントが所属するブランドの名前。 Growing Tree International
partner_id ブランドを表すパートナーの ID。 12345678-9012-3456-789012345678
partner_name ブランドを表すパートナーの名前。 XYZ Messaging

メッセージの指標

メッセージの指標は、特定の期間に配信されたメッセージの総数から できます。これらの指標には次の項目が含まれます。

指標 定義 サンプル値
message_sender メッセージの送信者。 USER,
AGENT
message_type メッセージのタイプ。 TEXT,
RICH_TEXT,
PHOTO,
RICH_CARD
representative_type このメッセージを送信した担当者のタイプ。メッセージの場合は空 検出します。 BOT,
HUMAN
total_messages 配信されたメッセージの合計数。 11

セッション指標

セッションとは、メッセージや会話など、インタラクションを期限付きでグループ化したものです。 予定を表示することもできます。セッションはメッセージが送信され、 は現在有効ではありません。セッションは次の場合に終了します。

  • 24 営業時間内はメッセージがない(人間のみ メッセージ機能の対応状況] (/business-communications/business-messages/guides/how-to/agents /availability)。「<」が24 営業時間内の場合、 代わりに 24 時間を使用してください)。
  • 30 分間はメッセージがない(bot のみのメッセージのエージェントの場合) 可用性
  • アンケートを送信したとき 適用することもできます。
  • ユーザーが会話を削除した
  • ユーザーがエージェントをブロックした場合

セッションの指標は、アクティブなセッションと 特定の日における検索数を表します。これらの指標には次の項目が含まれます。

指標 定義 サンプル値
session_initiator セッションを開始したユーザー。 USER,
AGENT
session_initiating_entry_point セッションを開始したエントリ ポイント。 EntryPointをご覧ください。
session_containment_type 会話における代表的なやり取りの種類。 「代理人なし」メッセージから「bot メッセージのみ」から「人間のエージェントへのメッセージ」へ ブロックすることもできます。 UNRESPONDED,
BOT_ONLY_CONVERSATION,
LIVE_AGENT_REQUEST_UNFULFILLED,
LIVE_AGENT_CONVERSATION,
CALL_INITIATED
has_agent_response セッションにエージェントからのレスポンスが 1 つ以上ある。 TRUE,
FALSE
has_live_agent_response セッションに人間のエージェントからのレスポンスが 1 つ以上ある。 TRUE,
FALSE
has_live_agent_request セッションには、ライブ対応のエージェント リクエストが 1 つ以上あります。 TRUE,
FALSE
session_depth_bucket セッション中にやり取りされたメッセージの数。 1,
2-3,
4-9,
10-24,
25-
survey_sent このセッションでアンケートが送信された場合。 TRUE,
FALSE
survey_responded お客様がアンケートに回答したかどうか。 TRUE,
FALSE
positive_survey_response アンケートの回答が肯定的な評価だった場合。次の場合にのみ意味がある: survey_respondedTRUE です。 TRUE,
FALSE
total_sessions セッションの合計数。 1000
average_session_depth セッション中に交換されたメッセージの平均数。 23.11

品質指標

品質の指標は、一定期間に完了した できます。これらの指標には次の項目が含まれます。

指標 定義 サンプル値
date_calculated 指標が計算された日(UTC)。 2021-12-31
<ph type="x-smartling-placeholder"></ph>をご覧ください。 BigQuery の日付型
state エージェントの現在の状態。 GOOD_STANDING,
REQUIRES_ATTENTION
survey_count アンケート スコアの計算に使用されたアンケートの数。もし 過去 7 日間のアンケート回答数が 10 未満だった場合、 過去 35 日間のアンケート(最大 9 件)が使用されます。それ以外の場合は、すべてのアンケート 過去 7 日間の回答が使用されます。 84
survey_score アンケートの肯定的な回答の割合。 値の範囲は 01 です。
session_count MRR の計算に使用されたセッションの数。ラベルが 3 つ未満の場合 過去 7 日間のセッション、次に最近のセッション(最大 9) 使用されますそれ以外の場合は、過去 7 日間のすべてのセッション 日が使用されます。 143
mrr 販売者のレスポンス率(MRR)。次のイベントが発生したセッションの数 応答(bot または Live Agent)の応答数と、 あります。 値の範囲は 01 です。
hmrr 人間の販売者レスポンス率(HMRR)。ユーザーが離脱した ライブ対応のエージェントから応答があったセッションを 1 つ以上の Live Agent リクエストまたは Live Agent 応答が含まれていました。 値の範囲は 01 です。
live_agent_request_count hmrr の計算に使用される人間のエージェント リクエストの数。条件 過去 7 日間にライブ対応のエージェント リクエストが 10 件未満であった場合、 過去 35 日間のライブ対応のエージェント リクエストのうち、直近 9 件が使用されます。 それ以外の場合は、過去 7 日間のエージェントのライブ対応リクエストがすべて使用されます。 42
suspension_date 品質が低いためにエージェントが停止される日付(UTC)。 ステータスが「REQUIRES_ATTENTION」のエージェントに対してのみ設定されます。 2021-12-31
<ph type="x-smartling-placeholder"></ph>をご覧ください。 BigQuery の日付型

インテントの指標

購入意向の指標では、機械学習を使用して、 できます。インテントの指標は、次のセッションが完了したセッションのユーザー メッセージから取得されます。 できます。英語でのみご利用いただけます。これらの指標には次の項目が含まれます。

指標 定義 サンプル値
intent セッション インテントのタイプ。 SALES_LEAD,
SERVICE
count 指定された intent タイプのセッションの数。 11

カスタム指標をトラッキングする

指標の設定が異なる場合や、より詳細な情報が必要な場合 独自の指標データを取得できます

以下のような指標を取得できます。

  • 顧客満足度。送信 アンケート ユーザー満足度の把握と追跡を行えますアンケートはカスタマイズできます 選択することをおすすめします。
  • Messages sent。エージェントが毎回詳細を取得する ユーザーがメッセージを送信したとき。
  • Messages received:エージェントが毎回詳細を取得する メッセージを受信します
  • エージェントの回答率。エージェントがユーザーに応答する頻度を把握する ブロックすることもできます。bot と人間のエージェントによる回答率の違いを追跡します。
  • エージェントの回答時間。エージェントが応答するまでにかかる時間を把握する ユーザー メッセージ。bot と人間のエージェントによる回答の違いを追跡する あります。
  • 配達領収書DELIVERED イベントをキャプチャします。
  • 既読通知READ イベントをキャプチャします。
  • ユーザー エンゲージメントIS_TYPING イベント(ユーザー数)をキャプチャします。 イベントと DELIVERED イベントまたは READ イベントとの間の時間差を 次のようなユーザーのレスポンスが返されます。
  • インタラクション タイプ。メッセージに対するユーザーの反応を特定する。使用 有意義なポストバック データを使用して、返信とアクションの候補を追跡し、 レスポンス形式を使用して、ユーザーが画像と書式なしテキスト メッセージのどちらを送信するかを識別できます。

指標を取得して、必要に応じて解析、整理できる 選択できます。

パフォーマンス モニタリングと停止のしきい値

エージェントのパフォーマンスを評価するため、ビジネス メッセージは複数の指標を追跡して、 優れたユーザーエクスペリエンスを提供できますエージェントが特定の指標を下回った場合 しきい値を超えると、エージェント ステータスのメールが毎週ビジネス メッセージから通知されます。もし エージェントがしきい値を下回る状態が 28 日間続くと、 できます。エージェントが停止されている場合は、停止状態を解消する エージェント

ビジネス メッセージでは、次の指標を使用してエージェントのパフォーマンスを追跡します。

指標 説明 ボリュームのしきい値 通常の音量しきい値 ボリュームのしきい値が低い
顧客満足度(CSAT) 顧客満足度スコアは 顧客から得られた情報です 10 件のアンケート 80% 0%
販売者のレスポンス率(MRR) エージェントの応答(bot または人間のエージェント)があったセッションの数 セッションの合計数に対する割合です。 セッション数: 3 95% 60%
人間の販売者返信率(HMRR) ライブ対応のエージェントによる応答があったセッションの数 ライブ対応のエージェント リクエストが含まれるセッションの合計数 ライブ対応のエージェント ライブ対応のエージェント 10 件のリクエスト 95% 0%

各指標のボリュームは、独立した指標のボリュームしきい値に照らして測定されます。 エージェントのパフォーマンスを測定できるかどうかを判断する 通常のボリュームしきい値と 低いボリュームしきい値とで比較できます

たとえば、あるエージェントに 9 件のアンケート、10 件のセッション、9 件のライブ エージェント リクエストがある場合、 エージェントのパフォーマンスがしきい値 0 に対して測定され、 CSAT、MRR は 95、HMRR は 0 です。エージェントがこれらのしきい値のいずれかを下回った場合 エージェントは「要確認」とマークされます。あります。

エージェントが「要確認」のままの場合28 日以上経過していないと そのエージェントが停止されることがあります

指標を改善する

エージェントのパフォーマンスが低い場合は、エージェントが次の処理を行っていることを確認します。

技術的な問題を伴わないメッセージの処理と返信

  • Webhook が 受信 受信メッセージの確認、処理、ルーティングが メッセージの種類や内容を指定します
  • 障害が発生した場合に備え、エージェントが効果的なフォールバック戦略を 必須フィールドがメッセージ ペイロードにない場合。ユーザーが見つからない、またはドロップしている フィールドが欠けている場合、ユーザー エクスペリエンスが低下します。
  • エージェントが正常に実行されたことを確認する すべて送信 メッセージ タイプを指定します。

親しみやすくインテリジェントに返信する

  • すべてのメッセージに返信できます。自動返信は、よくある質問への回答や、 質問にお答えします。
  • ユーザーのログイン状態とエントリ ポイントを確認し、それに応じて対応します。 たとえば、Google マップからアクセスしたユーザーは、 営業時間や在庫チェックなど、地域固有の情報
  • 位置情報に基づくメッセージの場合は、質問に最も適した人にルーティングしてください 対応できるからです
  • ライブ対応のエージェントが対応できない場合は、自動化を使用してユーザーに対応します。 エージェントのチャット時間と、その他の連絡方法を伝える 誰かに問い合わせます(サポートの電話番号など)。

ガイダンスを行う

  • ウェルカム メッセージを使用する メッセージ、 親しみやすく親しみやすい口調で書いて、期待する成果が伝わるようにします。 できます。
  • 会話を使用 開始条件 一般的なタスクや自動化されたタスクをユーザーに案内する
  • エージェントが対応できない質問を受けた場合は、次のように回答します。 どのような質問に回答できるのかについて、ガイダンスを提供します。

データを慎重に扱う

  • 可能な限り、受信したメッセージから位置情報などのデータを収集する 受け取る より正確に理解できます。
  • 機密情報(ログイン認証情報、バンキング/クレジット)を要求しない 詳細、個人識別番号)
  • データの要求は必要な場合にのみ行ってください。データの過剰な使用は 体験できます
  • データが必要な場合は、そのデータを使用する理由と使用方法を明確にしましょう。

非同期で動作

  • スレッドを無効としてマークしないでください。ビジネスでのコミュニケーション メッセージは非同期であるため、ユーザーはすぐに応答しない可能性があります。
  • 反応のないユーザーに対してはフォローアップを行わないでください。次の時間が経過してもユーザーの接続が解除されない 会話から離れます

エージェントのパフォーマンスを達成するためのその他のガイダンスについては、要件 および ガイドラインをご覧ください。