A/Bテスト機能

メッセージ配信の効果を測定・比較するために、異なるパターンのメッセージをテストできる機能

更新日:2025/8/25

この機能を用いるメリット

  • 異なるメッセージパターンの効果を客観的に比較できます
  • データに基づいた意思決定により、配信効果を向上させることができます
  • ランダムな振り分けにより、公平なテスト環境を構築できます
  • 自動配信・通常配信の両方でA/Bテストを実施できます

本機能を利用する場合、以下の注意点がございます。

  • Aパターンの配信が完了した後、Bパターンを配信します(AB同時配信は改修中)
  • AパターンとBパターンは等分で配信されます
  • Bパターンの設定(配信先・配信時間など)はAパターンに設定しているものが反映されます

A/Bテストの実施手順とデータの流れ

1. メッセージ作成

  • 2つの異なるパターンのメッセージを作成します
  • 例:500円OFFクーポンと10000円OFFクーポンのメッセージ

2. ワークフロー・チャットフローでの設定

  • 作成したA/Bテスト用メッセージをワークフローまたはチャットフローで指定します

3. 配信とテスト実行

  • システムが自動的に配信先をA/Bにランダム振り分けして配信を実行します
  • 通常送信メッセージの場合、まずAパターンが配信され、完了後にBパターンが配信されます
  • 自動送信メッセージの場合、配信時にAパターン・Bパターンが自動で半分ずつ送信されます

設定手順

1. A/Bテスト用メッセージの準備:以下の詳細手順でA/Bテスト用メッセージを作成してください。

  • Aパターンメッセージの作成
    • 通常配信または自動配信でAパターンのメッセージを作成
    • 例:Aパターンでは「500円OFFクーポンプレゼント」のお知らせ

  • Bパターンメッセージの作成
    • 同じ配信タイプ(通常配信または自動配信)でBパターンのメッセージを作成

    • 例:Bパターンでは「10,000円OFFクーポンプレゼント」のお知らせ、本文はAパターンと同じ構造でクーポン金額のみ変更

 

Bパターンの設定(配信先・配信時間など)はAパターンに設定しているものが反映されます

  • メッセージの送信・テンプレート化
    • メッセージの作成が完了したら、保存をして確認及び配信を行ってください

参考:保存できているか確認する方法(自動配信)

自動配信のメッセージを保存すると、ワークフロー、チャットフロー、定型文で作成したメッセージを利用できるようになります。


メッセージが保存できた場合、「配信済み」にメッセージが表示されます。ここにメッセージが表示されてない場合、正しく保存できていないこととなり、ワークフロー等の選択肢にメッセージが出てきません。ご注意ください。

2. ワークフロー・チャットフローでの設定 A/Bテスト機能を使用する際の設定方法:

  • 対象のワークフローまたはチャットフローを開く
  • メッセージ送信アクションを選択
  • 作成したA/Bテスト用メッセージを指定

A/Bテストメッセージを選択するだけで、自動的にバージョンA・Bが受信者に振り分けられて配信されます。追加の設定は不要です。



▼ワークフローのイメージ
スクリーンショット 2025-08-26 10.47.15

▼チャットフローのイメージ
スクリーンショット 2025-08-26 10.45.00

実用的な使用例

【Aパターン例】
件名:「500円OFFクーポンプレゼント!」
本文:いつもご利用いただきありがとうございます。
お客様限定で500円OFFクーポンをプレゼントいたします。
この機会にぜひご利用ください。

【Bパターン例】
件名:「10000円OFFクーポンプレゼント!」
本文:いつもご利用いただきありがとうございます。
お客様限定で10000円OFFクーポンをプレゼントいたします。
この機会にぜひご利用ください。

動作確認


メッセージ作成確認
  • AパターンとBパターンのメッセージが正しく作成されているか確認してください
配信設定確認
  • ワークフローまたはチャットフローでA/Bテスト用メッセージが選択されているか確認してください
配信結果確認
  • テスト配信後、A/B両パターンが適切に配信されているかレポートで確認してください

A/Bテストメッセージのパフォーマンス計測

A/Bテストで配信されたメッセージでは、バージョンA・バージョンBそれぞれのパフォーマンスを個別に計測・比較することができます。

 

A/Bテスト結果の確認方法

配信済みのA/Bテストメッセージをクリックすると、「テスト結果」タブでバージョンごとの詳細なパフォーマンスを確認できます。

スクリーンショット 2025-08-26 13.33.26

 

パフォーマンス項目の詳細

各パターン(A・B)について、以下の項目が計測されます:

  • 配信数
    • 各パターンが送信されたLINE友だちの数です。A/Bテストでは受信者に自動で半分ずつ振り分けられます。
  • 到達数
    • 各パターンがブロックされずに配信された友だちの数です。
  • 開封数
    • 各パターンがLINEアプリ上で開封された数です。
  • 開封率
    • 到達済みの人数に対し、各パターンがLINEアプリ上で開封された率です。
  • クリック数
    • 各パターンのメッセージ内のリンクがクリックされた数です。
  • クリック率
    • 開封済みの人数に対し、各パターンがクリックされた率です。

A/Bテスト結果の見方

  • 各パターンの数値を比較することで、どちらのパターンがより効果的だったかを判断できます
  • クリック率が高いパターンが、より魅力的なメッセージ内容だったと考えられます
  • 開封率が高いパターンは、より目を引くタイトルや画像だった可能性があります

注意事項

  • 開封率・クリック率はメッセージにURLやリッチメッセージ等の画像コンテンツが含まれ、「トラッキング用にURLを変換しない」がOFFの場合のみ計測されます
  • テキストのみのメッセージや「トラッキング用にURLを変換しない」がONの場合は、開封率・クリック率は計測されません

パフォーマンス結果の活用

A/Bテストの結果を基に、今後のメッセージ作成時により効果的なパターンを選択することで、全体的なメッセージパフォーマンスの向上が期待できます。

 

トラブルシューティング

よくある問題

Q: A/Bテストが正しく動作しない

A: AパターンとBパターンのメッセージが両方とも正しく作成されているか確認してください。また、ワークフローまたはチャットフローの設定を再確認してください。

Q: 配信のタイミングについて

A: 現在はAパターンの配信完了後にBパターンが配信される仕様です。ABパターン同時配信機能は改修中です。

Q: 配信先の振り分け比率を変更したい

A: 現在は等分(50:50)での振り分けとなります。比率の変更機能は今後のアップデートで対応予定です。

参考:効果的なA/Bテストのポイント A/Bテストを実施する際は、一度に一つの要素のみを変更することをお勧めします。複数の要素を同時に変更すると、どの要素が結果に影響したか判断が困難になります。テストする要素例:件名、本文内容、送信時間、画像、ボタンなど。