最後に自動販売機をご利用になったときを思い出してみてください。選択した商品が途中で詰まってしまったり、見慣れないエラーコードが表示されると、思わぬ不具合に直面して苛立ちを感じ、ご自身では対処できず、空腹も相まって不快な気分になることがあるかもしれません。
This exact thing happened to Kameron Canbaz, Principal Product Manager at Yahoo DSP. A failed vending machine interaction (he really wanted those Donnettes) got him thinking about how friction affects user journeys, and launched Yahoo DSP on a transformative product journey with Pendo Analytics.
Canbaz works on Yahoo’s demand side platform (DSP), which helps companies buy advertisements. Rather than going to individual websites and buying one ad at a time, advertisers input their budget and goals into Yahoo DSP, which finds the best ad placements to purchase at the right time.
ユーザーのニーズを満たすことがプロダクトの成長を促進する
Yahoo DSPでユーザーが行う最も重要なアクティビティの一つが、キャンペーンの実行と管理です。これにより、広告主はターゲットとするオーディエンスに広告を配信することができ、同時にYahoo DSPはその対価として収益を得る仕組みとなっています。他の複雑なプラットフォームと同様に、Yahoo DSPでも、すばやく対処しないとお客様に影響を及ぼす可能性のある課題が発生することがありました。
プロダクトチームは、広告主に優れた体験を提供するため、こうした課題をいち早く見つけて対処する方法を積極的に模索していました。このチームが求めていたのは、問題を迅速に特定し、最小限のリソースで解決しながら、優れた顧客体験を実現できるソリューションでした。Pendoアナリティクスによって、豊富なデータを収集できるツールが提供され、パフォーマンスを最適化するための貴重なインサイトを得ることができました。
Building a foundation with democratized data
Canbaz created a simple three-step framework to guide the product team as they worked on addressing customer challenges:
- データを使って問題を定量化する
- Plan and execute a strategy
- 測定し、変更し、繰り返す
Before using Pendo, the product team would have to rely on the engineering team to mine data and build complex dashboards, which could take multiple days or weeks depending on the request. But with his knowledge as an avid Pendo user, Canbaz knew that Track Events could provide the “missing link” for getting the data he needed without pulling engineers away from critical work.
Pendoを使用することのもう1つの利点は、データが民主化されることです。すべてのプロダクトマネージャーは、レポートを作成し、情報に基づいた意思決定を行うために必要なデータにアクセスできました。
Pendo Analytics uncovered two key areas where the user experience could be enhanced— page performance and error handling. Canbaz went deep into each problem to find how they could make strategic updates to quickly improve the customer experience.
Using Track Events to pinpoint performance improvement opportunities
最初の課題に対処するために、Canbaz氏のチームはプラットフォームの各ページにトラックイベントを設定し、次の3つのエリアに関するデータに注目しました。
- 現在のユーザーパス
- 以前のユーザーパス
- ページの合計読み込み時間
These data points gave Canbaz the information he needed to determine what to prioritize to make the most impact. He gathered detailed metrics using the Pages section of Pendo to review the slowest pages and utilized Data Explorer to view their load times. He prioritized updating the top 10 pages with load times over five seconds.
単一ページデータでエラーメッセージを深掘りする
To tackle the errors in the platform, Canbaz again used Track Events. Looking at errors through the lens of Track Events allowed Canbaz’s team to see and quantify what their users were struggling with in the platform. He set a Track Event to fire whenever an error message occurred within the platform. He tracked four things:
- Error type—whether UI or API
- エラーソース — ユーザーがどのようにエラーを体験するか
- 表示されたエラーメッセージ — ユーザーが理解できるものだったか
- 現在のパスと以前のパス — エラーが発生したとき、ユーザーがジャーニーのどこにいたか
First, Canbaz used a global errors report to find the pages with the most errors. Then, he dug deeper into each page to look for any patterns. By looking at data on a single-page level, Canbaz could determine if there were notable trends with the types of visitors or accounts receiving the error message. He also could look at the error message to determine if it was unclear or confusing.
An example he saw within the platform was very similar to his vending machine debacle, where the error code he received gave zero context to the actual problem. The error message users received didn’t explain what they were doing wrong or how they could fix the problem. They would end up attempting a workaround or abandoning the action entirely. Understanding the root cause of the error message required knowledge of the user and the timeframe where the error occurred.
Leveraging reports to create fast insights and improve performance
Canbaz氏は、すべてのデータを入手した上で、エンジニアリングチームが注力できるように適切なデータを渡す必要がありました。プラットフォームのパフォーマンスを向上させるために、具体的なページを特定するレポートを実行することで、エンジニアリングチームに明確な開始点を与えることができました。エンジニアが改善を実装したことで、最も遅いページの読み込み時間が短縮されました。プロダクトチームは引き続き読み込み時間を測定、監視することで、ページの速度を継続して向上させ、遅いページが新たに発生しないようにしました。
エラーメッセージを修正するために、プロダクトチームは2つのレポートを作成しました。1つは特定日に発生するエラーを見つけるためのもので、もう1つはそのエラーを特定の時間枠に絞り込むためのものです。このレベルまで具体的にすることで、エンジニアが問題に迅速に取り組むために必要な情報を提供することができました。
“Getting error occurrences narrowed down to a specific timeframe turned out to be the most helpful data that we could provide to engineers,” Canbaz said. “That data allows them to pinpoint that error within our own internal systems.”
プラットフォームの改善＝顧客満足度の向上
After initial implementation from engineering, the top ten slowest pages had their load times shortened by up to 80%. Customers started talking about how ‘snappy’ the platform felt. “For anyone that works on a B2B product, you know how challenging it can be to get unsolicited positive feedback about your products,” notes Canbaz.
Their error occurrences were drastically reduced, with Canbaz saying, “What used to be a lot of errors happening at once went to effectively zero.” He continues to roll out the error reporting process to more and more product managers within the organization to decrease errors within the DSP.
測定、修正、繰り返し：Pendoを使用してリスクを軽減
This process was not a one-and-done fix. Using Pendo data, Canbaz continuously tracks performance and error data. The power of Pendo data reduces the back and forth between product and engineering, streamlining their processes and speeding time to action.
Canbaz built the reports to be easily replicable so any product manager can simply adjust filters as needed to find the data they’re looking for and package for engineering. Pendo continues to help Canbaz and team deliver data, action improvements, and monitor success.
「Pendoを使用することで、問題の全体を素早く把握することができました」とCanbaz氏は説明します。「問題に対する修正を開発する際には、引き続きフレームワークに従い、必要に応じて調整しながら、継続的な進歩につなげています。これにより、私たちは継続してプラットフォームを信じられないほどユーザーフレンドリーにするための時間を確保できます。」
