Badania ilościowe to gromadzenie i analiza statystyczna danych liczbowych dotyczących zachowań użytkowników, wykorzystywana do pomiaru skali, częstotliwości i istotności wzorców w dużej populacji użytkowników, a nie do wyjaśniania indywidualnych motywacji. W kontekście UX i optymalizacji konwersji, powszechne metody ilościowe obejmują raportowanie analityki internetowej, analizę lejka sprzedażowego, testy A/B i testy wielowymiarowe, śledzenie kliknięć i przewijania agregowane w wielu sesjach oraz ustrukturyzowane ankiety z pytaniami zamkniętymi, które generują dane nadające się do porównań statystycznych, takie jak wskaźniki Net Promoter Score lub System Usability Scale. Cechą charakterystyczną badań ilościowych jest to, że ich wnioski są wyrażane w mierzalnych kategoriach, takich jak współczynnik konwersji, statystyczny poziom ufności lub wielkość efektu, które można obiektywnie porównywać w różnych okresach lub wariantach.
Ta dyscyplina jest kluczowa dla optymalizacji współczynnika konwersji, ponieważ dostarcza dowodów niezbędnych do weryfikacji, czy proponowana zmiana rzeczywiście poprawia wyniki, a nie tylko wydaje się zespołowi ją wprowadzającemu ulepszeniem. Bez walidacji ilościowej decyzje projektowe i marketingowe opierają się na opiniach, polityce wewnętrznej lub subiektywnych preferencjach, które – jak konsekwentnie pokazują badania – słabo korelują z rzeczywistym zachowaniem użytkowników. Testy A/B, najpowszechniejsza metoda ilościowa w optymalizacji współczynnika konwersji (CRO), wymagają osiągnięcia wstępnie obliczonej liczebności próby i statystycznego poziomu ufności, zazwyczaj 95%, zanim wynik zostanie uznany za wiarygodny. Testy są zazwyczaj przeprowadzane przez co najmniej jeden do dwóch pełnych cykli biznesowych, często od dwóch do czterech tygodni, aby uwzględnić zmienność zachowań związaną z dniem tygodnia i dniem wypłaty, która w przeciwnym razie zakłóciłaby krótkoterminowe wyniki.
Poza kontrolowanymi eksperymentami, badania ilościowe obejmują również analizę obserwacyjną istniejących danych behawioralnych, taką jak segmentacja współczynnika konwersji według źródła ruchu, rodzaju urządzenia lub regionu geograficznego w celu zidentyfikowania obszarów, w których wydajność znacząco się różni, oraz analizę kohortową, która śledzi zachowania określonej grupy użytkowników, na przykład wszystkich, którzy zarejestrowali się w danym miesiącu, w kolejnych tygodniach lub miesiącach – jest to powszechnie wykorzystywane do pomiaru trendów retencji i wartości cyklu życia (LTV). Do kluczowych pojęć statystycznych dla rzetelnych badań ilościowych należą: obliczanie liczebności próby, które określa liczbę obserwacji potrzebnych do wykrycia istotnego efektu przy danym poziomie ufności, oraz unikanie problemu wielokrotnych porównań, gdzie jednoczesne testowanie wielu wskaźników zwiększa prawdopodobieństwo znalezienia fałszywie istotnego wyniku wyłącznie przez przypadek.
Częstym błędem jest przekonanie, że dane ilościowe są z natury obiektywne i dlatego nie wymagają starannej interpretacji; w rzeczywistości wyniki ilościowe mogą być mylące, jeśli dane źródłowe są wadliwe, na przykład z powodu ruchu botów zawyżającego liczbę odwiedzających, nieprawidłowego uruchamiania kodu śledzenia na niektórych urządzeniach lub skażenia testu przez niezwiązaną z nim kampanię marketingową prowadzoną równolegle. Inną częstą pułapką, czasami nazywaną w tym kontekście błędem współczynnika bazowego, jest skupianie się na względnych zmianach procentowych bez uwzględnienia bezwzględnej liczby konwersji, ponieważ raportowany wzrost o 50% oparty na zaledwie kilku konwersjach ogółem ma znacznie mniejszą wiarygodność statystyczną niż wzrost o 10% mierzony na podstawie tysięcy konwersji.
W doradztwie CRO i rozwoju, badania ilościowe stanowią zarówno diagnostyczny punkt wyjścia, identyfikując miejsce w leju sprzedażowym, w którym występują największe i najbardziej wiarygodne statystycznie możliwości, jak i ostateczną warstwę walidacji, potwierdzając, czy hipoteza wygenerowana w badaniach jakościowych rzeczywiście przynosi mierzalny rezultat biznesowy po wdrożeniu. Dojrzałe firmy konsultingowe zazwyczaj utrzymują wskaźniki szybkości testowania i wskaźnika wygranych we wszystkich eksperymentach przeprowadzanych dla klienta, wykorzystując historyczne wyniki ilościowe do ciągłego doprecyzowywania, które typy hipotez warto traktować priorytetowo w kolejnych rundach optymalizacji.
Dla przykładu, załóżmy, że strona płatności generuje obecnie konwersję na poziomie 3.2%, a zespół chce sprawdzić, czy przeprojektowany formularz poprawi ten wskaźnik o względne 15%, zmniejszając go do około 3.7%. Standardowe obliczenie wielkości próby z 95% ufnością i 80% mocą statystyczną może wskazywać, że każdy wariant wymaga dziesiątek tysięcy odwiedzających, zanim test będzie mógł zostać wiarygodnie zakończony. Jeśli strona odwiedza tylko kilka tysięcy użytkowników tygodniowo, rygorystyczne podejście ilościowe wymaga, aby zespół zaakceptował wielotygodniowy czas trwania testu, wyznaczył większy oczekiwany rozmiar efektu lub przekierował wysiłki testowe na stronę w leju sprzedażowym o większym ruchu, gdzie można szybciej osiągnąć miarodajne wyniki, zamiast wcześnie zakończyć test o zbyt małej mocy i ryzykować fałszywe wnioski.