A/B-testaus on kontrolloitu kokeilumenetelmä, jota käytetään vertailemaan kahta tai useampaa verkkosivun, sovellusnäytön, sähköpostin tai muun digitaalisen resurssin versiota sen määrittämiseksi, mikä niistä toimii paremmin määriteltyä tavoitetta, kuten klikkausprosenttia, rekisteröitymisprosenttia tai kävijäkohtaista tuloa, vasten. Yksinkertaisimmassa muodossaan liikenne jaetaan satunnaisesti kontrolliversion (A) ja variantin (B) välillä, ja tuloksena olevaan dataan sovelletaan tilastollista analyysia sen päättämiseksi, onko havaittu suorituskyvyn ero aito vaikutus vai yksinkertaisesti satunnaisen vaihtelun tulos. Tekniikka lainaa suoraan kliinisessä tutkimuksessa ja maataloustieteessä käytetystä satunnaistettujen kontrolloitujen kokeiden menetelmästä, minkä vuoksi ammattilaiset viittaavat usein tilastolliseen merkitsevyyteen, luottamusväleihin ja otoskoon laskelmiin keskustellessaan testisuunnittelusta.
A/B-testaus on tärkeää, koska se korvaa subjektiiviset mielipiteet ja sisäisen keskustelun empiirisellä näytöllä siitä, miten oikeat kävijät todellisuudessa käyttäytyvät. Suunnittelu- ja markkinointitiimit ovat usein eri mieltä siitä, mikä otsikko, painikkeen väri, asettelu tai hinnoittelurakenne konvertoi paremmin, ja intuitio on tunnetusti epäluotettava opas: verkkokauppa- ja SaaS-sivustoilla tehdyt tutkimukset ovat toistuvasti osoittaneet, että muutokset, joiden odotetaan parantavan konversioasteita, eivät tee niin tai edes laske niitä noin 80–90 prosentissa suoritetuista testeistä. Altistamalla hypoteesin elävälle yleisölle ja mittaamalla tulosta suoraan, A/B-testaus antaa organisaatioille mahdollisuuden validoida tai hylätä ideoita ennen kuin ne sitoutuvat suunnitteluaikaan, markkinointibudjettiin tai brändiriskiin ennen täydellistä käyttöönottoa.
Kelvollisen A/B-testin suorittaminen vaatii enemmän kuin vain liikenteen jakamisen ja konversiomäärien vertailun. Analyytikot laskevat etukäteen vähimmäisotoskoon, joka perustuu lähtötason konversioasteeseen, yrityksen kannalta tärkeään pienimpään havaittavaan vaikutukseen sekä haluttuun tilastolliseen tehoon (yleensä 80 prosenttia) ja merkitsevyystasoon (yleensä 95 prosenttia tai p-arvo alle 0.05). Testejä suoritetaan tyypillisesti vähintään yhden tai kahden täyden liiketoimintasyklin ajan, usein 14–30 päivää, jotta voidaan ottaa huomioon viikonpäivien vaikutukset ja välttää satunnaisen vaihtelun eli kurkistamisen aiheuttama aikainen pysähtyminen. Työkalut, kuten VWO, Optimizely ja AB Tasty, käsittelevät satunnaistamisen, seurannan ja tilastolliset laskelmat, mutta tulosten tulkitseminen edellyttää silti käsitteiden, kuten otossuhteen epäsuhdan ja uutuusvaikutusten, ymmärtämistä.
Yleinen väärinkäsitys on, että yksittäisestä testistä saatu tilastollisesti merkitsevä tulos on pysyvä ja universaali totuus. Todellisuudessa tulokset ovat spesifisiä liikennesegmentille, ajanjaksolle ja kontekstille, jossa testi suoritettiin, ja ne voivat heikentyä tai kääntyä päinvastaisiksi yleisöjen, vuodenaikojen tai kilpailuolosuhteiden muuttuessa. Toinen yleinen sudenkuoppa on liian monen muuttujan testaaminen kerralla ilman riittävää liikennettä, mikä tuottaa tehottomia testejä, jotka antavat vääriä positiivisia tuloksia tai eivät saavuta merkitsevyyttä lainkaan. Monimuuttujatestaus, joka tutkii useiden elementtien yhdistelmiä samanaikaisesti, vaatii huomattavasti enemmän liikennettä kuin yksinkertainen kahden muuttujan A/B-testi, eikä se ole oikotie otoskokovaatimuksiin.
Sisällä CRO A/B-testaus on mekanismi, joka muuttaa laadullisen tutkimuksen, kuten käyttäjähaastattelut, lämpökartat ja istuntotallenteet, valideiksi, tuloihin vaikuttaviksi päätöksiksi. Hyvin hoidettu testausohjelma noudattaa tyypillisesti strukturoitua prosessia: kitkakohta tunnistetaan datan ja tutkimuksen avulla, muodostetaan erityinen hypoteesi sen olemassaolosta ja korjaamisesta, priorisoidaan se muihin ideoihin verrattuna pisteytyskehyksen avulla, koe suoritetaan tilastollisen validiteetin saavuttamiseksi ja oppimisen dokumentointi riippumatta siitä, voittiko vai hävisikö variantti. Ajan myötä tämä luo näyttöön perustuvan etenemissuunnitelman, joka vähentää kalliiden uudelleensuunnittelujen riskiä ja rakentaa institutionaalista tietämystä siitä, mikä todellisuudessa ohjaa asiakkaiden käyttäytymistä tietyllä sivustolla.