Experimentierkultur beschreibt die gemeinsamen Normen, Anreize und Entscheidungsgewohnheiten, die darüber entscheiden, ob ein Unternehmen tatsächlich evidenzbasierte Produkt- und Marketingentscheidungen trifft. Sie unterscheidet sich von der Experimentierfähigkeit, also den Werkzeugen, dem Datenverkehr und dem technischen Know-how, die für die Durchführung von Tests erforderlich sind. Viele Unternehmen erwerben zwar die Fähigkeit, entwickeln aber nie die entsprechende Kultur. Deshalb werden Testplattformen häufig angeschafft, ein Quartal lang begeistert genutzt und dann stillschweigend aufgegeben.
Das entscheidende Merkmal einer gesunden Experimentierkultur ist, dass Fehler normal und kostengünstig sind. Veröffentlichte Berichte großer Technologieunternehmen zeigen, dass nur eine Minderheit der Experimente die erwartete Verbesserung erzielt, während ein beträchtlicher Anteil die Situation sogar verschlechtert. Wird ein gescheiterter Test als Versagen des Initiators gewertet, wagen die Menschen keine riskanten Experimente mehr, testen nur noch Änderungen, von denen sie überzeugt sind, und finden Wege, mehrdeutige Ergebnisse positiv zu interpretieren. So verharrt das System schließlich bei trivialen Tests mit vorhersehbaren Ergebnissen, die weder Erkenntnisse noch Mehrwert generieren.
Das zweite Merkmal ist, dass Dienstalter nicht über Fakten entscheidet. Eine Kultur, in der ein Testergebnis durch die Präferenz einer Führungskraft ohne neue Erkenntnisse revidiert werden kann, vermittelt allen, dass Experimente nur Show sind. Das heißt nicht, dass Daten jede Entscheidung mechanisch bestimmen sollten; Marken-, Rechts-, Zugänglichkeits- und langfristige strategische Überlegungen haben berechtigterweise Vorrang vor einem kurzfristigen Konversionsergebnis. Entscheidend ist, dass die Entscheidung explizit und begründet und nicht stillschweigend getroffen wird, damit die Organisation ein gemeinsames Verständnis davon behält, was die Ergebnisse tatsächlich aussagten.
Drittens werden Lernergebnisse erfasst und wiederverwendet. Ohne ein durchsuchbares Archiv vergangener Experimente, einschließlich ihrer Hypothesen, Designs, Ergebnisse und Interpretationen, testen Unternehmen dieselben Ideen alle 18 Monate erneut, da es Personalwechsel gibt. Ein gut gepflegtes Archiv verwandelt eine Reihe isolierter Tests in einen wachsenden Wissensschatz: ein umfassendes Wissen darüber, worauf diese spezifische Zielgruppe reagiert. Dieses Wissen ist weitaus wertvoller als jeder einzelne Erfolg und lässt sich weder durch Branchenvergleiche noch durch Wettbewerbsanalysen gewinnen.
Der Aufbau einer entsprechenden Kultur erfordert in der Regel ein überlegtes Vorgehen statt einer bloßen Ankündigung. Beginnen Sie mit wenigen, sorgfältig durchgeführten Experimenten zu relevanten Problemen, um glaubwürdige erste Ergebnisse zu gewährleisten. Veröffentlichen Sie die Ergebnisse in einem einheitlichen Format, das auch Fehlschläge gleichermaßen berücksichtigt. Lassen Sie eine Führungskraft eine Entscheidung aufgrund eines Ergebnisses sichtbar ändern. Schulen Sie die Beteiligten im Umgang mit Effektstärken und -intervallen, damit sie sich aktiv mit den Ergebnissen auseinandersetzen können, anstatt vorgefertigte Urteile zu erhalten. Legen Sie Entscheidungsregeln im Voraus fest, damit Diskussionen bereits in der Planungsphase und nicht erst nach Vorliegen der Zahlen stattfinden. Erweitern Sie den Anwendungsbereich erst, wenn die Vorgehensweise etabliert ist.
Die Messung des Programms selbst erfordert dieselbe Strenge, die auch in anderen Bereichen des Programms angewendet wird. Die Anzahl durchgeführter Tests ist ein schwacher Indikator, und die Anzahl der Erfolge ist noch weniger aussagekräftig, da sie das Testen sicherer Ideen belohnt. Sinnvollere Kennzahlen sind beispielsweise der Anteil der Experimente, die unabhängig vom Ergebnis zu dokumentierten Erkenntnissen geführt haben, der Anteil der Roadmap, der auf evidenzbasierten und nicht auf Meinungsäußerungen beruhenden Problemstellungen behandelt, der kumulative Effekt im Vergleich zu einer Kontrollgruppe und die Anzahl der Entscheidungen, die aufgrund von Erkenntnissen geändert wurden. Letzteres ist der direkteste Indikator dafür, ob überhaupt eine solche Kultur existiert: Eine Organisation, in der innerhalb eines Jahres keine bedeutende Entscheidung durch ein Experiment beeinflusst wurde, verfügt nicht über eine Experimentierkultur, unabhängig von den verwendeten Tools und dem Testvolumen. In diesem Fall sollte man eher auf der Ebene der Entscheidungsbefugnisse als auf der Ebene der Methodik eingreifen.
Die technische Arbeit ist in der Regel der einfachere Teil. In der Praxis ist ein Wachstumsmanagement Das Engagement konzentriert sich zu einem großen Teil auf Governance, Berichtsformate, Entscheidungsbefugnisse und die Schulung der Stakeholder anstatt auf Statistiken oder Tools, da diese Faktoren darüber entscheiden, ob Ergebnisse tatsächlich etwas bewirken. Wenn eine Organisation keinerlei Erfahrung mit Experimenten hat, ist ein strukturierter Ansatz erforderlich. strategische Planung und Beratung Normalerweise ist zunächst eine Phase erforderlich, um abzustimmen, welche Entscheidungen das Unternehmen tatsächlich auf der Grundlage von Fakten treffen möchte und welche bereits aus Gründen festgelegt sind, die auch durch kein Experiment geändert werden können.