SlideShare ist ein Scribd-Unternehmen logo
1 von 34
Downloaden Sie, um offline zu lesen
A/B-Testing reloaded:
Mit kontrollierten Online-
Experimenten die digitale
Transformation meistern
Sandra Schröter
Product Marketing Manager, Optimizely
Agenda
• Herausforderungen im Marketing und E-Commerce 2018
• Methoden zur Gewinnung von Einblicken in Kundenbedürfnisse
• Experimentation: Hypothesen-getriebene Methode zur daten-
basierten Entscheidungsfindung
• Fallbeispiele von Secret Escapes, Delivery Hero, Optimizely und Missguided
• Zusammenfassung
• Ressourcen
• Fragen & Antworten
Herausforderungen im Marketing und E-Commerce 2018
• Sich verändernde Kundenbedürfnisse
• Wettbewerbssituation
• Schneller Wandel der Branche durch die Digitalisierung
Einführung von Technologie
0%
10%
20%
30%
40%
50%
60%
70%
80%
90%
100%
1900 1910 1920 1930 1940 1950 1960 1970 1980 1990 2000 2010 2020
Telephone Radio TV Internet
Social Media Smartphone Virtual Reality IoT
Hemnisse bei der digitalen Transformation
Quelle: etventure-Studie in Zusammenarbeit mit der GFK „Digitale Transformation 2018 - Hemmnisse, Fortschritte, Perspektiven”
58%
51%
48%
Verteidigung bestehender Strukturen
Fehlende Erfahrung bei nutzerzentriertem Vorgehen
Blockierende Sicherheitsanforderungen
Bitkom: 96% nutzen digitale Touchpoints
Quelle: Bitkom-Studie „Digitale Kundenbeziehung - Wie Unternehmen auf ihre Kunden in der digitalen Welt eingehen und wie sie davon profitieren"
Bitkom: Nur die Hälfte versucht, Kunden besser zu
verstehen
Quelle: Bitkom-Studie „Digitale Kundenbeziehung - Wie Unternehmen auf ihre Kunden in der digitalen Welt eingehen und wie sie davon profitieren"
Methoden zur Gewinnung von Einblicken in
Kundenbedürfnisse
Marktforschung Analytics
Methoden zur Gewinnung von Einblicken in
Kundenbedürfnisse
Marktforschung Analytics Experimentation
+ +
experimentum
• Lateinisch: Versuch, Probe, Beweis
• Wissenschaftliche Methode zur Datenerhebung
• Gezielte Prüfung einer bestimmten Annahme oder Vermutung,
die dadurch entweder bewiesen oder widerlegt
werden soll
• “Test and Learn”
Experimentation erweckt Ideen zum Leben
Formulierung der
Hypothese
AnalyseEntwicklung
Durchführung
Ich habe nicht versagt.
Ich habe nur 10.000 Wege
gefunden, die nicht
funktionieren.
Thomas Edison
Weitere Beispiele aus der Geschichte
• Archimedes (287-213 v.Chr.) entdeckte die Hebelgesetze
• Galileo Galilei (1564-1642) entdeckte die Bewegungsgesetze
• Marie Curie (1867- 1934) entdeckte die Radioaktivität
• Entmystifizierung der Welt
Digital Experimentation
Unser Erfolg ist
unmittelbar davon
abhängig, wie viele
Experimente wir pro Jahr,
Monat, Woche und
Stunde durchführen.
Jeff Bezos
Digital Experimentation
Die Onlinewelt gilt oft als turbulent und gefährlich, aber
kontrollierte Experimente können dazu beitragen, sich
sicher darin zu bewegen.
Bei Bing halfen die Tests dabei, Monat für Monat
Verbesserungen einzuführen, die den Umsatz je Suche
um 10 bis 25 Prozent pro Jahr erhöhten.
In einem Zeitalter, in dem das Internet für praktisch alle
Unternehmen überlebenswichtig geworden ist, sollten
Onlineexperimente nach wissenschaftlichen Methoden zu
den Standardverfahren gehören.
Wir führen jeden Tag tausende von Experimenten
durch, um unsere Ideen schnell zu validieren.
Experimentation ist inzwischen so tief in
Booking.com verwurzelt, dass wir jede Änderung
angefangen von ganzen Redesigns über
Infrastruktur-Änderungen und Bux-Fixes im Rahmen
eines Experiments durchführen.
Arten von Experimentation
• A/B-Testing
• Multivariate Testing
• Painted-Door-Test
• Performance-Test
• Testen von Algorithmen
• Testen von Businessmodellen
A/B-Testing
A B
6+ Varianten
5 Varianten
4 Varianten
3 Varianten
2 Varianten
Multivariate-Testing
77% aller Tests testen 2 Varianten
1%
2%
5%
14%
77%
6+ Varianten
5 Varianten
4 Varianten
3 Varianten
2 Varianten
5 Varianten zu testen erhöht die Win-Rate um 75%
43%
44%
37%
33%
25%
6+ Varianten
5 Varianten
4 Varianten
3 Varianten
2 Varianten
Signifikante
Steigerung
Signifikante
Reduktion
Ohne
Ergebnis
+32%
+48%
+75%
+71%
Arten von Experimentation
• A/B-Testing
• Multivariate Testing
• Painted-Door-Test
• Performance-Test
• Testen von Algorithmen
• Testen von Businessmodellen
Vorteile von Online-Experimenten
Prüfung von Ideen zur:
• Steigerung des Umsatzes
• Optimierung der Conversion Rate (CRO)
• Minimierung des Risiko bei der Ausrollung von Änderungen
Fallbeispiel: A/B-Testing @ Secret Escapes
Anmelden überspringen vs. Anmelden nicht überspringen
Fallbeispiel: A/B-Testing @ Secret Escapes
x 2
Anmelden nicht überspringenAnmelden überspringen vs.
Fallbeispiel: Multivariate Testing @ Delivery Hero
HintergrundvideoHintergrundbild(er) vs.
Fallbeispiel: Multivariate Testing @ Delivery Hero
HintergrundvideoHintergrundbild(er) vs.
+11,4 %
Fallbeispiel: Painted-Door-A/B-Test @ Optimizely
Painted Door BPainted Door A vs.
Fallbeispiel: Painted-Door-A/B-Test @ Optimizely
Fallbeispiel: Testen eines Businessmodells @ Missguided
unicorn class premier delivery
£9.99
unlimited free next day delivery for a whole year
the days of adding £30 worth of mg goodies just for free
next day delivery are over. have it your way for a year with
unicorn class.
no minimum spend, no hassle with codes, unlimited next
day delivery has never looked so fly
Zusammenfassung
• Kundenbedürfnisse + Wettbewerb + Digitalisierung
• Optimierung der Customer Experience
• Agiles, nutzerzentriertes Vorgehen:
Marktforschung + Analytics + Experimentation
• Experimente zur Entmystifizierung der Welt/des Kunden
• Steigerung des Umsatzes und der Conversions
• Minimierung des Risikos
Ressourcen
• Bitkom: Digitale Kundenbeziehung - Wie Unternehmen auf ihre
Kunden in der digitalen Welt eingehen und wie sie davon
profitieren
• Harvard Business Manager: Klüger Experimentieren
Begriffserklärung
A/B-Testing
Multivariate Test
Painted-Door-Test (Englisch)
Sandra Schröter
Product Marketing Manager
sandra.schroeter@optimizely.com
Fragen & Antworten

Weitere ähnliche Inhalte

Ähnlich wie A/B-Testing reloaded: Mit kontrollierten Online-Experimenten die digitale Transformation meistern

Cloud ist keine Strategie - AWS Tech Community Summit Cologne, 2017
Cloud ist keine Strategie - AWS Tech Community Summit Cologne, 2017Cloud ist keine Strategie - AWS Tech Community Summit Cologne, 2017
Cloud ist keine Strategie - AWS Tech Community Summit Cologne, 2017Dennis Traub
 
Datenprodukte als Geschäftsmodell
Datenprodukte als GeschäftsmodellDatenprodukte als Geschäftsmodell
Datenprodukte als Geschäftsmodellinovex GmbH
 
Agile Data Analytics
Agile Data AnalyticsAgile Data Analytics
Agile Data Analyticsinovex GmbH
 
Die Cookie-Apokalypse rechtskonform verhindern – Kundendaten Trends 2022
Die Cookie-Apokalypse rechtskonform verhindern – Kundendaten Trends 2022Die Cookie-Apokalypse rechtskonform verhindern – Kundendaten Trends 2022
Die Cookie-Apokalypse rechtskonform verhindern – Kundendaten Trends 2022CrossEngage
 
Wie Facebook Werbung AdWords ergänzt
Wie Facebook Werbung AdWords ergänztWie Facebook Werbung AdWords ergänzt
Wie Facebook Werbung AdWords ergänztMatthias Gally
 
PPC Bidmanagement tools – Get rich fast? OMX 2013
PPC Bidmanagement tools – Get rich fast? OMX 2013PPC Bidmanagement tools – Get rich fast? OMX 2013
PPC Bidmanagement tools – Get rich fast? OMX 2013Marcel Prothmann
 
Digitalisierung ja - aber wie managen?
Digitalisierung ja - aber wie managen?Digitalisierung ja - aber wie managen?
Digitalisierung ja - aber wie managen?Christoph Schmiedinger
 
Cloud ist keine Strategie - Keynote des AWS Cloud Day, Solingen
Cloud ist keine Strategie - Keynote des AWS Cloud Day, SolingenCloud ist keine Strategie - Keynote des AWS Cloud Day, Solingen
Cloud ist keine Strategie - Keynote des AWS Cloud Day, SolingenDennis Traub
 
Innovationen erfolgreich vermarkten_Koelner Marketingtag_Dr Claudia Hilker_30...
Innovationen erfolgreich vermarkten_Koelner Marketingtag_Dr Claudia Hilker_30...Innovationen erfolgreich vermarkten_Koelner Marketingtag_Dr Claudia Hilker_30...
Innovationen erfolgreich vermarkten_Koelner Marketingtag_Dr Claudia Hilker_30...Claudia Hilker, Ph.D.
 
2012-07 Lean Startup at #bcka by Calpano
2012-07 Lean Startup at #bcka by Calpano2012-07 Lean Startup at #bcka by Calpano
2012-07 Lean Startup at #bcka by CalpanoMax Völkel
 
Digitalisierung im Mittelstand: Märkte von morgen
Digitalisierung im Mittelstand: Märkte von morgenDigitalisierung im Mittelstand: Märkte von morgen
Digitalisierung im Mittelstand: Märkte von morgenMe & Company GmbH
 
Digitalprojekte erfolgreich managen
Digitalprojekte erfolgreich managenDigitalprojekte erfolgreich managen
Digitalprojekte erfolgreich managenHagen Management
 
Vom datengetriebenen Unternehmen zum Datentreiber
Vom datengetriebenen Unternehmen zum DatentreiberVom datengetriebenen Unternehmen zum Datentreiber
Vom datengetriebenen Unternehmen zum DatentreiberDatentreiber
 
Zero Trust - Never Trust, Always Verify
Zero Trust - Never Trust, Always VerifyZero Trust - Never Trust, Always Verify
Zero Trust - Never Trust, Always Verifygo4mobile ag
 
Recruiting-Erfolge erzielen mit begrenztem Budget
Recruiting-Erfolge erzielen mit begrenztem BudgetRecruiting-Erfolge erzielen mit begrenztem Budget
Recruiting-Erfolge erzielen mit begrenztem BudgetWolfgang Brickwedde
 
Roger basler meetup_digitale-geschaeftsmodelle-entwickeln_handout
Roger basler meetup_digitale-geschaeftsmodelle-entwickeln_handoutRoger basler meetup_digitale-geschaeftsmodelle-entwickeln_handout
Roger basler meetup_digitale-geschaeftsmodelle-entwickeln_handoutDigicomp Academy AG
 
Wirtschaftsflinderer 2016 Digitale Transformation Chancen und Herausforderungen
Wirtschaftsflinderer 2016 Digitale Transformation Chancen und HerausforderungenWirtschaftsflinderer 2016 Digitale Transformation Chancen und Herausforderungen
Wirtschaftsflinderer 2016 Digitale Transformation Chancen und HerausforderungenTorsten Eymann
 

Ähnlich wie A/B-Testing reloaded: Mit kontrollierten Online-Experimenten die digitale Transformation meistern (20)

Cloud ist keine Strategie - AWS Tech Community Summit Cologne, 2017
Cloud ist keine Strategie - AWS Tech Community Summit Cologne, 2017Cloud ist keine Strategie - AWS Tech Community Summit Cologne, 2017
Cloud ist keine Strategie - AWS Tech Community Summit Cologne, 2017
 
Datenprodukte als Geschäftsmodell
Datenprodukte als GeschäftsmodellDatenprodukte als Geschäftsmodell
Datenprodukte als Geschäftsmodell
 
Agile Data Analytics
Agile Data AnalyticsAgile Data Analytics
Agile Data Analytics
 
Die Cookie-Apokalypse rechtskonform verhindern – Kundendaten Trends 2022
Die Cookie-Apokalypse rechtskonform verhindern – Kundendaten Trends 2022Die Cookie-Apokalypse rechtskonform verhindern – Kundendaten Trends 2022
Die Cookie-Apokalypse rechtskonform verhindern – Kundendaten Trends 2022
 
Wie Facebook Werbung AdWords ergänzt
Wie Facebook Werbung AdWords ergänztWie Facebook Werbung AdWords ergänzt
Wie Facebook Werbung AdWords ergänzt
 
PPC Bidmanagement tools – Get rich fast? OMX 2013
PPC Bidmanagement tools – Get rich fast? OMX 2013PPC Bidmanagement tools – Get rich fast? OMX 2013
PPC Bidmanagement tools – Get rich fast? OMX 2013
 
Beispiele aus der Szenario-Praxis - Wertschöpfung 2040
Beispiele aus der Szenario-Praxis - Wertschöpfung 2040Beispiele aus der Szenario-Praxis - Wertschöpfung 2040
Beispiele aus der Szenario-Praxis - Wertschöpfung 2040
 
Digitalisierung ja - aber wie managen?
Digitalisierung ja - aber wie managen?Digitalisierung ja - aber wie managen?
Digitalisierung ja - aber wie managen?
 
Cloud ist keine Strategie - Keynote des AWS Cloud Day, Solingen
Cloud ist keine Strategie - Keynote des AWS Cloud Day, SolingenCloud ist keine Strategie - Keynote des AWS Cloud Day, Solingen
Cloud ist keine Strategie - Keynote des AWS Cloud Day, Solingen
 
Innovationen erfolgreich vermarkten_Koelner Marketingtag_Dr Claudia Hilker_30...
Innovationen erfolgreich vermarkten_Koelner Marketingtag_Dr Claudia Hilker_30...Innovationen erfolgreich vermarkten_Koelner Marketingtag_Dr Claudia Hilker_30...
Innovationen erfolgreich vermarkten_Koelner Marketingtag_Dr Claudia Hilker_30...
 
Lean Startup mit JavaScript
Lean Startup mit JavaScriptLean Startup mit JavaScript
Lean Startup mit JavaScript
 
2012-07 Lean Startup at #bcka by Calpano
2012-07 Lean Startup at #bcka by Calpano2012-07 Lean Startup at #bcka by Calpano
2012-07 Lean Startup at #bcka by Calpano
 
Digitalisierung im Mittelstand: Märkte von morgen
Digitalisierung im Mittelstand: Märkte von morgenDigitalisierung im Mittelstand: Märkte von morgen
Digitalisierung im Mittelstand: Märkte von morgen
 
Digitalprojekte erfolgreich managen
Digitalprojekte erfolgreich managenDigitalprojekte erfolgreich managen
Digitalprojekte erfolgreich managen
 
Vom datengetriebenen Unternehmen zum Datentreiber
Vom datengetriebenen Unternehmen zum DatentreiberVom datengetriebenen Unternehmen zum Datentreiber
Vom datengetriebenen Unternehmen zum Datentreiber
 
Zero Trust - Never Trust, Always Verify
Zero Trust - Never Trust, Always VerifyZero Trust - Never Trust, Always Verify
Zero Trust - Never Trust, Always Verify
 
Recruiting-Erfolge erzielen mit begrenztem Budget
Recruiting-Erfolge erzielen mit begrenztem BudgetRecruiting-Erfolge erzielen mit begrenztem Budget
Recruiting-Erfolge erzielen mit begrenztem Budget
 
Roger basler meetup_digitale-geschaeftsmodelle-entwickeln_handout
Roger basler meetup_digitale-geschaeftsmodelle-entwickeln_handoutRoger basler meetup_digitale-geschaeftsmodelle-entwickeln_handout
Roger basler meetup_digitale-geschaeftsmodelle-entwickeln_handout
 
eStrategy Magazin 02 / 2013
eStrategy Magazin 02 / 2013eStrategy Magazin 02 / 2013
eStrategy Magazin 02 / 2013
 
Wirtschaftsflinderer 2016 Digitale Transformation Chancen und Herausforderungen
Wirtschaftsflinderer 2016 Digitale Transformation Chancen und HerausforderungenWirtschaftsflinderer 2016 Digitale Transformation Chancen und Herausforderungen
Wirtschaftsflinderer 2016 Digitale Transformation Chancen und Herausforderungen
 

Mehr von Optimizely

Clover Rings Up Digital Growth to Drive Experimentation
Clover Rings Up Digital Growth to Drive ExperimentationClover Rings Up Digital Growth to Drive Experimentation
Clover Rings Up Digital Growth to Drive ExperimentationOptimizely
 
Make Every Touchpoint Count: How to Drive Revenue in an Increasingly Online W...
Make Every Touchpoint Count: How to Drive Revenue in an Increasingly Online W...Make Every Touchpoint Count: How to Drive Revenue in an Increasingly Online W...
Make Every Touchpoint Count: How to Drive Revenue in an Increasingly Online W...Optimizely
 
The Science of Getting Testing Right
The Science of Getting Testing RightThe Science of Getting Testing Right
The Science of Getting Testing RightOptimizely
 
Atlassian's Mystique CLI, Minimizing the Experiment Development Cycle
Atlassian's Mystique CLI, Minimizing the Experiment Development CycleAtlassian's Mystique CLI, Minimizing the Experiment Development Cycle
Atlassian's Mystique CLI, Minimizing the Experiment Development CycleOptimizely
 
Autotrader Case Study: Migrating from Home-Grown Testing to Best-in-Class Too...
Autotrader Case Study: Migrating from Home-Grown Testing to Best-in-Class Too...Autotrader Case Study: Migrating from Home-Grown Testing to Best-in-Class Too...
Autotrader Case Study: Migrating from Home-Grown Testing to Best-in-Class Too...Optimizely
 
Zillow + Optimizely: Building the Bridge to $20 Billion Revenue
Zillow + Optimizely: Building the Bridge to $20 Billion RevenueZillow + Optimizely: Building the Bridge to $20 Billion Revenue
Zillow + Optimizely: Building the Bridge to $20 Billion RevenueOptimizely
 
The Future of Optimizely for Technical Teams
The Future of Optimizely for Technical TeamsThe Future of Optimizely for Technical Teams
The Future of Optimizely for Technical TeamsOptimizely
 
Empowering Agents to Provide Service from Anywhere: Contact Centers in the Ti...
Empowering Agents to Provide Service from Anywhere: Contact Centers in the Ti...Empowering Agents to Provide Service from Anywhere: Contact Centers in the Ti...
Empowering Agents to Provide Service from Anywhere: Contact Centers in the Ti...Optimizely
 
Experimentation Everywhere: Create Exceptional Online Shopping Experiences an...
Experimentation Everywhere: Create Exceptional Online Shopping Experiences an...Experimentation Everywhere: Create Exceptional Online Shopping Experiences an...
Experimentation Everywhere: Create Exceptional Online Shopping Experiences an...Optimizely
 
Building an Experiment Pipeline for GitHub’s New Free Team Offering
Building an Experiment Pipeline for GitHub’s New Free Team OfferingBuilding an Experiment Pipeline for GitHub’s New Free Team Offering
Building an Experiment Pipeline for GitHub’s New Free Team OfferingOptimizely
 
AMC Networks Experiments Faster on the Server Side
AMC Networks Experiments Faster on the Server SideAMC Networks Experiments Faster on the Server Side
AMC Networks Experiments Faster on the Server SideOptimizely
 
Evolving Experimentation from CRO to Product Development
Evolving Experimentation from CRO to Product DevelopmentEvolving Experimentation from CRO to Product Development
Evolving Experimentation from CRO to Product DevelopmentOptimizely
 
Overcoming the Challenges of Experimentation on a Service Oriented Architecture
Overcoming the Challenges of Experimentation on a Service Oriented ArchitectureOvercoming the Challenges of Experimentation on a Service Oriented Architecture
Overcoming the Challenges of Experimentation on a Service Oriented ArchitectureOptimizely
 
How The Zebra Utilized Feature Experiments To Increase Carrier Card Engagemen...
How The Zebra Utilized Feature Experiments To Increase Carrier Card Engagemen...How The Zebra Utilized Feature Experiments To Increase Carrier Card Engagemen...
How The Zebra Utilized Feature Experiments To Increase Carrier Card Engagemen...Optimizely
 
Making Your Hypothesis Work Harder to Inform Future Product Strategy
Making Your Hypothesis Work Harder to Inform Future Product StrategyMaking Your Hypothesis Work Harder to Inform Future Product Strategy
Making Your Hypothesis Work Harder to Inform Future Product StrategyOptimizely
 
Kick Your Assumptions: How Scholl's Test-Everything Culture Drives Revenue
Kick Your Assumptions: How Scholl's Test-Everything Culture Drives RevenueKick Your Assumptions: How Scholl's Test-Everything Culture Drives Revenue
Kick Your Assumptions: How Scholl's Test-Everything Culture Drives RevenueOptimizely
 
Experimentation through Clients' Eyes
Experimentation through Clients' EyesExperimentation through Clients' Eyes
Experimentation through Clients' EyesOptimizely
 
Shipping to Learn and Accelerate Growth with GitHub
Shipping to Learn and Accelerate Growth with GitHubShipping to Learn and Accelerate Growth with GitHub
Shipping to Learn and Accelerate Growth with GitHubOptimizely
 
Test Everything: TrustRadius Delivers Customer Value with Experimentation
Test Everything: TrustRadius Delivers Customer Value with ExperimentationTest Everything: TrustRadius Delivers Customer Value with Experimentation
Test Everything: TrustRadius Delivers Customer Value with ExperimentationOptimizely
 
Optimizely Agent: Scaling Resilient Feature Delivery
Optimizely Agent: Scaling Resilient Feature DeliveryOptimizely Agent: Scaling Resilient Feature Delivery
Optimizely Agent: Scaling Resilient Feature DeliveryOptimizely
 

Mehr von Optimizely (20)

Clover Rings Up Digital Growth to Drive Experimentation
Clover Rings Up Digital Growth to Drive ExperimentationClover Rings Up Digital Growth to Drive Experimentation
Clover Rings Up Digital Growth to Drive Experimentation
 
Make Every Touchpoint Count: How to Drive Revenue in an Increasingly Online W...
Make Every Touchpoint Count: How to Drive Revenue in an Increasingly Online W...Make Every Touchpoint Count: How to Drive Revenue in an Increasingly Online W...
Make Every Touchpoint Count: How to Drive Revenue in an Increasingly Online W...
 
The Science of Getting Testing Right
The Science of Getting Testing RightThe Science of Getting Testing Right
The Science of Getting Testing Right
 
Atlassian's Mystique CLI, Minimizing the Experiment Development Cycle
Atlassian's Mystique CLI, Minimizing the Experiment Development CycleAtlassian's Mystique CLI, Minimizing the Experiment Development Cycle
Atlassian's Mystique CLI, Minimizing the Experiment Development Cycle
 
Autotrader Case Study: Migrating from Home-Grown Testing to Best-in-Class Too...
Autotrader Case Study: Migrating from Home-Grown Testing to Best-in-Class Too...Autotrader Case Study: Migrating from Home-Grown Testing to Best-in-Class Too...
Autotrader Case Study: Migrating from Home-Grown Testing to Best-in-Class Too...
 
Zillow + Optimizely: Building the Bridge to $20 Billion Revenue
Zillow + Optimizely: Building the Bridge to $20 Billion RevenueZillow + Optimizely: Building the Bridge to $20 Billion Revenue
Zillow + Optimizely: Building the Bridge to $20 Billion Revenue
 
The Future of Optimizely for Technical Teams
The Future of Optimizely for Technical TeamsThe Future of Optimizely for Technical Teams
The Future of Optimizely for Technical Teams
 
Empowering Agents to Provide Service from Anywhere: Contact Centers in the Ti...
Empowering Agents to Provide Service from Anywhere: Contact Centers in the Ti...Empowering Agents to Provide Service from Anywhere: Contact Centers in the Ti...
Empowering Agents to Provide Service from Anywhere: Contact Centers in the Ti...
 
Experimentation Everywhere: Create Exceptional Online Shopping Experiences an...
Experimentation Everywhere: Create Exceptional Online Shopping Experiences an...Experimentation Everywhere: Create Exceptional Online Shopping Experiences an...
Experimentation Everywhere: Create Exceptional Online Shopping Experiences an...
 
Building an Experiment Pipeline for GitHub’s New Free Team Offering
Building an Experiment Pipeline for GitHub’s New Free Team OfferingBuilding an Experiment Pipeline for GitHub’s New Free Team Offering
Building an Experiment Pipeline for GitHub’s New Free Team Offering
 
AMC Networks Experiments Faster on the Server Side
AMC Networks Experiments Faster on the Server SideAMC Networks Experiments Faster on the Server Side
AMC Networks Experiments Faster on the Server Side
 
Evolving Experimentation from CRO to Product Development
Evolving Experimentation from CRO to Product DevelopmentEvolving Experimentation from CRO to Product Development
Evolving Experimentation from CRO to Product Development
 
Overcoming the Challenges of Experimentation on a Service Oriented Architecture
Overcoming the Challenges of Experimentation on a Service Oriented ArchitectureOvercoming the Challenges of Experimentation on a Service Oriented Architecture
Overcoming the Challenges of Experimentation on a Service Oriented Architecture
 
How The Zebra Utilized Feature Experiments To Increase Carrier Card Engagemen...
How The Zebra Utilized Feature Experiments To Increase Carrier Card Engagemen...How The Zebra Utilized Feature Experiments To Increase Carrier Card Engagemen...
How The Zebra Utilized Feature Experiments To Increase Carrier Card Engagemen...
 
Making Your Hypothesis Work Harder to Inform Future Product Strategy
Making Your Hypothesis Work Harder to Inform Future Product StrategyMaking Your Hypothesis Work Harder to Inform Future Product Strategy
Making Your Hypothesis Work Harder to Inform Future Product Strategy
 
Kick Your Assumptions: How Scholl's Test-Everything Culture Drives Revenue
Kick Your Assumptions: How Scholl's Test-Everything Culture Drives RevenueKick Your Assumptions: How Scholl's Test-Everything Culture Drives Revenue
Kick Your Assumptions: How Scholl's Test-Everything Culture Drives Revenue
 
Experimentation through Clients' Eyes
Experimentation through Clients' EyesExperimentation through Clients' Eyes
Experimentation through Clients' Eyes
 
Shipping to Learn and Accelerate Growth with GitHub
Shipping to Learn and Accelerate Growth with GitHubShipping to Learn and Accelerate Growth with GitHub
Shipping to Learn and Accelerate Growth with GitHub
 
Test Everything: TrustRadius Delivers Customer Value with Experimentation
Test Everything: TrustRadius Delivers Customer Value with ExperimentationTest Everything: TrustRadius Delivers Customer Value with Experimentation
Test Everything: TrustRadius Delivers Customer Value with Experimentation
 
Optimizely Agent: Scaling Resilient Feature Delivery
Optimizely Agent: Scaling Resilient Feature DeliveryOptimizely Agent: Scaling Resilient Feature Delivery
Optimizely Agent: Scaling Resilient Feature Delivery
 

A/B-Testing reloaded: Mit kontrollierten Online-Experimenten die digitale Transformation meistern

  • 1. A/B-Testing reloaded: Mit kontrollierten Online- Experimenten die digitale Transformation meistern Sandra Schröter Product Marketing Manager, Optimizely
  • 2. Agenda • Herausforderungen im Marketing und E-Commerce 2018 • Methoden zur Gewinnung von Einblicken in Kundenbedürfnisse • Experimentation: Hypothesen-getriebene Methode zur daten- basierten Entscheidungsfindung • Fallbeispiele von Secret Escapes, Delivery Hero, Optimizely und Missguided • Zusammenfassung • Ressourcen • Fragen & Antworten
  • 3. Herausforderungen im Marketing und E-Commerce 2018 • Sich verändernde Kundenbedürfnisse • Wettbewerbssituation • Schneller Wandel der Branche durch die Digitalisierung
  • 4. Einführung von Technologie 0% 10% 20% 30% 40% 50% 60% 70% 80% 90% 100% 1900 1910 1920 1930 1940 1950 1960 1970 1980 1990 2000 2010 2020 Telephone Radio TV Internet Social Media Smartphone Virtual Reality IoT
  • 5. Hemnisse bei der digitalen Transformation Quelle: etventure-Studie in Zusammenarbeit mit der GFK „Digitale Transformation 2018 - Hemmnisse, Fortschritte, Perspektiven” 58% 51% 48% Verteidigung bestehender Strukturen Fehlende Erfahrung bei nutzerzentriertem Vorgehen Blockierende Sicherheitsanforderungen
  • 6. Bitkom: 96% nutzen digitale Touchpoints Quelle: Bitkom-Studie „Digitale Kundenbeziehung - Wie Unternehmen auf ihre Kunden in der digitalen Welt eingehen und wie sie davon profitieren"
  • 7. Bitkom: Nur die Hälfte versucht, Kunden besser zu verstehen Quelle: Bitkom-Studie „Digitale Kundenbeziehung - Wie Unternehmen auf ihre Kunden in der digitalen Welt eingehen und wie sie davon profitieren"
  • 8. Methoden zur Gewinnung von Einblicken in Kundenbedürfnisse Marktforschung Analytics
  • 9. Methoden zur Gewinnung von Einblicken in Kundenbedürfnisse Marktforschung Analytics Experimentation + +
  • 10. experimentum • Lateinisch: Versuch, Probe, Beweis • Wissenschaftliche Methode zur Datenerhebung • Gezielte Prüfung einer bestimmten Annahme oder Vermutung, die dadurch entweder bewiesen oder widerlegt werden soll • “Test and Learn”
  • 11. Experimentation erweckt Ideen zum Leben Formulierung der Hypothese AnalyseEntwicklung Durchführung
  • 12. Ich habe nicht versagt. Ich habe nur 10.000 Wege gefunden, die nicht funktionieren. Thomas Edison
  • 13. Weitere Beispiele aus der Geschichte • Archimedes (287-213 v.Chr.) entdeckte die Hebelgesetze • Galileo Galilei (1564-1642) entdeckte die Bewegungsgesetze • Marie Curie (1867- 1934) entdeckte die Radioaktivität • Entmystifizierung der Welt
  • 14. Digital Experimentation Unser Erfolg ist unmittelbar davon abhängig, wie viele Experimente wir pro Jahr, Monat, Woche und Stunde durchführen. Jeff Bezos
  • 15. Digital Experimentation Die Onlinewelt gilt oft als turbulent und gefährlich, aber kontrollierte Experimente können dazu beitragen, sich sicher darin zu bewegen. Bei Bing halfen die Tests dabei, Monat für Monat Verbesserungen einzuführen, die den Umsatz je Suche um 10 bis 25 Prozent pro Jahr erhöhten. In einem Zeitalter, in dem das Internet für praktisch alle Unternehmen überlebenswichtig geworden ist, sollten Onlineexperimente nach wissenschaftlichen Methoden zu den Standardverfahren gehören.
  • 16. Wir führen jeden Tag tausende von Experimenten durch, um unsere Ideen schnell zu validieren. Experimentation ist inzwischen so tief in Booking.com verwurzelt, dass wir jede Änderung angefangen von ganzen Redesigns über Infrastruktur-Änderungen und Bux-Fixes im Rahmen eines Experiments durchführen.
  • 17. Arten von Experimentation • A/B-Testing • Multivariate Testing • Painted-Door-Test • Performance-Test • Testen von Algorithmen • Testen von Businessmodellen
  • 19. 6+ Varianten 5 Varianten 4 Varianten 3 Varianten 2 Varianten Multivariate-Testing
  • 20. 77% aller Tests testen 2 Varianten 1% 2% 5% 14% 77% 6+ Varianten 5 Varianten 4 Varianten 3 Varianten 2 Varianten
  • 21. 5 Varianten zu testen erhöht die Win-Rate um 75% 43% 44% 37% 33% 25% 6+ Varianten 5 Varianten 4 Varianten 3 Varianten 2 Varianten Signifikante Steigerung Signifikante Reduktion Ohne Ergebnis +32% +48% +75% +71%
  • 22. Arten von Experimentation • A/B-Testing • Multivariate Testing • Painted-Door-Test • Performance-Test • Testen von Algorithmen • Testen von Businessmodellen
  • 23. Vorteile von Online-Experimenten Prüfung von Ideen zur: • Steigerung des Umsatzes • Optimierung der Conversion Rate (CRO) • Minimierung des Risiko bei der Ausrollung von Änderungen
  • 24. Fallbeispiel: A/B-Testing @ Secret Escapes Anmelden überspringen vs. Anmelden nicht überspringen
  • 25. Fallbeispiel: A/B-Testing @ Secret Escapes x 2 Anmelden nicht überspringenAnmelden überspringen vs.
  • 26. Fallbeispiel: Multivariate Testing @ Delivery Hero HintergrundvideoHintergrundbild(er) vs.
  • 27. Fallbeispiel: Multivariate Testing @ Delivery Hero HintergrundvideoHintergrundbild(er) vs. +11,4 %
  • 28. Fallbeispiel: Painted-Door-A/B-Test @ Optimizely Painted Door BPainted Door A vs.
  • 30. Fallbeispiel: Testen eines Businessmodells @ Missguided unicorn class premier delivery £9.99 unlimited free next day delivery for a whole year the days of adding £30 worth of mg goodies just for free next day delivery are over. have it your way for a year with unicorn class. no minimum spend, no hassle with codes, unlimited next day delivery has never looked so fly
  • 31. Zusammenfassung • Kundenbedürfnisse + Wettbewerb + Digitalisierung • Optimierung der Customer Experience • Agiles, nutzerzentriertes Vorgehen: Marktforschung + Analytics + Experimentation • Experimente zur Entmystifizierung der Welt/des Kunden • Steigerung des Umsatzes und der Conversions • Minimierung des Risikos
  • 32. Ressourcen • Bitkom: Digitale Kundenbeziehung - Wie Unternehmen auf ihre Kunden in der digitalen Welt eingehen und wie sie davon profitieren • Harvard Business Manager: Klüger Experimentieren
  • 34. Sandra Schröter Product Marketing Manager sandra.schroeter@optimizely.com Fragen & Antworten