KI in der Nutzerforschung: Was funktioniert, was scheitert und wo ziehen wir die Grenze?

KI in der Nutzerforschung: Was funktioniert, was scheitert und wo ziehen wir die Grenze?

Der Engpass war nie das Interview.

Jeder Artikel über KI und Nutzerforschung beginnt mit demselben Satz: Forschung ist langsam, KI beschleunigt sie. Diese Herangehensweise ist zwar nicht falsch, aber so ungenau, dass sie nutzlos ist, wenn man am Montagmorgen entscheiden muss, was man tatsächlich ändern soll.

Hier die genauere Version. Ein moderiertes Interview dauert sechzig Minuten und wird es auch immer tun, weil die Person sechzig Minuten sprechen muss. Was früher vier Tage dauerte, dauerte jetzt viel länger. um it – transkribieren, taggen, den Moment finden, in dem drei Teilnehmer dasselbe in drei verschiedenen Vokabularen sagten, und das in etwas umwandeln, worauf ein Produktmanager noch vor Sprintende reagieren konnte.

Hier ist die Zeit verflogen, und genau hier liegt die Stärke von Sprachmodellen. Sie erkennen Muster in Texten. Forschungssynthese ist ein Mustererkennungsproblem in Texten. Die Übereinstimmung ist real.

Doch dieselbe Eigenschaft, die sie für die Synthese so gut macht, macht sie auch gefährlich. Ein Modell, das Muster erkennt, findet Muster, ob welche existieren oder nicht, und beschreibt die von ihm erfundenen Muster mit derselben Selbstsicherheit wie die bereits vorhandenen. In der Forschung ist ein selbstsicheres, falsches Thema schlimmer als gar kein Thema, denn aus dem falschen Thema wird ein tragfähiges entwickelt.

Die Frage ist also nicht ob KI wird in der Nutzerforschung eingesetzt. Das tun bereits alle. Die Frage ist, welche Teile des Prozesses man auslagert, was man überprüft, bevor man den Ergebnissen vertraut, und was man gänzlich nicht automatisieren möchte. Genau darum geht es in diesem Artikel.

Wo KI ihren Platz tatsächlich verdient

Wir ordnen die KI dem Forschungsprozess stufenweise zu, anstatt sie als eine einzige Entscheidung zu betrachten. Verschiedene Phasen weisen sehr unterschiedliche Risikoprofile auf.

PraktikumWas KI gut kannWas es falsch machtUnsere Regel
Rekrutierung & VorauswahlErstellung von Screening-Fragen, Erkennen widersprüchlicher Antworten in den Screening-Fragen, Kennzeichnung potenziell professioneller BefragterÜberfilterung für redegewandte Teilnehmer; filtert die frustrierten Nutzer heraus, die Sie am dringendsten benötigen.Nur Unterstützung. Die endgültige Entscheidung trifft ein Mensch.
DiskussionsleitfadenErstellung eines ersten Entwurfs aus der Forschungsfrage, Vorschlag von Folgefragen, Überprüfung auf suggestive FragenErstellt generische Leitfäden, die das bereits Bekannte testenEntwurfsbeschleuniger. Der Forscher überarbeitet mindestens die Hälfte.
MäßigungNotizen in Echtzeit, Live-Tagging, Vorschläge für Fragen an einen menschlichen ModeratorKann Zögern, Unbehagen oder die Pause vor einer höflichen Lüge nicht deuten.Niemals autonom. Unterstützungsinstrument für einen menschlichen Moderator.
TranskriptionLautsprechertrennung, Zeitstempelung, erste BereinigungsrundeDie Genauigkeit türkischer Transkriptionen nimmt bei Fachjargon, Markennamen und Sprachwechseln stark ab.Automatisieren, dann stichprobenartig 10 % mit dem Audio vergleichen.
Codierung & TaggingDie konsistente Anwendung eines bestehenden Codebuchs auf Hunderte von Transkripten bei hoher GeschwindigkeitNeue Codes mitten im bestehenden Korpus erfinden; unterschiedliche Probleme zu einer einzigen, bequemen Bezeichnung zusammenfassen.Automatisieren Sie mit einem festen, von Menschen erstellten Codebuch.
SyntheseClusterbildung, Aufdecken von übergreifenden Teilnehmermustern, Verfassen des ersten ErzählentwurfsVerwechselt Häufigkeit mit Wichtigkeit; beschwichtigt abweichende Meinungen.Nur ein Entwurf. Jedes Theme wird vor der Veröffentlichung bis zu seiner Quelle zurückverfolgt.
Kontinuierliche Feedback-AnalyseApp-Store-Bewertungen, Support-Tickets, NPS-Berichte im Original, Chatprotokolle in einem Umfang, den kein Team manuell lesen kannDie Stimmungsanalyse interpretiert Sarkasmus und kulturelle Indirektheit schlecht.Hochwertige Automatisierung mit Stichprobenprüfungen.
ArtefaktbauPersonas, Customer Journey Maps, Opportunity Trees aus validierten EingabenErzeugt plausible Artefakte aus spärlichen oder fehlenden Beweisen.Ausschließlich auf Basis verifizierter Forschungsergebnisse, niemals auf Basis des Weltwissens des Modells.

Zwei Zeilen in dieser Tabelle sind mehr wert als alle anderen zusammen.

Programmierung im großen Stil. Wenn man ein von einem Menschen erstelltes Codebuch hat, ist dessen konsequente Anwendung auf 40 Transkripte genau die Art von mühsamer, regelbasierter Arbeitsweise, bei der sich solche Modelle bewähren. Hier liegt das größte vermeidbare Zeitpotenzial.

Kontinuierliche Feedbackanalyse. Die meisten Unternehmen horten Tausende von App-Store-Bewertungen, Support-Tickets und Umfrageprotokollen, die seit ihrem Eingang niemand mehr gelesen hat. Dies ist der ertragreichste und risikoärmste Einsatz von KI in diesem Bereich, denn man ersetzt keine laufende Forschung, sondern wertet Daten aus, die sonst im Müll gelandet wären. Wir behandeln dieses Thema ausführlich in [Link einfügen]. Wie KI Nutzerfeedback in umsetzbare Produkterkenntnisse verwandeln kann.

Die vier Fehlermodi, die wir immer wieder feststellen

Hierbei handelt es sich nicht um theoretische Risiken. Es sind konkrete Dinge, die bei realen Projekten schiefgehen, ungefähr in absteigender Reihenfolge, wie häufig wir sie entdecken.

1. Häufigkeit, die als Wichtigkeit getarnt ist

Bittet man ein Modell, zwanzig Interviews zusammenzufassen, wird es die am häufigsten geäußerten Aussagen hervorheben. Der Forschungswert liegt jedoch in der Regel nicht in der häufigsten Antwort. Er liegt vielmehr in dem einen Teilnehmer, der den Gesprächsfluss komplett abgebrochen hat, oder in den beiden, die unabhängig voneinander dieselbe Umgehungslösung beschrieben haben, oder in dem Abschnitt, der den von allen anderen besprochenen Schritt nie erreicht hat.

Ein Modell, das eine Checkout-Studie zusammenfasst, zeigt Ihnen, dass die Transparenz der Versandkosten wiederholt thematisiert wurde. Es verschweigt Ihnen jedoch, dass die beiden einzigen Teilnehmer, die den Kauf abgeschlossen haben, bereits eingeloggt waren – was das eigentliche Ergebnis ist und im Korpus lediglich als fehlende Information erscheint.

Unser Check: Wir fragen explizit nach der Minderheitsposition. „Welcher Teilnehmer stimmte dem sich abzeichnenden Konsens nicht zu, und was sagte er?“ Kann das Modell keinen solchen Teilnehmer nennen, werten wir die Zusammenfassung als unvollständig und nicht als Beleg für Übereinstimmung.

2. Fließende Erfindung

Die Modelle erzeugen Zitate, die sich anhören, als hätte sie ein Teilnehmer gesagt – nur dass sie einem Teilnehmer zugeschrieben werden, der sie gar nicht gesagt hat. Nicht oft. Aber oft genug. Und der Fehler ist bei genauerem Hinsehen nicht erkennbar, denn ein erfundenes Zitat liest sich besser als ein echtes – echte Menschen sprechen in Bruchstücken.

Unser Check: Jedes Zitat, das in die Kundenpräsentation gelangt, enthält einen Transkriptverweis und einen Zeitstempel. Kann es in der Originalaufnahme nicht gefunden werden, wird es nicht versendet. Dies ist eine strikte Regel, keine Ermessensfrage, denn genau das ist hier der Fehler.

3. Schmeichelhafte Synthese

Gibt man einem Modell die Hypothese und die Daten, bestätigt die Synthese die Hypothese. Gibt man dieselben Daten mit der gegenteiligen Hypothese, bestätigt die Synthese auch diese. Dies ist der mit Abstand teuerste Fehler im Beratungsbereich, da er zwar genau das vom Kunden gewünschte Ergebnis liefert, aber gleichzeitig den eigentlichen Grund für die Beauftragung zunichtemacht.

Unser Check: Syntheseaufforderungen enthalten niemals die Hypothese. Das Modell erhält das Korpus und die Forschungsfrage, sonst nichts. Wenn wir eine Hypothese testen wollen, führen wir sie als separaten, adversariellen Durchlauf aus: „Finde die stärksten Belege in diesem Korpus.“ gegen die folgende Behauptung."

4. Synthetische Nutzer

Die selbstbewussteste und am wenigsten zu verteidigende Anwendung: die Generierung simulierter Teilnehmer und deren Befragung anstelle von echten Menschen. Sie erzeugt schnell plausible Transkripte, und genau diese Plausibilität ist das Problem. Ein im Internet trainiertes Modell sagt Ihnen, was eine Persona ausmacht. hört sich an wieEs handelt sich dabei um eine Zusammenfassung dessen, wie über solche Leute geschrieben wird – nicht darum, wie sie sich verhalten, wenn Ihre Formularvalidierung ihre Adresse beim dritten Versuch ablehnt.

Synthetische Nutzer sind nur für einen Zweck nützlich: um einen Gesprächsleitfaden zu testen, bevor man echte Teilnehmer einsetzt. Genau dafür nutzen wir sie. Wir verwenden sie nicht als Beweismittel und veröffentlichen ihre Ergebnisse nicht als Forschungsergebnisse. Wenn Ihnen ein Anbieter ein Forschungsprogramm ohne menschliche Teilnehmer anbietet, verkauft er Ihnen eine sehr teure Methode, Ihre bestehenden Annahmen zu bestätigen.

Unser Arbeitsprotokoll

Dies ist der tatsächliche Ablauf, nicht eine idealisierte Version.

1. Die Menschen schreiben zuerst das Codebuch. Bevor ein Modell auf ein Transkript angewendet wird, liest ein Forscher drei bis fünf Interviews und erstellt das Kodierschema manuell. Dieses Schema basiert auf den Daten dieser Studie und nicht auf einer allgemeinen UX-Taxonomie. Alle nachfolgenden Schritte profitieren von der Qualität dieses Schrittes, weshalb wir ihn niemals verkürzen.

2. Das Modell wendet den Rahmen an, und nur den Rahmen. Festes Codebuch, keine neuen Kategorien während des Laufs. Wenn das Modell auf etwas stößt, das nicht vom Codebuch abgedeckt wird, kennzeichnet es es als nicht klassifiziert, anstatt eine Anpassung zu erzwingen. Die nicht klassifizierten Daten sind oft die interessantesten Ergebnisse des gesamten Laufs.

3. Eine 15%-Stichprobe doppelt kodieren. Die gleichen Transkripte werden unabhängig voneinander von einem Menschen und vom Modell kodiert, und wir messen die Abweichungsrate. Liegt diese unter 10 %, fahren wir fort. Liegt sie über 20 %, ist das Kodierbuch fehlerhaft, nicht das Modell – wir gehen zurück zu Schritt eins. Die Abweichungsrate dient als Diagnosekriterium für das System, und diese Herangehensweise hat uns mehr erspart, als sie lediglich als Qualitätskriterium für die Werkzeuge zu verwenden.

4. Syntheseentwurf ohne Hypothese in der Aufgabenstellung. Das Modell erhält den Korpus und die Forschungsfrage. Es erzeugt Cluster und eine erste Erzählung.

5. Rückverfolgbarkeit bestanden. Jede Aussage im Entwurf wird mit mindestens zwei Teilnehmern und Zeitstempeln verknüpft. Aussagen, die nicht nachvollziehbar sind, werden gelöscht, nicht abgeschwächt. Eine Aussage, die von genau einem Teilnehmer gestützt wird, wird als einzelne Beobachtung gekennzeichnet. Dies ist zwar legitim und oft wertvoll, aber kein Thema.

6. Triangulation anhand von Verhaltensdaten. Geäußertes und beobachtetes Verhalten weichen ständig voneinander ab. Wir gleichen die Ergebnisse von Interviews mit Sitzungsaufzeichnungen und Heatmap-Daten – Wutklicks, inaktive Klicks, Abbruchpunkte – ab, bevor etwas an einen Kunden weitergeleitet wird. Wenn Teilnehmer angeben, der Filter sei in Ordnung, die Aufzeichnungen aber zeigen, dass sie ihn verlassen, haben die Aufzeichnungen Vorrang. Genau hier stößt KI-gestützte qualitative Forschung am ehesten an ihre Grenzen, denn Verhaltensdaten berücksichtigen nicht, wie kohärent die Erzählung war.

7. Die Empfehlung wird von einem Menschen verfasst. Die Ergebnisse können mit Unterstützung zusammengetragen werden. Was in dieser Organisation, unter diesen Rahmenbedingungen und mit diesem Fahrplan daraus zu tun ist, ist eine Ermessensfrage, die von jemandem getroffen wird, der an den Interviews teilgenommen hat.

Was wir nicht automatisieren

Die engere Auswahl, und daran halten wir fest.

  • Moderation von Interviews mit schutzbedürftigen oder belasteten Nutzern. Forschung zu Gesundheitsversorgung, finanziellen Schwierigkeiten und Barrierefreiheit. Die Aufgabe des Moderators besteht teilweise in seiner Sorgfaltspflicht, und diese ist nicht delegierbar.
  • Die Empfehlung. Siehe Schritt sieben.
  • Barrierefreiheitsbewertung. Automatisierte Werkzeuge – einschließlich unserer eigenen WCAG-Audit-Tool – erkennt etwa ein Drittel der WCAG-Probleme. Die restlichen Probleme erfordern manuelle Tests mit Hilfstechnologien. Jeder Anbieter, der eine vollständig automatisierte Abdeckung behauptet, beschreibt lediglich einen Scan, keine Prüfung.
  • Die Entscheidung, was man nicht recherchieren soll. Die Festlegung des Untersuchungsrahmens ist der Punkt, an dem der größte Teil des Forschungswerts geschaffen oder zerstört wird; es handelt sich um ein strategisches Gespräch, nicht um eine Zusammenfassungsaufgabe.

Eine Anmerkung zur türkischsprachigen Forschung

Die meisten veröffentlichten Leitfäden zur KI-gestützten Forschung sind in englischer Sprache verfasst und validiert, und die Leistungslücke ist real und wird zu wenig diskutiert.

Die türkische Transkription weist deutliche Schwächen bei Markennamen, Branchenjargon und dem in Istanbuler Produkt- und E-Commerce-Teams üblichen Sprachwechsel zwischen Englisch und Türkisch auf. Die Stimmungsanalyse kommt mit indirekter türkischer Ausdrucksweise schlecht zurecht – die höfliche Abschwächung vor einer ernsthaften Beschwerde wird von einem hauptsächlich auf Englisch trainierten Klassifikator oft als neutral oder positiv interpretiert. Die agglutinierende Morphologie führt außerdem dazu, dass Keyword-Frequenz-Ansätze bei offenen Umfragedaten zu einer deutlichen Untererfassung führen, da ein einzelnes Konzept in einem Dutzend flektierter Formen vorkommt, die der Tokenisierer als nicht verwandt behandelt.

Praktische Konsequenzen: Erhöhen Sie Ihre Stichprobenrate für Transkriptionen auf über 10 %, wie Sie sie für Englisch verwenden würden, verlassen Sie sich bei türkischen Korpora niemals allein auf automatisierte Stimmungsanalysen und validieren Sie jeden Klassifikator anhand einer manuell annotierten türkischen Stichprobe, bevor Sie dessen Ergebnisse in großem Umfang verwenden. Aus genau diesem Grund verwenden wir unseren eigenen Validierungsdatensatz.

Woran man erkennt, ob es funktioniert

Geschwindigkeit ist das falsche Kriterium. Alle werden schneller; die Frage ist, ob das Ergebnis der Realität standhält. Drei Kennzahlen, die wir tatsächlich erfassen:

Überlebensrate der Erkenntnis. Welcher Anteil der in einem Forschungsbericht präsentierten Ergebnisse galt sechs Monate später noch als gültig? Diese Frage ist zwar unangenehm zu beantworten, aber jede Mühe lohnt sich.

Abweichungsrate zwischen Mensch und Modell. Aus dem dritten Schritt oben. Verfolgen Sie die Entwicklung im Zeitverlauf. Zunehmende Uneinigkeit bedeutet in der Regel, dass sich das Forschungsgebiet verlagert hat, das Codebuch jedoch nicht.

Zeitspanne vom letzten Interview bis zur ersten überprüfbaren Hypothese. Das ist die Zahl, die KI tatsächlich bewegt. Dauerte die Synthese früher acht Tage und jetzt nur noch zwei, bedeutet das zwei zusätzliche Experimentierzyklen pro Quartal – was der eigentliche Business Case ist und durchaus überzeugend. Nur argumentieren die meisten Anbieter nicht so.

Tiefer gehen

Dieser Artikel bietet einen Überblick. Vier Begleitartikel behandeln die einzelnen Phasen im Detail:

Häufig gestellte Fragen

Kann KI Nutzerinterviews vollständig ersetzen? Nein. Es kann einen Teil der Arbeit rund um Interviews ersetzen – Transkription, Kodierung, erste Synthese – und Ihnen helfen, bessere Interviews vorzubereiten. Es kann jedoch keine Erkenntnisse über das Verhalten von Menschen liefern, da es keinen Einblick in deren Verhalten hat. Simulierte Teilnehmer zeigen Ihnen, wie solche Personen in Texten beschrieben werden, was etwas anderes und häufig irreführend ist.

Wie viel Zeit spart KI-gestützte Forschung tatsächlich? Unserer Erfahrung nach konzentriert sich die Einsparung fast ausschließlich auf die Synthese und Kodierung, wo sie beträchtlich ist. Feldarbeit, Rekrutierung und die Einbindung der Stakeholder bleiben unverändert. Realistischerweise lässt sich bei einer moderierten Studie erwarten, dass sich die Phase nach der Feldarbeit deutlich verkürzt, während die Gesamtprojektdauer wesentlich weniger sinkt – da die Feldarbeit stets den größten Zeitaufwand darstellte.

Sind synthetische Konsumenten jemals legitim? Als Übungsinstrument für Gesprächsleitfäden und zum Testen von Fragebogenformulierungen: ja. Als Beleg in einer Forschungsarbeit: nein. Die Unterscheidung ist wichtig: Das eine ist eine Vorbereitungshilfe, das andere sind erfundene Daten mit dem Etikett „Forschung“.

Was ist das größte Risiko? Selbstsicher, flüssig, aber fehlerhaft – und zwar genau die Version, die mit den bestehenden Annahmen des Teams übereinstimmt. Gefälschte Zitate werden durch Rückverfolgbarkeitsregeln aufgedeckt. Überhebliche Synthese ist schwieriger, da sie ein Ergebnis liefert, mit dem alle zufrieden sind. Der einzig zuverlässige Schutz besteht darin, die Hypothese von der Synthesevorgabe zu trennen und einen expliziten, kritischen Testlauf durchzuführen.

Funktioniert KI-gestützte Forschung auch im Türkischen? Nicht ohne Weiteres nutzbar. Transkriptionsgenauigkeit, Stimmungsanalyse und Methoden zur Keyword-Häufigkeitsbestimmung sind bei Türkisch im Vergleich zu Englisch deutlich schlechter. Es ist zwar nutzbar und wird täglich eingesetzt, erfordert aber höhere Abtastraten, validierte Klassifikatoren und einen Forscher mit Türkischkenntnissen.

Möchten Sie eine zweite Meinung zu Ihrem Rechercheprozess einholen?

Wenn Sie KI-gestützte Forschung betreiben und wissen möchten, ob Ihre Ergebnisse einer kritischen Prüfung standhalten würden – oder wenn Sie entscheiden müssen, was automatisiert und was geschützt werden soll –, überprüfen wir Ihren aktuellen Prozess und sagen Ihnen klar, wo das Risiko liegt.

 


Çağdaş Polat
Geschrieben von

Çağdaş Polat

Çağdaş Polat ist Mitgründer von Switas und leitet dort die Technologie- und Wachstumsberatung für Marken aus den Bereichen E-Commerce, Reisen, Gesundheitswesen und dem öffentlichen Sektor. Der Informatikabsolvent, der im letzten Jahrzehnt von der Softwareentwicklung in leitende Positionen in Marketing, Produktentwicklung und Strategie wechselte, berät Unternehmen heute zu Conversion-Rate-Optimierung (CRO), Analytik und dem Aufbau messbarer Wachstumssysteme.


Ähnliche Artikel

Switas, wie gesehen auf

Magnify: Influencer-Marketing skalieren mit Engin Yurtdakul

Sehen Sie sich unsere Microsoft Clarity-Fallstudie an

Wir hoben Microsoft Clarity als Produkt hervor, das von erfahrenen Produktmanagern mit Blick auf praxisnahe Anwendungsfälle entwickelt wurde, die die Herausforderungen von Unternehmen wie Switas verstehen. Funktionen wie die Erkennung von Wutklicks und die JavaScript-Fehlerverfolgung erwiesen sich als unschätzbar wertvoll, um Frustrationen der Nutzer und technische Probleme zu identifizieren und so gezielte Verbesserungen zu ermöglichen, die sich direkt auf die Nutzererfahrung und die Konversionsraten auswirkten.