AI-Output gibt die Schieflagen der Daten, mit denen er trainiert wurde, weiter. Als PO entscheidest du über Features, Personas und Priorisierung, also musst du Bias genau dort erkennen, wo er in Produktentscheidungen einsickert: in der Persona, die du dir generieren lässt; in der Marktannahme, die du ungeprüft übernimmst.
Gemeinerweise schleicht sich Bias nämlich gerne unbemerkt ein, kommt als super plausible Antwort, formuliert wie eine neutrale Zusammenfassung "der Nutzer". Wer schon eine Meinung hatte, findet sie bestätigt, wer keine hatte, übernimmt die des Modells, ohne es zu merken. Und das schlägt durch: In einer Studie der University of Washington folgten Menschen, die mit einem voreingenommenen AI-Tool Bewerbungen sichteten, dessen Schieflage in rund 90 Prozent der Fälle.1 Tja. da kann der Mensch noch so sehr das letzte Wort haben müssen, wie es im EU-AI-Act gefordert ist.
Ein Modell mittelt die Welt, samt ihrer Schieflagen
Ein Sprachmodell lernt aus dem, was im Netz steht, und das Netz bildet die Welt ab, inklusive dessen, wer darin über- und unterrepräsentiert ist und aller manifestierten Vorurteile. Wenn in den Daten überwiegend eine Sorte Nutzer, eine Sorte Karriere, eine Sorte Kaufverhalten vorkommt, wird genau das zur Norm, aus der das Modell schöpft. Es ist kein böser Wille im Modell, sondern halt der repräsentative Durchschnitt.
Amazon hat dafür das Lehrstück geliefert: Ein intern entwickeltes Recruiting-Tool, trainiert auf zehn Jahren eigener Bewerbungen aus einer männerdominierten Tech-Belegschaft, stufte Lebensläufe herab, in denen das Wort "women's" vorkam, etwa "Captain in women's chess club".2 Amazon versuchte nachzujustieren, konnte weitere Schieflagen jedoch nicht ausschließen und stampfte das Tool 2018 ganz ein. Das Modell hatte nichts Falsches gelernt, sondern nur die Vergangenheit.
Bias steckt in Personas, Priorisierung und Stakeholder-Texten
Generierte Personas und Zielgruppen. Lässt du dir eine Zielgruppe beschreiben oder Personas ausarbeiten, bekommst du das Klischee zurück, nicht die Bandbreite. Auf einer Konferenz im Südwesten Englands hat eine Professorin uns in ihrer Keynote generierte Bilder gezeigt:
- Die "group of doctors": ausnahmslos männlich, ausnahmslos weiß
- Das "cleaning personnel": überwiegend Frauen, keine einzige weiße Person im Bild
Wenn du nicht absichtlich gegensteuerst, geht's deinen Personas genauso, nur unsichtbarer. Ausgerechnet die bunt ausgeschmückten Personas mit Backstory und Charakter sind am meisten gebiased. In synthetischer Marktforschung schneiden nüchterne, statistiknahe Profile deswegeen besser ab als die liebevoll erfundenen.3
Beispiel-Nutzer und Namen. Frag nach einem Beispiel-User, einem fiktiven Kunden, einer Testperson, und beobachte, welche Namen, Rollen und Lebensläufe das Modell von selbst wählt. Die Verteilung ist selten die deiner tatsächlichen Nutzerbasis. Der bayerische Stadtrat ist natürlich männlich, weiß, Mitte 50, während die Community-Mitbewohnerin mit Migrationshintergrund einen sozialen Beruf ausführt.
Priorisierung und Marktannahmen. "Welche Features wollen unsere Nutzer zuerst?" beantwortet das Modell aus dem Durchschnitt seiner Daten, nicht zwingend aus deinem tatsächlichen Zielmarkt. Das ist super gefährlich, denn wenn so eine Annahme über Zahlungsbereitschaft oder Bedarf einfach ungechecked einfließt, baut Dein Team in schlimmsten Fall irgendwas.
Formulierungen im Stakeholder-Material. Generierte Texte reproduzieren Rollenbilder und Wortwahl aus den Trainingsdaten. Was unauffällig in eine Folie rutscht, kann nicht nur absolut sinnentleert sein (wie das LLMs manchmal so an sich haben), sondern eine Haltung transportieren, die du so nie vertreten würdest.
Gegensteuern heißt, nach dem zu fragen, was fehlt
Der Reflex ist derselbe wie beim Prüfen von Halluzinationen: nicht glauben, was souverän klingt, sondern gezielt gegen den ersten Vorschlag arbeiten.
Frag nach dem Gegenbeispiel. "Wer in unserer Zielgruppe passt nicht in diese Persona?" oder "Nenn mir drei Nutzertypen, die diese Priorisierung übersieht." Ein Modell, das zustimmen will, liefert dir sonst nur die bequeme Hälfte des Bildes.
Prompte bewusst mehrere Perspektiven. Lass dir dieselbe Frage aus Sicht verschiedener Rollen, Regionen und Erfahrungsstände beantworten und stell die Antworten nebeneinander. Wo sie auseinanderlaufen, sitzt die Annahme, die du prüfen solltest. Schon der Hinweis aufs Risiko wirkt messbar: Eine Studie von 2026 zeigt, dass Menschen die Fehler und Voreingenommenheit eines AI-Systems seltener übernehmen, wenn sie vorher ausdrücklich darauf hingewiesen wurden.4
Das Modell darf Optionen aufmachen, den Markt breiter zeichnen, haut dir im Optimalfall die eigenen blinden Flecken um die Ohren. Entscheiden musst aber immer noch Du selbst.
Bias ernst zu nehmen ist kein Ethik-Anhängsel, sondern Teil derselben Bewegung wie im Thesenpapier Der verschobene Engpass: Erzeugen ist billig, das Urteil darüber, was stimmt und wen es trifft, wird zur eigentlichen Arbeit. Warum am Ende ein Mensch die Verantwortung trägt und nicht das Tool, steht in AI-Adoption und Menschen.
Quellen
- University of Washington: People mirror AI systems' hiring biases (528 Teilnehmer folgten der Schieflage eines voreingenommenen AI-Tools in rund 90 Prozent der Fälle; Paper "No Thoughts Just AI", AAAI/ACM AIES 2025, arXiv:2509.04404), 10. November 2025.
- BBC: Amazon scrapped 'sexist AI' tool (Recruiting-Tool stufte Lebensläufe mit "women's" herab, 2018 eingestellt; Original: Reuters, 10. Oktober 2018), Oktober 2018.
- Li et al.: LLM Generated Persona is a Promise with a Catch (detailreiche Personas driften stärker von realem Verhalten ab), arXiv 2503.16527.
- Cognitive Research: Principles and Implications: Warning people about the risk of AI error mitigates human acquisition of AI bias (Warnhinweis reduziert die Übernahme von AI-Bias), April 2026.