KI kann heute große Teile digitaler Journeys automatisiert übernehmen – schneller und skalierbarer als manuelle Prozesse. Gleichzeitig zeigt sich mit jedem Automatisierungsschritt klarer: Es gibt Momente, in denen Nutzer:innen mehr brauchen als eine „richtige Antwort“ – nämlich Orientierung, Einordnung und das Gefühl, dass Verantwortung klar geregelt ist.
Human-centered AI setzt genau dort an. Als Verbindung von KI und Human Centered Design geht es um Systeme, die Menschen gezielt unterstützen: nachvollziehbar in der Interaktion, klar in der Führung, überzeugend in der Experience.
Viele KI-Initiativen folgen einer klaren Logik: Kosten senken, Geschwindigkeit erhöhen, Conversion und Resolution optimieren. Diese Logik ist notwendig – greift aber zu kurz, sobald Interaktionen über rein funktionale Transaktionen hinausgehen. Etwa wenn ein verspätetes Paket nicht nur ein Logistikproblem ist, sondern ein enttäuschtes Kundenerlebnis.
Studien zeigen ein wiederkehrendes Muster: KI wird vor allem dort akzeptiert, wo Aufgaben einfach, risikoarm und zuverlässig lösbar sind. In emotional belasteten oder komplexen Situationen steigt dagegen die Erwartung, dass menschliche Unterstützung erreichbar bleibt. (YouGov/Pega, 2026)
Das ist keine Grundsatzdebatte „Mensch vs. Maschine“, sondern eine Architekturentscheidung: Wo führt KI – und wo muss ein Mensch führen oder nahtlos übernehmen können?
In der Praxis zeigt sich diese Architekturfrage besonders deutlich in Conversational Interfaces: Chatbots, Assistants und generativen UI-Formaten. Conversational Design ist dabei nicht „Wording“, sondern die Gestaltung von Entscheidungsmomenten entlang der Journey – Situationen, in denen Nutzer:innen Unsicherheit erleben und Orientierung, Empfehlung oder eine geplante Übergabe benötigen. Genau dort entscheiden Kontext, Recovery-Pfad und Human-in-the-Loop darüber, ob KI Effizienz erzeugt oder Vertrauen beschädigt.
Die Grenze lässt sich pragmatisch ziehen: Je höher die emotionale Tragweite – Ärger, Unsicherheit, Geld, Risiko – und je komplexer der Vorgang, desto wichtiger wird menschliche Verantwortung. In einfachen, wiederkehrenden Fällen kann KI sehr zuverlässig unterstützen oder komplett führen. In High-Stakes-Momenten muss menschliche Führung erreichbar sein – inklusive sauberer Übergabe und Kontext.
Eine Bestellbestätigung zum Beispiel ist meist Standard. Eine Rechnungsreklamation oder ein Lieferproblem in einem kritischen Moment braucht dagegen Orientierung, Kulanzspielraum und klare Verantwortlichkeit.
Im Mai 2025 räumte Klarna-CEO Sebastian Siemiatkowski ein, dass ein zu starker Fokus auf Kostenreduktion im Kundenservice zu geringerer Qualität geführt habe. Gleichzeitig betonte er, wie wichtig es sei, dass Kund:innen immer die Möglichkeit haben, mit einem Menschen zu sprechen. Der Fall zeigt: KI kann Service effizienter machen – aber dort, wo Qualität, Vertrauen und Verantwortungsgefühl zählen, bleibt menschliche Erreichbarkeit ein zentraler Teil der Experience. (Bloomberg, 2025)
Was im Service als Frage von Verantwortung und Übergabe sichtbar wird, gilt zunehmend auch für Commerce Journeys: Wenn KI bereits Discovery und Vorauswahl prägt, entscheidet sich Vertrauen nicht erst im Support, sondern schon in der Kaufanbahnung.
Product Discovery verlagert sich in vielen Kategorien zunehmend in KI-Interfaces. Käufer:innen starten ihre Orientierung nicht mehr zwingend zuerst in der klassischen Suche oder auf der Shop-Startseite. Stattdessen werden Bedürfnisse iterativ über Prompts präzisiert, Alternativen schneller verglichen – und häufig bereits eine Vorauswahl getroffen, bevor es überhaupt zu direkten Touchpoints mit einer Marke kommt.
Parallel dazu erhöht KI die Vergleichbarkeit: Preis, Verfügbarkeit und Produktfit werden schneller sichtbar, was Austauschbarkeit in Teilen des Sortiments verstärken kann. Differenzierung verschiebt sich damit stärker in Marke, Vertrauen und Loyalität. Shops brauchen einen klareren Grund, warum Kund:innen nicht nur einmal kaufen, sondern wiederkommen. Genau deshalb gewinnen CRM und Loyalty an Bedeutung: Jede direkte Interaktion – auf der PDP, im Service oder im After Sales – muss stärker dazu beitragen, Beziehung aufzubauen, die Brand Promise einzulösen und konkrete Gründe für Wiederkauf zu schaffen.
Mit KI-Agents verkürzt sich zudem potenziell der Weg von Bedarf zur Entscheidung, wodurch sich der Zugang zu Marken weiter in Richtung Plattformen und KI-Ökosysteme verschieben kann.
Gerade Gen Z reagiert sensibel auf den Einsatz von KI in der Markenkommunikation: In aktuellen Studien werden solche Marken deutlich häufiger als unecht oder unethisch wahrgenommen als von Millennials. (IAB/Sonata Insights, 2026)
Viele Organisationen optimieren primär das, was leicht messbar ist: Geschwindigkeit, Kosten, Abschlussquoten. Beziehung, Vertrauen und Entscheidungssicherheit bleiben dabei häufig unberücksichtigt.
Dabei könnten moderne KI-Systeme genau hier unterstützen – durch frühe Signale, Risikoprognosen und vorbereitete Übergaben. Voraussetzung ist jedoch, dass diese Dimensionen bewusst Teil von Modell-, Metrik- und Architekturentscheidungen werden.
Wichtig ist außerdem die Messlogik: Eine hohe Agent-Quote klingt gut – aber wenn die Qualität der Problemlösung leidet, kann das langfristig Vertrauen und Loyalität beschädigen.
Human-centered AI ist kein Add-on, sondern eine Strukturfrage: Journey Design, Service-Setup und Messlogik müssen zusammenspielen. Die folgenden Prinzipien bündeln die wichtigsten Experience-Entscheidungen und die notwendigen System-Leitplanken, damit Human-centered AI skalierbar und verlässlich wird.
1. Touchpoints nach emotionalem Gewicht bewerten, nicht nur nach Conversion
Touchpoints werden nach emotionaler Tragweite priorisiert, nicht nur nach Drop-off. Ergänzend braucht es eine Kennzahl, die zeigt, ob Interaktionen „gefühlt gelöst“ sind – etwa über Follow-ups, Sentiment-Analyse oder qualitatives Feedback. CSAT allein sagt, was passiert ist – nicht, wie sich Kund:innen dabei gefühlt haben.
2. Die vier kritischsten Momente absichern, nicht alles gleichbehandeln
Besonders kritische Momente entscheiden über Erinnerung, Vertrauen und Loyalität:
In High-Stakes-Fällen reicht „Mensch verfügbar“ nicht: Es braucht klare Verantwortlichkeiten und Entscheidungsbefugnisse für Ausnahmefälle.
3. Menschliche Hilfe erreichbar halten, mit sauberem Übergabekontext
Die Hürde zur realen Person bleibt so niedrig wie möglich (ideal: ≤2 Schritte), wenn Frust oder Unsicherheit steigt. Übergaben geben den vollständigen Kontext mit – was passiert ist, was versucht wurde, warum abgegeben wird – damit niemand bei null startet. Conversational Recovery vermeidet Schleifen durch kurze Klärungsfragen, sinnvolle Alternativen und saubere Eskalation.
4. Research & Testing mit Menschen, nicht nur Annahmen und Metriken
Nutzerbedürfnisse und Kontext werden systematisch erhoben und Prototypen früh mit echten Nutzer:innen getestet. Die Ergebnisse fließen iterativ in Dialoglogik, Handoffs und Agent-Mandate ein – statt erst nach Go-Live über KPIs zu lernen.
5. Governance & Monitoring aufsetzen, nicht ad hoc entscheiden
Ein Governance-Setup definiert Rollen, Kriterien und Entscheidungswege für Risiko-Einschätzung, Freigaben und Monitoring über den gesamten Lebenszyklus. Ziel ist ein Vorgehen, das auditierbar ist und Entscheidungen konsistent macht.
6. Kontrolle ermöglichen, nicht blind vertrauen
Das System befähigt Menschen, Output zu verstehen, zu übersteuern und Risiken zu begrenzen – besonders in High-Stakes-Fällen. Bei agentischen Setups sind Mandate explizit: was der Agent darf, wer verantwortlich ist und welche Aktionen reversibel sind.
7. Antworten belegen & testen, nicht nur prompten
Antworten sind an belastbare Wissensquellen, Regeln und aktuelle Daten gebunden und werden systematisch geprüft: Testfälle, Qualitätskriterien, Monitoring. So werden Edge Cases, Qualitätsabfälle und Regelverstöße früh sichtbar – und gezielt verbessert.
Human-centered AI ist kein Gegenmodell zur Technologie. Sie ist ihre konsequente Weiterentwicklung. Bei Diconium verstehen wir Human-centered AI nicht als Einschränkung technologischer Möglichkeiten, sondern als deren konsequente Weiterentwicklung. Unsere Erfahrung aus Commerce-, CX- und KI-Projekten zeigt: Erfolgreich sind nicht Organisationen mit der höchsten Automatisierungsquote, sondern jene, die präzise entscheiden, wie und wann Automatisierung Verantwortung an Menschen übergibt – und welche Informationen dabei erhalten bleiben müssen.
Das bedeutet:
Die eigentliche Zukunftsfrage lautet also nicht, wie viel KI möglich ist. Sondern wie klar Unternehmen entscheiden, wo KI führen darf – und wo Menschen führen müssen. Wer das richtig gestaltet, skaliert nicht nur Effizienz, sondern Vertrauen. Und genau das wird im agentischen Commerce zum entscheidenden Unterschied.