UX & KI: So werden KI-Produkte erfolgreich

Was ist UX und warum ist es wichtig für die Entwicklung von KI?

Die erfolgreiche Nutzerakzeptanz eines KI-gestützten Produkts beginnt lange vor der eigentlichen Nutzung des Produkts - hier kommt die User-Experience (UX) ins Spiel. UX umfasst die gesamte User Journey, von der Einarbeitung in das Produkt (Product-Onboarding) über die Benutzerfreundlichkeit während der Nutzung bis hin zu den Interaktionen nach der Nutzung (z. B. Empfehlungen). Das Product-Onboarding befasst sich mit Fragen wie: Wie einfach war es, das Produkt zu erwerben und einzurichten? Wie einfach war es, die Anweisungen zu befolgen? Die Benutzerfreundlichkeit hingegen misst, wie effizient, effektiv und angenehm wir das Produkt nutzen können. Wenn die Nutzer mit ihrer Erfahrung zufrieden sind, werden sie das Produkt mit größerer Wahrscheinlichkeit weiterempfehlen.

UX ist kein neues Konzept. Tatsächlich existiert UX für Softwarelösungen bereits seit den 1950er Jahren, als die Mensch-Maschine-Interaktion an der Schnittstelle zwischen Computertechnik und Psychologie entwickelt wurde. Jede Lösung beginnt mit einem Problem oder einer Herausforderung, die wir entweder mit einem nicht KI-gestützten oder einem KI-gestützten Ansatz angehen möchten. Bei der Benutzerfreundlichkeit von Softwareprodukten und -lösungen steht die Technologie selbst jedoch nicht im Vordergrund. Den Nutzern ist es egal, welche Technologie hinter dem Produkt steckt – sie suchen einfache Lösungen für die Herausforderungen, mit denen sie täglich konfrontiert sind. Obwohl künstliche Intelligenz unser Repertoire zur Lösung dieser Probleme zweifellos erweitert, geht es den Nutzern vor allem um das Produkt selbst. Der Erfolg eines Produkts lässt sich letztlich an einer entscheidenden Frage messen: „Wird es von den Nutzern angenommen?“

In unseren Projekten beobachten wir häufig, dass neben vielen erfolgreichen Produkten auch eine beträchtliche Anzahl scheitert, dass neben vielen erfolgreichen Produkten auch eine erhebliche Anzahl scheitert. Diejenigen Produkte, die es über das Stadium des Proof of Concept (PoC) oder Minimal Viable Product (MVP) hinausschaffen und sich zu weit verbreiteten KI-gesteuerten Lösungen entwickeln, durchliefen in der Regel eine Phase, in der die Nutzererfahrung im Fokus stand. Obwohl diese Produkte zu Beginn hervorragende technologische Lösungen boten, war der entscheidende Durchbruch bei der Akzeptanz der Moment, in dem der Nutzer in den Mittelpunkt gestellt wurde, bevor der weltweite Erfolg eintrat.

Im Idealfall bieten diese KI-gesteuerten Produkte den Nutzern Vorteile und sind benutzerfreundlich. Wenn wir erfolgreiche KI-Produkte schaffen wollen, die letztlich von den Nutzern weitreichend akzeptiert werden, sollte unser Hauptziel darin bestehen, Produkte zu entwickeln, die den Menschen in den Mittelpunkt stellen und echten Mehrwert für den Nutzer bieten.

Die Entwicklung nutzerzentrierter Produkte

Bei der Entwicklung von Produkten, die den Menschen in den Mittelpunkt stellen, wird die Benutzererfahrung (UX) über die gesamte User Journey hinweg berücksichtigt, wobei der Mensch von Anfang an in den Fokus rückt. Eine gängige Methode zur Gestaltung der Benutzerfreundlichkeit ist das nutzerzentrierte Design (ISO 9241).

1. Benutzerzentriertes Design: Die Produktentwicklungsphase beginnt mit dem Verständnis des Nutzers. Mithilfe von Interviews, Workshops oder Nutzerforschung werden die Bedürfnisse der Nutzer ermittelt und verstanden.

2. Anforderungen ableiten: Aus diesem Nutzerverständnis werden Anforderungen für Softwarefunktionen und -merkmale abgeleitet. Diese Anforderungen übersetzen die Bedürfnisse der Benutzer in technische Funktionen.

3. Prototypen erstellen: Die Anforderungen werden visuell in einem Prototyp, Wireframe oder Designvorschlag abgebildet. Diese Prototypen bieten den Vorteil, dass sie die Vorstellungskraft anregen. Sowohl Benutzer, Geschäftsinhaber als auch Entwickler können die Produktvision sehen und verstehen und Feedback geben. Der Prototyp kann in verschiedenen Abstufungen (Fidelity) vorliegen: von einer Skizze mit Stift und Papier bis zu einem Demonstrator im Zielsystem. Beim benutzerzentrierten Design wird oft ein niedrigerer Grad an Detailtreue bevorzugt, um frühes und ehrliches Feedback von den Benutzern zu erhalten.

4. Nutzerfeedback sammeln: Direktes Nutzerfeedback ist für nutzerzentrierte Entwürfe unerlässlich, um die Prototypen zu bewerten und sowohl Anforderungen als auch Prototypen iterativ anzupassen. Dieses Feedback kann auch in einen KI-Algorithmus einfließen, sodass die künstliche Intelligenz an das Benutzerfeedback angepasst wird und darauf basiert. Ein bekanntes Beispiel ist die Personalisierung, z.B. beim Hören von Musik. Durch das Feedback zu unserem Musikgeschmack kann sich der Algorithmus so anpassen, dass er häufiger Musik vorschlägt, die unserem Geschmack entspricht.

In unseren Business-Intelligence-Projekten setzen wir seit langem auf nutzerzentriertes Design, insbesondere bei der Entwicklung von Dashboards. Das Feedback unserer Kunden zeigt deutlich, wie uns dieser Ansatz von vielen internen GenAI-Initiativen unterscheidet. Durch die Integration nutzerzentrierten Designs in die Entwicklung Agentic AI-Produkte stellen wir sicher, dass wir Lösungen schaffen, die wirklich auf die Bedürfnisse der Endnutzer eingehen. Dies resultiert in Produkten, die bei den Nutzern gut ankommen.

Was ist neu in UX mit KI?

UX bleibt für KI-Produkte nach wie vor entscheidend, da Nutzer Lösungen bevorzugen, unabhängig von der verwendeten Technologie. Sie wünschen sich KI-Produkte, die eine positive Benutzererfahrung bieten. Dabei gibt es jedoch neue Aspekte, die im Zusammenhang mit dem Einsatz von KI besonders wichtig sind. Mit KI-gestützten Produkten haben wir eine neue Dimension der Benutzererfahrung geschaffen, indem wir verfügbare Daten nutzen und eine Ebene künstlicher Intelligenz integrieren. Diese Intelligenz ermöglicht verschiedene Autonomiestufen, die von vollautomatisierten KI-Lösungen (vollständige Autonomie) bis hin zu erweiterten KI-Lösungen reichen. Während die Automatisierung menschliche Aufgaben übernimmt, erweitert die Augmentation die menschliche Arbeit mit KI, wodurch eine kollaborative Dynamik zwischen Mensch und KI entsteht. Diese Partnerschaft führt zu neuen Prinzipien des Vertrauens und der Kontrolle. Ein entscheidender Aspekt dieser Entwicklung in der Benutzererfahrung ist die natürliche Sprache, die eine intuitivere und menschenähnlichere Interaktion mit der KI ermöglicht. Indem Nutzer in ihrer eigenen Sprache mit der KI kommunizieren können, wird die Technologie zugänglicher und besser auf menschliche Interaktionen abgestimmt, was die gesamte UX verbessert.

Diese unterschiedlichen Autonomiestufen erfordern ein hohes Maß an Vertrauen der Nutzer in die Entscheidungen des KI-Systems. Wenn ein vollständig autonomes KI-Produkt eigenständig Entscheidungen trifft, müssen die Menschen diesen vertrauen. Deshalb ist es entscheidend, vertrauenswürdige Lösungen zu entwickeln. Zudem basieren KI-gestützte Systeme auf Wahrscheinlichkeiten und Unsicherheiten, die dem Nutzer verständlich gemacht werden müssen. Zum Beispiel kann sich die Antwort auf dieselbe Frage in einem Chatbot je nach probabilistischer Natur großer Sprachmodelle unterscheiden. Die Entwicklung vertrauenswürdiger Systeme ist ein eigenes Thema, das darauf abzielt, dem Nutzer Kontrolle zu geben, KI erklärbar zu machen, Vorurteile zu vermeiden, vor potenziellem Schaden und Missbrauch zu schützen und die richtige Balance zwischen Transparenz und Nutzerfreundlichkeit zu finden.

Je nach Vertrauensniveau benötigt der Mensch eine gewisse Kontrolle über das System. Ein KI-System sollte idealerweise ein lernendes System sein, das sich an das Feedback der Nutzer anpasst, um eine höhere Personalisierung oder Genauigkeit zu erreichen. Der Nutzer muss verstehen, dass sein Feedback entscheidend für bessere Ergebnisse ist. Zudem müssen Produktentwickler erkennen, an welchen Stellen Nutzer die Kontrolle über eine automatisierte oder erweiterte Lösung benötigen. Häufige Aufgaben, bei denen der Mensch die Kontrolle behalten sollte, umfassen angenehme Tätigkeiten, verantwortungsvolle Aufgaben, kritische Situationen mit hohem Einfluss auf Sicherheit, Gesundheit oder finanzielle Risiken sowie visionäre Aufgaben. KI-Produkte müssen ein ausgewogenes Verhältnis zwischen Benutzerkontrolle und den autonomen sowie erweiterten Funktionen des Systems bieten.

Was ist neu in UX mit Agentic AI?

Das gilt auch für spezifischere KI-Lösungen, die generative KI-Technologie nutzen, um Artefakte zu erstellen (z. B. Texte, Bilder, Töne oder Videos) oder die Zusammenarbeit zwischen Agenten zu ermöglichen. Mit Agentic AI rückt die Zusammenarbeit zwischen Mensch und KI immer stärker in den Fokus, da Agenten den Menschen bei komplexeren Arbeitsabläufen unterstützen können. Durch den Einsatz natürlicher Sprache können wir Agenten erstellen und ihnen durch gezielte Eingabeaufforderungen bestimmte Rollen zuweisen.

Die UX für generative KI stellt uns vor die besondere Herausforderung der generativen Variabilität. Mit generativer KI schaffen wir Artefakte, die jedoch aufgrund von Wahrscheinlichkeiten variieren können, was zu einer größeren Vielfalt der Ergebnisse führt.

Wir haben diese Erkenntnisse in sechs grundlegende Mensch-KI-Prinzipien für die Entwicklung von menschenzentrierten, Agentic AI-Anwendungen zusammengefasst.

• Benutzererfahrung: KI-Projekte sind stark technologiegetrieben [8]. Daher ist es umso wichtiger, Agentic AI-Produkte zu entwickeln, die die tatsächlichen Nutzerbedürfnisse ansprechen. Der Schlüssel zum Erfolg liegt in der Entwicklung von Produkten, bei denen der Mensch im Mittelpunkt steht, und zwar durch einen nutzerzentrierten Designansatz. In unseren Kundenprojekten, in denen wir agentenbasierte Produkte entwickelt haben, zeigt unsere Erfahrung, dass sich unser Ansatz von anderen GenAI-Projekten abhebt. Wir hielten uns konsequent an den nutzerzentrierten Designprozess, um die tatsächlichen Bedürfnisse der Nutzer zu erfüllen. Denken Sie daran: Die Nutzer interessieren sich für die Produkte, die sie verwenden, nicht für die Technologie dahinter.
• Benutzerkontrolle: Bei Agentic AI-Produkten unterstützen KI-Agenten die menschliche Arbeit durch eine enge Zusammenarbeit zwischen Mensch und KI. Da diese Agenten Aufgaben entweder automatisieren oder ergänzen können, ist es entscheidend, Bereiche zu identifizieren, in denen der Mensch die Kontrolle behalten sollte und in denen er diese an die KI abgeben kann (siehe Abschnitt „Was ist neu an KI für UX?“). Dieses Konzept der Kontrolle ist unter dem Begriff „Human-in-the-Loop“ bekannt. Die Forschung zur UX für Agentic AI ist noch nicht abgeschlossen, aber um den Nutzer im Prozess zu behalten, sollte das KI-System die Daten, die es zur Verbesserung seiner Dienste verwendet (z. B. Chat-Verlauf), anpassbar und vom Nutzer kontrollierbar machen. Stellen Sie sich vor, Ihr Agentensystem weiß, dass Sie in einem großen Unternehmen als Teamleiter arbeiten und passt alle Antworten an Ihre Position an. Sollte Sie eine höhere Managementposition erreichen, wäre es wichtig, dass Sie 1) über diese Annahme des Systems (Teamleiter zu sein) informiert werden und 2) die Informationen an Ihre neue Rolle anpassen können. Dies führt uns zu einem weiteren wichtigen Prinzip: der Notwendigkeit von Transparenz.
• Transparenz: Agentic AI ist eine neue Technologie, deren effektive Nutzung wir als Menschen erst lernen müssen. Die Nutzer müssen begreifen, wie sie diese Technologie nutzen können, um die besten Ergebnisse zu erzielen (z. B. durch das Schreiben effektiver Prompts). Wie können wir sie dabei unterstützen? Indem wir den Nutzer bei der effizienten Nutzung des Systems anleiten, z. B. durch eine Onboarding-Tour oder eine Schnellstartanleitung für ein besseres Verständnis. Es ist wichtig, dass die Nutzer verstehen, dass die Ergebnisse der KI auf Wahrscheinlichkeiten beruhen und variieren können. KI kann auch Fehler machen, und diese sollten für den Nutzer transparent gemacht werden, damit er sie korrigieren kann. Dazu könnte auch die Visualisierung von Unsicherheiten gehören, sodass der Benutzer selbst entscheiden kann, wann der Agent unsicher über seine Antwort ist. Transparenz ist der Schlüssel zum Aufbau von Vertrauen.
• Kollaboration: Das vorangegangene Beispiel zeigt, wie KI und Menschen in der Agentic AI zunehmend zusammenarbeiten. Durch die Entwicklung von Co-Creation werden die Stärken von KI und Mensch genutzt. Dazu gehört auch, den Menschen beizubringen, wie sie effektive Ergebnisspezifikationen formulieren können. Mit Gen AI hat sich ein neues Paradigma für die Interaktion zwischen Mensch und KI entwickelt, bei dem der Mensch absichtsbasierte Ergebnisse in natürlicher Sprache äußert. Wenn wir den Menschen beibringen, dies effektiv zu tun, wird die Kommunikation mit den KI-Agenten klarer, was zu besseren und effizienteren Ergebnissen führt. Gleichzeitig sollten wir die Lücke zwischen UX und KI überbrücken, indem wir dem Nutzer sowohl domänenspezifische als auch allgemeine UX-Eingabeelemente zur Verfügung stellen (z. B. anwendungsfallrelevante Schaltflächen), die Anpassungen ermöglichen und eine gemeinsame Bearbeitung durch Mensch und KI unterstützen.
• Vertrauensaufbau: „Ein erfolgreiches Team von Menschen basiert auf Vertrauen, so auch ein Team von Menschen und KI“ [2]. Bei der Zusammenarbeit mit Agentic AI müssen wir den Entscheidungen der KI vertrauen, indem wir beispielsweise die Quellen für das von ihr verwendete Wissen offenlegen. Dies erfordert ein angemessenes Maß an Transparenz. Es ist entscheidend, die Funktionsweise des Systems zu erklären: Die Nutzer müssen die Fähigkeiten und Grenzen der KI verstehen, um ihre Nutzung und die Ergebnisse besser nachvollziehen zu können. Indem man dem KI-Produkt eine klare Rolle zuweist – sei es als Werkzeug, Assistent oder Kopilot im kollaborativen Mensch-KI-Team – wird es für die Menschen leichter, die KI zu verstehen und ihr Vertrauen entgegenzubringen [5].
• Ethisches Design: Gleichzeitig müssen wir Produkte entwickeln, die potenzielle Schäden für die Nutzer erkennen und Mechanismen zur Risikominderung integrieren. Ein häufiges Beispiel sind Halluzinationen in GenAI, die eine Gefahr für Fake News darstellen können. Eine Lösung besteht darin, diese Risiken zu minimieren oder sie dem Nutzer transparent zu machen, sodass er die Kontrolle hat und in der Lage ist, sie zu korrigieren.

Unsere Erfahrungen mit der Entwicklung von KI-Produkten, bei denen der Mensch im Mittelpunkt steht

Im Folgenden finden Sie eine Zusammenstellung von Erkenntnissen aus unseren Kundenprojekten:

• Entwicklung von nutzerzentrierten Produkten: Viele Agentic AI-Projekte sind technologiegetrieben. Nutzer erwarten jedoch sorgfältig konzipierte Lösungen, die ihren Bedürfnissen entsprechen – dies erhöht die Nutzerakzeptanz. Mit einem nutzerzentrierten Designansatz können wir sowohl Technologie als auch Nutzerakzeptanz kombinieren können.
• Benutzerkontrolle erhöhen: Wir brauchen neue Integrationen, die einfache, auf Eingabeaufforderungen basierende Chatbot-Fenster mit Benutzeroberflächen verbinden und so natürliche Sprache mit Benutzerkontrolle kombinieren. Daher muss UX zusätzliche Lösungen für Benutzeroberflächen entwickeln, die die Zusammenarbeit zwischen Mensch und KI in Zukunft berücksichtigen.
• Ethische KI-Lösungen entwickeln: Die Nutzung von Nutzerfeedback und Monitoring, um relevante Nutzerschäden zu verstehen und Nutzer davor zu schützen, ist wichtig, um durch Kompetenz und Wohlwollen Vertrauen aufzubauen.
• Feedback zur kontinuierlichen Produktverbesserung einbeziehen: Nur durch regelmäßige Nutzertests können wir beurteilen, wie erfolgreich unser Produktdesign ist, und es weiter verfeinern, um die Bedürfnisse der Nutzer besser zu erfüllen.
• Fokus auf den Anwendernutzen statt auf die Technik: Die Nutzer wollen gut funktionierende Produkte. Kommunizieren Sie auf verständliche Art und Weise sowohl die Grenzen als auch die Vorteile eines KI-Produkts.

Fazit

Zusammenfassend lässt sich sagen, dass es für die Entwicklung von KI-Produkten, die von den Nutzern wirklich angenommen werden, entscheidend ist, genügend Zeit und Ressourcen in die sorgfältige Gestaltung des Nutzererlebnisses zu investieren. Wenn wir von Anfang an einen nutzerzentrierten Designansatz wählen, können wir sowohl Zeit als auch Kosten sparen, indem wir es gleich zu Beginn richtig angehen. Ein Beispiel aus unseren Kundenprojekten ist ein Kopilot, der die Erstellung technischer Dokumente unterstützt und den wir mit einem menschenzentrierten Ansatz entwickelt haben. Wie hat er geholfen? Indem er Entwicklungszeit und -kosten reduzierte, die richtigen Funktionen priorisierte und den Kontakt zu den Endbenutzern aufrechterhielt.

Erinnern Sie sich an unser früheres Beispiel der Großeltern und ihrer Smartphones? Lassen Sie uns gemeinsam Agentic AI-Produkte entwickeln, die auf eine Vielzahl von Menschen zugeschnitten sind, wie z. B. einen Copiloten für Großeltern, der ihnen hilft, mit Familie und Freunden in Verbindung zu bleiben.

Sie wollen KI-Lösungen entwickeln, die bei Ihren Nutzern gut ankommen? Wir können Sie dabei unterstützen. Kontaktieren Sie uns noch heute.

Quellen

• [1] Stracqualursi, Luisa, and Patrizia Agati. "Twitter users perceptions of AI-based e-learning technologies." Scientific Reports 14.1 (2024): 5927.
• [2] Kore, Akshay. Designing Human Centric AI Experiences. Berkeley: Apress, 2022.
• [3] Lew, Gavin, and Robert M. Schumacher. AI and UX: Why artificial intelligence needs user experience. USA: Apress, 2020.
• [4] Shneiderman, B. (2020). Human-Centered Artificial Intelligence: Reliable, Safe & Trustworthy. arxiv.org/abs/2002.04087v1
• [5] Weisz, J. D., He, J., Muller, M., Hoefer, G., Miles, R., & Geyer, W. (2024, May 11). Design Principles for Generative AI Applications. Conference on Human Factors in Computing Systems - Proceedings. https://doi.org/10.1145/3613904.3642466
• [6] https://www.forrester.com/report/the-state-of-generative-ai-2024/RES180458
• [7] https://pair.withgoogle.com/chapter/user-needs/#section1