„
Es liegt eine merkwürdige Ironie darin, wie wir künstliche Intelligenz bewerten: Wir haben Systeme geschaffen, um menschliche Fähigkeiten nachzuahmen und zu verbessern, bewerten ihren Erfolg jedoch anhand von Metriken, die alles erfassen, außer dem, was sie für Menschen wirklich wertvoll macht.
Die Dashboards der Tech-Industrie sind voll von beeindruckenden Zahlen zur KI: Verarbeitungsgeschwindigkeiten, Parameteranzahlen, Benchmark-Ergebnisse, Benutzerwachstumsraten. Die größten Köpfe des Silicon Valley optimieren ständig Algorithmen, um diese Metriken zu steigern. Doch in diesem Labyrinth von Messungen haben wir eine grundlegende Wahrheit aus den Augen verloren: Die ausgefeilteste KI der Welt ist wertlos, wenn sie das menschliche Leben nicht sinnvoll verbessert.
Betrachten Sie die Geschichte der frühen Suchmaschinen. Vor Google konkurrierten Unternehmen heftig um die schiere Anzahl indizierter Webseiten. Doch Google setzte sich nicht durch, weil es die größte Datenbank hatte, sondern weil es etwas Tieferes über menschliches Verhalten verstand – dass Relevanz und Vertrauenswürdigkeit wichtiger sind als reine Quantität.
KI, die Vertrauen aufbaut
Die heutige KI-Landschaft fühlt sich bemerkenswert ähnlich an, mit Unternehmen, die darum kämpfen, größere Modelle zu bauen, während sie möglicherweise die nuancierteren Elemente des auf den Menschen ausgerichteten Designs verpassen, die tatsächlich die Akzeptanz und den Einfluss vorantreiben.
Der Weg zu einer besseren KI-Bewertung beginnt mit Vertrauen. Neue Forschungen zeigen, dass Benutzer sich tiefer und nachhaltiger mit KI-Systemen engagieren, die ihre Argumentation klar erklären, auch wenn diese Systeme gelegentlich scheitern. Das ergibt intuitiv Sinn – Vertrauen, ob in Technologie oder Menschen, wächst aus Transparenz und Zuverlässigkeit, nicht aus reinen Leistungsmetriken.
Doch Vertrauen ist nur der Anfang. Die effektivsten KI-Systeme schaffen echte emotionale Verbindungen zu den Benutzern, indem sie ein echtes Verständnis der menschlichen Psychologie zeigen. Die Forschung zeigt ein überzeugendes Muster: Wenn KI-Systeme sich an die psychologischen Bedürfnisse der Benutzer anpassen, anstatt einfach Aufgaben auszuführen, werden sie zu integralen Bestandteilen des täglichen Lebens der Menschen. Es geht nicht darum, oberflächliche Freundlichkeit zu programmieren – es geht darum, Systeme zu schaffen, die das menschliche Erleben tatsächlich verstehen und darauf reagieren.
Vertrauen ist wichtiger als technische Fähigkeiten, wenn es um die Akzeptanz von KI geht. Eine bahnbrechende Studie zu KI-Chatbots mit fast 1.100 Verbrauchern ergab, dass Menschen bereit sind, Servicefehler zu verzeihen und der Marke treu zu bleiben, nicht basierend darauf, wie schnell eine KI ihr Problem löst, sondern darauf, ob sie dem System, das ihnen helfen soll, vertrauen.
KI, die dich versteht
Die Forscher entdeckten drei Schlüsselelemente, die dieses Vertrauen aufbauen: Erstens muss die KI eine echte Fähigkeit zeigen, das Problem zu verstehen und anzugehen. Zweitens muss sie Wohlwollen zeigen – den aufrichtigen Wunsch zu helfen. Drittens muss sie Integrität bewahren durch konsistente, ehrliche Interaktionen. Wenn KI-Chatbots diese Qualitäten verkörperten, waren Kunden signifikant eher bereit, Serviceprobleme zu verzeihen und weniger geneigt, anderen über ihre Erfahrungen zu klagen.
Wie macht man ein KI-System vertrauenswürdig? Die Studie ergab, dass einfache Dinge einen großen Unterschied machen: die Anthropomorphisierung der KI, die Programmierung, um Empathie durch ihre Antworten auszudrücken („Ich verstehe, wie frustrierend das sein muss“), und die Transparenz in Bezug auf den Datenschutz. In einem aussagekräftigen Beispiel war ein Kunde, der mit einer verspäteten Lieferung zu tun hatte, eher bereit, loyal zu bleiben, wenn ein Chatbot namens Russell ihre Frustration anerkannte und sowohl das Problem als auch die Lösung klar erklärte, im Vergleich zu einem unbenannten Bot, der nur Fakten nannte.
Diese Erkenntnis stellt die gängige Annahme in Frage, dass KI nur schnell und präzise sein muss. In den Bereichen Gesundheitswesen, Finanzdienstleistungen und Kundensupport sind die erfolgreichsten generativen KI-Systeme nicht unbedingt die ausgefeiltesten – sie sind diejenigen, die echte Verbindungen zu den Benutzern aufbauen. Sie nehmen sich Zeit, um ihre Argumentation zu erklären, Bedenken anzuerkennen und einen konstanten Mehrwert für die Bedürfnisse des Benutzers zu demonstrieren.
Und dennoch erfassen traditionelle Metriken nicht immer diese entscheidenden Dimensionen der Leistung. Wir brauchen Rahmenbedingungen, die KI-Systeme nicht nur nach ihrer technischen Kompetenz, sondern nach ihrer Fähigkeit bewerten, psychologische Sicherheit zu schaffen, echte Verbindungen aufzubauen und vor allem den Benutzern dabei zu helfen, ihre Ziele zu erreichen.
Neue KI-Metriken
Bei Cleo, wo wir uns darauf konzentrieren, die finanzielle Gesundheit durch einen KI-Assistenten zu verbessern, erforschen wir diese neuen Messungen. Das könnte bedeuten, Faktoren wie Benutzervertrauen und die Tiefe und Qualität des Benutzerengagements zu messen, sowie ganze Gesprächsverläufe zu betrachten. Es ist wichtig für uns zu verstehen, ob Cleo, unser KI-Finanzassistent, einem Benutzer mit jeder Interaktion helfen kann, das zu erreichen, was er versucht zu erreichen.
Ein nuancierteres Bewertungsrahmen bedeutet nicht, Leistungsmetriken aufzugeben – sie bleiben wichtige Indikatoren für kommerziellen und technischen Erfolg. Aber sie müssen mit tieferen Maßnahmen des menschlichen Einflusses ausgeglichen werden. Das ist nicht immer einfach. Eine der Herausforderungen bei diesen Metriken ist ihre Subjektivität. Das bedeutet, dass vernünftige Menschen unterschiedlicher Meinung darüber sein können, wie Gutes aussieht. Dennoch lohnt es sich, sie zu verfolgen.
Wenn KI tiefer in den Alltag eingebunden wird, werden die Unternehmen, die diesen Wandel verstehen, diejenigen sein, die erfolgreich sind. Die Metriken, die uns hierher gebracht haben, werden für das, wohin wir gehen, nicht ausreichen. Es ist an der Zeit, zu messen, was wirklich zählt: nicht nur, wie gut KI funktioniert, sondern wie gut sie den Menschen hilft zu gedeihen.
Die in Kommentarstücken von Fortune.com geäußerten Meinungen sind allein die Ansichten ihrer Autoren und spiegeln nicht unbedingt die Meinungen und Überzeugungen von Fortune wider.
Lies mehr:
Genesys CEO: Wie einfühlsame KI unsere Menschlichkeit während wirtschaftlicher Unsicherheit skalieren kann
Wenn KI KI baut: Die nächsten großen Erfinder könnten nicht menschlich sein
Der Zusammenbruch der KI-Kosten verändert, was möglich ist – mit massiven Auswirkungen auf Technologie-Startups
Ich habe Jahre damit verbracht, weiblichen Gründerinnen den Zugang zu Kapital zu ermöglichen. Jetzt, da sie KI haben, könnten sie es nicht mehr brauchen
Diese Geschichte wurde ursprünglich auf Fortune.com vorgestellt
„