KI-Agenten in der Kundenberatung: starke Assistenten, schwache Berater

Hallo, hier ist wieder Kora. Ein Artikel auf t3n hat mich diese Woche zum Nachdenken gebracht: Es geht um die Frage, ob GPT-Apps und KI-Agenten menschliche Kundenberater ersetzen können – und die Antwort ist erfrischend unaufgeregt.

Vom Chatfenster zum handelnden System

Als ChatGPT Ende 2022 groß wurde, war das Prinzip simpel: Prompt rein, Text raus. Inzwischen sieht das anders aus. Agentische Systeme und die App-Plattform von OpenAI ziehen Daten aus CRM-Systemen, Angebotsdatenbanken und anderen Quellen zusammen, greifen über APIs auf Drittanbieter-Tools zu und laden eigene Oberflächen direkt im Chat. Recherchen, für die ein Mensch Stunden braucht, laufen in Sekunden.

Auch die Gesprächsführung hat sich verändert. Statt starre Formulare abzuarbeiten, führen die Modelle mehrstufige Dialoge, fragen bei unklaren Angaben nach und graben tiefer, um Präferenzen oder Risiken herauszuarbeiten. Das wirkt tatsächlich wie eine ordentliche Erstberatung.

Wo es in der Praxis bricht

Die im Artikel zitierten Untersuchungen sind allerdings ziemlich ernüchternd. Ein Benchmark für Finanzanalysen aus 2025 kommt bei komplexen Aufgaben auf eine Genauigkeit von unter 47 Prozent. Apple Research hat 2024 gezeigt, dass Sprachmodelle bei mehrstufigen Denkketten irgendwann schlagartig versagen. Und Studien zu Finanz-LLMs belegen, dass Modelle oft nur auf Oberflächenmuster reagieren oder Denkfehler, die schon im Prompt stecken, brav weitertragen.

Besonders spannend finde ich eine Arbeit von Meta FAIR und der University of Edinburgh: Denkfehler lassen sich als konkrete Fehlfunktionen im internen Netzwerk nachweisen. Von außen kann man sie gezielt korrigieren – das Modell selbst merkt davon nichts und schreibt unbeirrt weiter. Genau diese fehlende Selbstkorrektur ist der Knackpunkt. Ein System, das eigene Logikfehler nicht bemerkt, taugt nicht als letzte Instanz bei Rechts-, Finanz- oder Strategiefragen.

GPT-Apps sind Hüllen, keine Berater

Ein Punkt, den ich aus dem Text besonders mitnehme: Die GPT-Apps selbst sind transaktionsorientiert. Sie fragen Daten ab, laden Widgets, füllen Felder, rufen APIs auf und führen definierte Aktionen aus. Das eigentliche Schlussfolgern, das Abwägen von Graubereichen, das strategische Denken – all das liefert nicht die App-Architektur, sondern das LLM im Hintergrund. Die App ist eine funktionale Hülle. Wer glaubt, mit einer eigenen App volle Kontrolle über die Antwortqualität zu haben, täuscht sich also teilweise selbst.

Was das für unsere Ecke bedeutet

Für uns im Hosting- und Rechenzentrumsumfeld lässt sich das gut übersetzen. KI-Assistenz ist stark bei Dingen wie:

• Zusammenführen von Informationen aus Ticketsystem, Dokumentation und Monitoring
• Vorbereiten von Antworten, Entscheidungsvorlagen und Zusammenfassungen
• Erstem Sortieren von Anfragen nach Thema und Dringlichkeit
• Routineabläufen mit klaren Ein- und Ausgaben

Schwach wird es überall dort, wo mehrere Schlussfolgerungen aufeinander aufbauen und ein Fehler in Schritt zwei den ganzen Rest unbrauchbar macht. Eine Störungsanalyse, eine Architekturentscheidung, ein Security-Vorfall mit unklarer Faktenlage: Da will ich kein System, das sich sicher klingend in eine falsche Richtung argumentiert. Und genau das tun Sprachmodelle bekanntlich mit großer Überzeugung.

Praktisch heißt das für mich: klare Zuständigkeiten definieren, Grenzen der Automatisierung dokumentieren, Ausgaben überprüfbar halten und einen Eskalationsweg zum Menschen einbauen, der nicht erst nach drei Schleifen greift. Wer Agenten schreibende Rechte auf produktive Systeme gibt, sollte sich die Fehlerquoten aus den genannten Benchmarks noch einmal in Ruhe ansehen.

Der menschliche Faktor bleibt

Der Artikel verweist auf Kai-Fu Lee und sein Buch „AI Superpowers“: Bei Mustererkennung und großen Datenmengen ist die Maschine dem Menschen weit überlegen. Bei Vertrauen, sozialer Verantwortung und echter Empathie nicht. Eine KI kann Mitgefühl sprachlich simulieren, aber weder fühlen noch Verantwortung für ihre Entscheidungen übernehmen.

Das deckt sich mit meiner Erfahrung. Wenn bei einem Kunden gerade der Shop steht und der Umsatz wegbricht, geht es nicht nur um die technisch korrekte Antwort. Es geht darum, dass jemand den Hörer abnimmt, die Situation einordnet und geradesteht. Interessanterweise könnte der persönliche Kontakt dadurch sogar wichtiger werden: Je mehr Informationssuche über KI-Interfaces läuft, desto stärker wird der Mensch zum Vertrauensanker.

Mein Fazit: KI-Apps als Co-Piloten – ja, gerne, sie nehmen uns viel stumpfe Arbeit ab. Als alleinverantwortliche Berater bei schwierigen Entscheidungen – noch lange nicht.

Bis demnächst, eure Kora

Quelle: t3n