Was können KI-Agenten in Unternehmen, und wo scheitern sie?

Was ist ein KI-Agent, und was ist keiner?

Ein KI-Agent ist ein System, in dem ein KI-Sprachmodell nicht nur antwortet, sondern selbst steuert, wie es ein Ziel erreicht: welche Schritte es geht, welche Hilfsmittel es nutzt und wann es fertig ist. Ein Sprachmodell ist die KI, die Texte versteht und schreibt, zum Beispiel Claude von Anthropic, GPT von OpenAI oder Mistral Large von Mistral AI.

Den Unterschied versteht man am besten im Vergleich mit einem Workflow.

Workflow: Die Schritte stehen fest, die KI erledigt einzelne davon

Ein Workflow ist ein fester Ablauf, auch feste Automatisierung genannt. Wer ihn baut, legt die Schritte und ihre Reihenfolge vorab im Code fest. Das Sprachmodell erledigt darin einzelne Schritte, etwa einen Text zusammenfassen oder einen Beleg auslesen. Was davor und danach passiert, bestimmt der Code.

Ein denkbares Beispiel aus dem Vertrieb: Über das Kontaktformular kommt eine Anfrage. Der Ablauf legt den Kontakt im CRM an. Dann fasst das Sprachmodell das Anliegen in drei Sätzen zusammen und ordnet es einem Thema zu. Zum Schluss geht die Anfrage an das zuständige Team. Die Schritte sind bei jeder Anfrage dieselben. Die KI entscheidet nur, was in der Zusammenfassung steht und welches Thema passt.

Agent: Das Sprachmodell wählt die Schritte selbst

Bei einem Agenten bekommt das Sprachmodell ein Ziel und eine Reihe von Hilfsmitteln, etwa Zugriff auf CRM, Postfach oder Kalender. Welche davon es in welcher Reihenfolge nutzt, entscheidet es selbst. Es plant einen Schritt, führt ihn aus, sieht sich das Ergebnis an und entscheidet über den nächsten, bis das Ziel erreicht ist. So beschreibt es auch Anthropic, der Hersteller von Claude, in einem Beitrag vom April 2026: Ein Agent entscheidet selbst, wie er erreicht, was der Nutzer will, statt einem festen Drehbuch zu folgen.

Ein denkbares Beispiel aus dem Büro: „Bereite mein Gespräch mit Kunde X morgen um 10 Uhr vor.“ Der Agent sieht im CRM die letzten Kontakte nach. Findet er dort ein offenes Angebot, sucht er im Postfach die Mails dazu. Ist unklar, wer am Termin teilnimmt, schaut er in den Kalender. Dann schreibt er eine Gesprächsnotiz. Bei einem anderen Kunden geht er womöglich ganz andere Schritte.

Kein Agent ist dagegen eine Anwendung, in der das Modell den Ablauf nicht steuert. OpenAI zählt in seinem Leitfaden zum Bau von Agenten einfache Chatbots und Anwendungen mit einem einzelnen Modellaufruf ausdrücklich nicht dazu. Für die Praxis ergeben sich daraus drei Stufen:

	Chatbot	Workflow mit KI-Schritt	KI-Agent
Wer bestimmt die Schritte?	der Mensch, Frage für Frage	der Code, festgelegt beim Bau	das Sprachmodell, während der Arbeit
Was kann er auslösen?	Er arbeitet im Chatfenster für den Nutzer: sucht im Web, wertet Bilder aus, erstellt Dateien. In euren Systemen wie ERP, Mail oder Kalender handelt er nicht selbstständig, solange er nicht angebunden ist.	genau die vorgesehenen Aktionen	alles, wofür er in angebundenen Systemen Rechte hat
Wie vorhersehbar ist das Ergebnis?	die Antwort schwankt	der Ablauf ist immer gleich, nur der KI-Schritt schwankt	Weg und Ergebnis können jedes Mal anders sein
Wofür taugt er?	Fragen beantworten, recherchieren, Texte entwerfen	wiederkehrende Abläufe mit festen Schritten	offene Aufgaben, deren Schritte sich vorab nicht festlegen lassen

Der Fachbegriff „agentische KI“ meint dasselbe: KI, die nicht nur antwortet, sondern handelt. Vorsicht bei Produktnamen. Viele Angebote, die „Agent“ heißen, sind Chatbots oder feste Abläufe mit neuem Etikett. Dazu mehr im Abschnitt über das Scheitern.

Wo setzen Unternehmen KI-Agenten sinnvoll ein?

Sinnvoll ist ein Agent dort, wo die Schritte von Fall zu Fall verschieden sind und ein Mensch das Ergebnis ohnehin ansieht. Drei Muster tauchen immer wieder auf:

• Lesen und einordnen. Eingänge vorsortieren, bevor jemand sie bearbeitet.
• Suchen und vorbereiten. In eigenen Unterlagen nachschlagen und eine Antwort mit Quellenangabe entwerfen.
• Vorgänge vorbereiten, die ein Mensch freigibt. Der Agent stellt zusammen, ein Mensch schickt ab.

Drei denkbare Beispiele, ausdrücklich keine Projekte von uns: Im Rechnungseingang prüft ein Agent, zu welcher Bestellung eine Rechnung gehört, und schlägt bei Unklarheit nach. Im Support eines Softwareherstellers liest ein Agent neue Tickets, sucht ähnliche gelöste Fälle und schlägt das zuständige Team vor. Bei einer Kundenanfrage entwirft ein Agent aus früheren Angeboten eine Antwort, die ein Mensch prüft und verschickt.

Ob ein Agent zu eurer Aufgabe passt, zeigen fünf Fragen:

1. Ist das Ziel klar? Man muss erkennen können, wann die Aufgabe erledigt ist.
2. Lässt sich das Ergebnis prüfen? Von einem Menschen oder von einer Regel.
3. Ist der Schaden bei einem Fehler begrenzt? Oder wird der Fehler abgefangen, bevor er wirkt?
4. Liegen die nötigen Daten vor? Digital und zugänglich.
5. Haben die beteiligten Systeme eine Schnittstelle? Ohne sie kann der Agent nichts nachschlagen und nichts übergeben.

Fehlt einer dieser Punkte, wird es schwierig. Und oft zeigt sich beim genauen Hinsehen: Die Schritte stehen eigentlich fest. Dann reicht ein Workflow mit einem KI-Schritt. Er ist günstiger, schneller und berechenbarer. Auch die Modellhersteller raten dazu. OpenAI empfiehlt in seinem Leitfaden, vor dem Bau eines Agenten zu prüfen, ob die Aufgabe wirklich Abwägung verlangt, an schwer pflegbaren Regeln hängt oder viele unstrukturierte Daten wie Freitext und Dokumente betrifft. Sonst reiche eine feste Lösung. Anthropic rät, mit der einfachsten Lösung zu beginnen und mehrstufige Agenten erst zu bauen, wenn sie nicht reicht. Gartner rät sinngemäß, Agenten dort einzusetzen, wo Entscheidungen nötig sind, Automatisierung für Routineabläufe und Assistenten für einfaches Nachschlagen.

Wo scheitern KI-Agenten?

Fehler schaukeln sich auf. Jeder Schritt, den ein Agent selbst wählt, baut auf dem vorigen auf. Liegt er früh daneben, arbeitet er auf falscher Grundlage weiter. Anthropic beschreibt das in einem Beitrag vom Januar 2026 so: Agenten nutzen ihre Hilfsmittel über viele Schritte und verändern dabei Daten, deshalb können sich Fehler fortpflanzen und verstärken. Höhere Kosten nennt Anthropic schon in einem Beitrag von 2024 als Preis der Selbstständigkeit, dazu die Empfehlung, ausgiebig in abgeschotteten Umgebungen zu testen und passende Schutzvorkehrungen einzubauen.

Falsche Sicherheit. Ein Sprachmodell liefert auch dann eine Antwort, wenn es unsicher ist, und sie klingt oft genauso überzeugend wie eine richtige. Wer das Ergebnis ungeprüft übernimmt, merkt den Fehler erst, wenn er Folgen hat.

Zu viele Rechte. Ein Agent mit Schreibzugriff kann falsche Daten ins System bringen, Nachrichten verschicken oder Bestellungen auslösen. Was er darf, muss zur Aufgabe passen, und nicht mehr.

Unklarer Nutzen. Gartner erwartet in einer Prognose vom 25. Juni 2025, dass über 40 Prozent der Projekte mit agentischer KI bis Ende 2027 eingestellt werden. Als Gründe nennt Gartner steigende Kosten, unklaren Geschäftsnutzen und unzureichende Risikokontrolle. Das ist eine Prognose, kein Messwert.

Etikett statt Agent. Gartner beschreibt in derselben Mitteilung „Agent Washing“: Anbieter benennen vorhandene Produkte wie KI-Assistenten, Software-Roboter (RPA) oder Chatbots in Agenten um, ohne dass nennenswerte agentische Fähigkeiten dahinterstehen. Nach Schätzung von Gartner sind nur etwa 130 der Tausenden Anbieter agentischer KI echt.

Aufwendige Anbindung. Agenten in gewachsene Systeme einzubinden, ist laut Gartner oft technisch komplex und erfordert teure Anpassungen. Unsere Erfahrung passt dazu: Der größere Teil der Arbeit steckt selten im Modell, sondern im Weg in die vorhandene Software und zurück.

Praxisfall: Was hat uns ein Machbarkeitstest über Agenten gezeigt?

Status: Machbarkeit getestet · PoC läuft aktuell

Ausgangslage. Ein Softwarehersteller für Lagerlogistik wollte in seiner Lagerverwaltungssoftware eine neue Funktion anbieten: Ausgedruckte und eingescannte Lieferscheine werden automatisch erfasst, und die Positionen werden im System als Wareneingang verbucht. Bisher tippt sie jemand im Wareneingang ab. Die Software arbeitet mit vielen Mandanten, also den Firmen, deren Ware im Lager liegt. Jeder Beleg muss beim richtigen Mandanten landen.

Die eigentliche Aufgabe ist die Zuordnung. Jede Position auf dem Lieferschein wird mit den Artikelstammdaten des Mandanten abgeglichen. Nur so wird der Wareneingang auf den richtigen Artikel gebucht, zum Beispiel 20 Stück von Artikel A. Die Lieferanten benennen ihre Ware aber anders als der Mandant. Auf dem Lieferschein steht etwa „KABELBINDER 200X4,8 SW“ mit der Nummer des Lieferanten, in den Stammdaten „Kabelbinder 200 mm schwarz“ mit einer eigenen Artikelnummer. Die KI muss erkennen, dass beides derselbe Artikel ist. Im Test trug zudem fast jede Position mindestens zwei Artikelnummern, etwa die des Lieferanten und die des Kunden. Welche davon zählt, ist also nicht die Ausnahme, sondern der Normalfall.

Was wir geprüft haben. Im Juli 2026 haben wir verschiedene echte Lieferscheine verschiedener Lieferanten durch ein KI-Modell laufen lassen, das Bilder lesen kann. Geprüft haben wir, wie gut es Lieferscheine in unterschiedlichen Sprachen, Layouts und Scanqualitäten liest: um 90 Grad gedreht, blass und kontrastarm, sehr dicht bedruckt, mit einem Klebezettel über den Spalten, auf Türkisch.

Ergebnis. Das Modell hat Kopfdaten und Positionen auf allen Belegen ausgelesen, auch auf den gedrehten und blassen Scans. Stichproben von Artikelnummern und Mengen stimmten mit dem Beleg überein. Den Empfänger, an dem der richtige Mandant hängt, hat es auf allen acht Belegen erkannt, die einen Empfänger tragen, einmal mit einem Tippfehler. Alle Belege gingen allerdings an denselben Empfänger. Ob das Modell mehrere Mandanten sicher auseinanderhält, ist noch nicht getestet. Was der Klebezettel verdeckte, ließ es leer, statt etwas zu erfinden. Rund 50 Teilenummern in einer einzigen Tabellenzelle zerlegte es in einzelne Positionen, türkische Sonderzeichen kamen richtig an.

In einem zweiten Test ging es nur um die Schrift. Dafür haben wir Testbelege in sechs Sprachen selbst erzeugt, darunter Griechisch, Chinesisch und Arabisch. Ergebnis: Die Schrift ist kaum ein Hindernis, Artikelnummer, Menge und Einheit wurden durchgehend richtig gelesen. Fehler gab es nur auf den arabischen Belegen: In Warenbezeichnungen wurden ähnliche Buchstaben verwechselt, und auf dem gescannten Beleg landeten Lieferschein- und Bestellnummer im jeweils falschen Feld. Das sind Testbelege mit einem einzigen, sauberen Layout. Sie zeigen, dass fremde Schriften kein Ausschlussgrund sind, nicht, wie gut die Erkennung im Alltag ist.

Grenze. Eine Erkennungsrate in Prozent für die echten Lieferscheine haben wir noch nicht. Dafür braucht es für jeden Beleg die richtige Buchung zum Vergleich. Auch der Abgleich mit den Stammdaten war noch nicht Teil des Tests. Beides misst der PoC, Produktivzahlen gibt es noch nicht. Die Einzelheiten stehen in der Fallstudie Lieferscheine automatisch erfassen.

Lehre. Für dieses Thema ist spannender, was wir bewusst nicht gebaut haben: einen frei handelnden Agenten. Wir haben die Aufgabe in drei Teile zerlegt und für jeden gefragt, ob ein Agent dort etwas bringt.

Teil	Was passiert	Agent?
Lesen	Beleg rein, Felder und Positionen raus	Nein. Ein einzelner Modellaufruf mit festem Datenformat reicht. Ein Agent brächte nur mehr Kosten, mehr Wartezeit und mehr Zufall.
Zuordnen	Welcher Mandant, welcher Artikel?	Höchstens hier, weil nachgeschlagen und abgewogen werden muss. Ist die Zuordnung nicht eindeutig, wählt ein Mensch aus.
Schreiben	Übergabe an das Lagerverwaltungssystem	Nein. Das erledigt fester, geprüfter Code, und davor bestätigt ein Mensch.

Dazu kommt die Prüfansicht: Was nicht sicher erkannt wird, geht nicht durch. Ein Mensch bestätigt oder korrigiert die offenen Felder, mit dem Beleg daneben. Daraus folgt die Antwort auf die Titelfrage. Selbstständigkeit gehört dorthin, wo ein Fehler billig ist. Freigabe gehört dorthin, wo er teuer wird.

Wie gut die Erkennung selbst trägt und wo ihre Grenzen liegen, steht im Artikel was KI in bestehender Software zuverlässig kann. Wie solche Funktionen in vorhandene Systeme kommen, beschreibt die Seite KI in bestehende Software integrieren.

Wie viel Kontrolle braucht ein KI-Agent?

Mehr, als die meisten Vorführungen zeigen. Kontrolle ist dabei kein Notbehelf, sondern Teil des Entwurfs. Diese fünf Stellschrauben gehören in jedes Agenten-Projekt:

1. Rechte begrenzen. Lesen ja, schreiben nur dort, wo die Aufgabe es verlangt.
2. Freigabe vor Folgen. Bevor etwas verschickt, gebucht oder geändert wird, bestätigt ein Mensch. OpenAI nennt heikle und nicht umkehrbare Aktionen wie Zahlungen oder hohe Erstattungen ausdrücklich als Anlass für eine menschliche Prüfung.
3. Protokoll führen. Was hat der Agent getan, auf welcher Grundlage, mit welchem Ergebnis?
4. Abbruchregel festlegen. Nach einer Höchstzahl an Schritten oder bei Unsicherheit hört der Agent auf und meldet sich. Auch OpenAI empfiehlt, Wiederholungen und Aktionen zu begrenzen und danach an einen Menschen zu übergeben.
5. An eigenen Daten testen. Vor dem Start mit echten Fällen, gerade mit den schwierigen.

Der Mensch im Ablauf ist dabei keine Notlösung. Er ist der Teil, der Verantwortung trägt. Anthropic fasst die Spannung so zusammen: Agenten müssen selbstständig arbeiten, um nützlich zu sein, und trotzdem müssen Menschen die Kontrolle behalten. Das klappt nur, wenn die Person prüfen kann und Zeit dafür hat. Eine Freigabe, die jemand zwischen zwei Terminen wegklickt, ist keine Kontrolle.

Was bedeuten Datenschutz und KI-Verordnung für KI-Agenten?

Datenschutz. Sieht ein Agent personenbezogene Daten, gilt die DSGVO wie bei jeder anderen Software. Es braucht eine Rechtsgrundlage, mit Dienstleistern einen Vertrag zur Auftragsverarbeitung (Art. 28) und eine bewusste Entscheidung, welche Daten welches Modell sehen darf. Eigens geregelt sind Entscheidungen, die ausschließlich automatisiert fallen und gegenüber einer Person rechtliche Wirkung haben oder sie ähnlich erheblich beeinträchtigen (Art. 22). Wer einen Agenten über Menschen entscheiden lassen will, muss hier genau hinsehen.

KI-Verordnung. Welche Pflichten gelten, hängt vom Einsatzzweck ab. Maßgeblich ist die Fassung vom 27. Juli 2026, geändert durch die Verordnung (EU) 2026/1744. Für Agenten sind drei Punkte besonders wichtig:

• KI-Kompetenz (Art. 4). Wer KI-Systeme anbietet oder einsetzt, ergreift Maßnahmen, um die KI-Kompetenz der eigenen Leute zu unterstützen. Ein bestimmtes Niveau muss dabei niemand garantieren.
• Transparenz (Art. 50). Ein KI-System, das direkt mit Menschen interagiert, etwa mit euren Kunden, muss so gebaut sein, dass sie erfahren, dass sie mit einer KI zu tun haben, außer es ist offensichtlich. Das gilt seit dem 2. August 2026.
• Hochrisiko (Anhang III). Strengere Pflichten gelten für bestimmte Einsatzzwecke, etwa wenn ein System Bewerbungen sichtet oder die Kreditwürdigkeit von Personen prüft. Für diese Fälle greifen sie nach der Änderung ab dem 2. Dezember 2027.

Wo die Daten verarbeitet werden, entscheiden wir pro Fall, je nach Datenart, Menge und Anforderung. Dazu gehören Hosting in Deutschland, ein AV-Vertrag und benannte Unterauftragnehmer.

Das ist keine Rechtsberatung. Für euren konkreten Fall klärt das am besten jemand mit Rechtskenntnis.

Kann man einen KI-Agenten selbst erstellen?

Ja, für kleine, risikoarme Aufgaben könnt ihr einen KI-Agenten selbst erstellen, mit fertigen KI-Tools und Baukästen auch ohne Programmierung. Schwierig wird es, sobald eigene Systeme, Rechte, Datenschutz und Prüfschritte dazukommen.

Selbst bauen reicht, wenn	Hilfe lohnt sich, wenn
der Agent nur liest und vorbereitet	er in Bestandssysteme schreiben soll
keine personenbezogenen Daten im Spiel sind	Kundendaten oder Daten von Beschäftigten dazukommen
ein Fehler wenig kostet	Freigaben und Protokolle nötig sind
alles in einem KI-Tool bleibt	Schnittstellen zu ERP, Lager oder CRM gebraucht werden

Auch der Selbstbau ist nicht „ohne Arbeit“. Ein Agent braucht Funktionen, die er aufrufen darf, Regeln für unsichere Fälle, ein Protokoll und Tests mit echten Daten. Es wird weniger programmiert und mehr eingerichtet, aber der Aufwand verschwindet nicht.

Wer es ausprobieren will, fängt am besten mit einer Aufgabe an, bei der der Agent nur einen Entwurf liefert: eine Zusammenfassung, eine Vorsortierung, eine Antwortvorlage. So seht ihr schnell, wie oft er danebenliegt, ohne dass ein Fehler etwas auslöst.

Ein verbreitetes Missverständnis: Einen Agenten „trainieren“ heißt in unseren Projekten nicht, ein Modell zu trainieren. Man richtet ihn ein, mit Anweisungen, einem festen Datenformat, erlaubten Aktionen, Beispielen und Regeln dafür, ab wann ein Mensch übernimmt.

Was kostet der Einstieg in KI-Agenten?

Bei materium software sieht der Einstieg typischerweise so aus:

Stufe	Rahmen (zzgl. MwSt.)
Erstgespräch	kostenlos
Analyse: Abläufe und Daten ansehen, schriftlicher Plan mit Aufwand und Nutzen	ab 1.200 €
Machbarkeits-Sprint (Proof of Concept) an euren echten Daten	5.000–10.000 €
KI-Funktion oder Automatisierung an einem bestehenden System	5.000–20.000 €
Betrieb und Weiterentwicklung	15–25 % der Entwicklungskosten pro Jahr

Für Agenten ist der Machbarkeits-Sprint meist der wichtigste Schritt. Er endet mit einem lauffähigen Ergebnis, das ihr selbst starten und mit eigenen Daten füttern könnt, dazu einer klaren Empfehlung: Agent, Workflow oder keins von beiden. Zeigt sich, dass ein Agent nicht passt, ist auch das ein brauchbares Ergebnis.

Dazu kommen die laufenden Kosten der Modellnutzung. Sie hängen vom Umfang ab. Wo ein Vorhaben in diesen Spannen landet, entscheiden vor allem die Systeme, die angebunden werden müssen. Mehr dazu im Artikel über die Kostentreiber bei Individualsoftware.

Woran erkennt man ein unseriöses Agenten-Angebot?

• Es verspricht „arbeitet völlig selbstständig“ und nennt keinen Prüfschritt.
• Es nennt keine Grenzen.
• Es zeigt keinen Test an euren eigenen Daten.
• Es verlangt von Anfang an volle Schreibrechte in euren Systemen.
• Der Anbieter kann den Unterschied zwischen Agent, Chatbot und Workflow nicht erklären.
• Es nennt eine Ersparnis, ohne zu sagen, wie sie gemessen wurde.

Ein gutes Angebot sagt, was geprüft wird, woran es scheitern kann und wer am Ende freigibt.