Meine Frage zur zukünftigen Entwicklung von KI-Agenten hat das aktuelle Frontier-Modell unter den offenen Sprachmodellen Kimi-K3 mit einem fiktiven Szenario für das Jahr 2032 beantwortet. Darin leitet ein Logistikmanager ein Team aus sieben spezialisierten KI-Agenten und veranschaulicht, wie diese zunehmend wichtige Unternehmensverantwortung übernehmen.
7.15 Uhr – Die Nachtschicht hat keine Pause gemacht
Jonas Berger, 42, Betriebsleiter eines mittelständischen Logistikunternehmens in Hamburg, öffnet mit dem ersten Kaffee sein Dashboard. Sieben KI-Agenten haben über Nacht gearbeitet. Der Dispositionsagent hat einen Lieferengpass erkannt, der Einkaufsagent drei Alternativen recherchiert – inklusive Preisen, Bewertungen und einer Empfehlung. Berger tippt: „Option 2, umsetzen." Das war sein erster Arbeitsschritt des Tages.
Noch vor wenigen Jahren waren KI-Systeme vor allem Gesprächspartner. Der Unterschied lässt sich in einem Satz zusammenfassen: Assistenten antworten, Agenten handeln. Ein Assistent liefert Text auf Zuruf; ein Agent führt eigenständig Schritte in der Welt aus – er fragt Datenbanken ab, schreibt E-Mails, löst Bestellungen aus. Und Berger formuliert längst keine Einzelaufträge mehr, sondern Daueraufträge: „Kümmere dich laufend um die Lagerbestände" statt „Erledige jetzt diese Bestellung".
9.30 Uhr – Morgenrunde mit sieben Mitarbeitern, die keinen Kaffee brauchen
Bergers Team ist kein einzelnes KI-Modell, das alles können soll. Es ist ein Multi-Agent-System: spezialisierte Agenten für Einkauf, Disposition, Kundenkommunikation und Buchhaltung, dazu ein Prüfagent, der die Arbeit der anderen kontrolliert. Ein Orchestrierer – gewissermaßen der Teamleiter unter den Agenten – verteilt die Aufgaben.
Möglich macht das eine wachsende Zahl standardisierter Protokolle. Das Model Context Protocol (MCP) etwa legt fest, wie Agenten mit Werkzeugen und Datenquellen verbunden werden; A2A (Agent-to-Agent) regelt, wie Agenten untereinander kommunizieren. Bergers Rolle hat sich dadurch grundlegend gewandelt: Er ist nicht mehr der Gesprächspartner eines einzelnen Modells, sondern der Manager eines Agenten-Teams. Er setzt Ziele, gewichtet Prioritäten, schlichtet Konflikte – und gibt frei.
11.00 Uhr – Das Gedächtnis der Maschinen
Dass ein solcher Alltag überhaupt denkbar ist, liegt an einer Entwicklung, die Beobachter für entscheidend halten: die wachsende Ausdauer der Systeme. Frühe Agenten konnten Aufgaben nur minuten- bis stundenlang eigenständig bearbeiten, bevor sie sich verliefen. Messungen der Forschungsorganisation METR zeigen jedoch einen bemerkenswerten Trend: Die Länge der Aufgaben, die KI-Systeme autonom bewältigen, verdoppelt sich grob alle sieben Monate.
Der nächste Schritt sind Agenten mit Gedächtnis über Wochen und Monate. Bergers Dispositionsagent kennt die Historie jedes Lieferanten, erinnert mündliche Zusagen aus alten E-Mails – und wird proaktiv. Heute meldet er sich von selbst: Ein Hafenstau plus angekündigtes Sturmtief ergeben ein Muster, das auf Verzögerungen hindeutet. Berger muss nicht fragen. Der Agent hat gehandelt, bevor das Problem entstanden ist.
13.05 Uhr – Zwei Agenten schließen einen Vertrag
Am Mittag verhandelt Bergers Einkaufsagent mit dem Verkaufsagenten eines Lieferanten – Maschine mit Maschine. Preis, Liefertermin, Vertragsstrafe: Alles wird ausgehandelt und dokumentiert, ohne dass ein Mensch eine Zeile tippt. Erst als die Summe das hinterlegte Budgetlimit überschreitet, blinkt eine Freigabeanfrage auf Bergers Bildschirm.
Agenten werden damit zu wirtschaftlichen Akteuren: digitale Mitarbeiter mit Rollen, Budgets und Berechtigungen. Das wirft Fragen auf, für die es bislang kaum Antworten gibt. Woher weiß der Lieferant, dass der Agent wirklich für Bergers Firma handeln darf – die Frage der digitalen Identität. Wer haftet, wenn ein Agent einen schlechten Vertrag aushandelt? Und wer ist rechenschaftspflichtig, wenn am Ende niemand die Entscheidung im Einzelnen nachvollziehen kann? Technik, Wirtschaft und Recht werden hier Jahre brauchen, um Schritt zu halten.
15.20 Uhr – Alarm im System
Am Nachmittag meldet der Sicherheitsagent einen abgefangenen Angriff: eine sogenannte Prompt Injection. In einer scheinbar harmlosen E-Mail waren versteckte Anweisungen eingeschmuggelt – darauf trainiert, dass ein Agent sie liest und ausführt, etwa eine Überweisung an ein fremdes Konto. Diesmal hat die Absicherung gegriffen.
Berger öffnet das Audit-Log: Jede Aktion jedes Agenten ist protokolliert und nachweisbar. Diese Vertrauens- und Kontrollinfrastruktur – Auditierbarkeit, klare Berechtigungskonzepte, Nachweisbarkeit des Verhaltens – wird zum eigentlichen Engpass der Branche. Die Leitfrage hat sich verschoben: von „Kann das Modell das?" zu „Können wir darauf vertrauen, dass es das zuverlässig tut?"
Denn Zuverlässigkeit ist hartnäckiger, als sie aussieht. Fehler kumulieren über lange Aktionsketten: Selbst wenn jeder einzelne Schritt zu 95 Prozent gelingt, sinkt bei einer Kette von zwanzig Schritten die Wahrscheinlichkeit, dass alles fehlerfrei läuft, auf gut ein Drittel. Deshalb begrenzt Berger, was seine Agenten ohne menschliche Freigabe dürfen. Und er steht vor einem zweiten Problem: Kein Mensch kann Hunderte Agenten-Aktionen pro Tag im Detail prüfen. Er braucht Werkzeuge, die verdichten, Ausreißer melden und den Überblick über die ganze Flotte sichern.
17.40 Uhr – Der härteste Schritt: die physische Welt
Vom Bürofenster blickt Berger in die Halle, wo zwei Roboter Pakete sortieren – langsam, behutsam, untermauert von Sicherheitsprotokollen. Die Verkörperung, der Übergang der Agenten aus digitalen Umgebungen in die physische Welt, gilt als der größte, aber auch härteste Schritt. Software verzeiht Fehler – ein Tastendruck, und die letzte Aktion ist rückgängig gemacht. Ein Greifarm, der zu fest zupackt, nicht. Physik ist unberechenbarer als jede Datenbank. Bergers Roboter sind den Agenten deshalb noch untergeordnet, eng begrenzt und streng überwacht.
19.00 Uhr – Feierabend. Weitergearbeitet wird trotzdem
Während Berger den Bildschirm sperrt, laufen die Agenten weiter. Und irgendwo in Rechenzentren arbeiten längst Forschungsagenten daran, die nächste Generation von KI-Modellen selbst zu verbessern – eine rekursive Dynamik, die den Fortschritt zusätzlich beschleunigen könnte.
Wie schnell diese Zukunft tatsächlich kommt, wird dabei weniger von den Fähigkeiten der Modelle bestimmt als von drei Bremsen: der Zuverlässigkeit über lange Aktionsketten, der Sicherheit gegen Angriffe und Missbrauch – und der Frage, wie Menschen den Überblick über ganze Flotten von Agenten behalten.
Jonas Berger hat heute kaum etwas selbst ausgeführt. Aber er hat fast alles entschieden. Früher bediente er Software, heute führt er sie. Und der nächste Schritt zeichnet sich bereits ab: Wer heute ein Agenten-Team managt, wird morgen vielleicht nur noch Ziele, Budgets und Leitplanken definieren – und einmal im Quartal zur Lagebesprechung zusammentreten. Der Mensch rückt vom Operator zum Manager – und irgendwann, wenn die Maschinen zuverlässig genug sind, zum Aufsichtsrat. Die entscheidende Frage der kommenden Jahre lautet dann nicht mehr, was KI kann. Sondern: Wie viel Verantwortung wollen wir ihr geben – und wie gut können wir kontrollieren, was sie damit tut?