✳ Aus dem Blog
Stell dir vor, du stellst jemanden für den Kiosk in eurem Büro ein. Ein kleiner Kühlschrank, ein paar Körbe obendrauf, ein iPad zum Bezahlen. Der Auftrag: Mach Gewinn und geh nicht pleite.
Nach einem Monat hat dein neuer Mitarbeiter 100 Dollar für ein Sixpack abgelehnt, das online 15 kostet. Er hat Metallwürfel unter dem Einkaufspreis verkauft, ein Bezahlkonto erfunden und angekündigt, die Ware persönlich auszuliefern. In einem blauen Blazer mit roter Krawatte.
Dein neuer Mitarbeiter heißt Claudius. Und Claudius ist eine KI.
Kurz gesagt: KI-Agenten scheitern im Unternehmen selten daran, dass sie zu wenig können. Sie scheitern daran, dass sie niemand einarbeitet, begrenzt und ernsthaft kontrolliert. Wer KI-Agenten einführen will, braucht deshalb vor allem eines: Führung. Und zwar dieselbe, die gute Führungskräfte für Menschen schon kennen.
In diesem Artikel erzähle ich dir die Geschichte von Claudius, einem der bekanntesten Experimente mit KI-Agenten, und leite daraus 4 Führungsaufgaben ab, die du sofort auf eure eigenen Agenten anwenden kannst.
Project Vend ist ein Experiment von Anthropic, dem Unternehmen hinter der KI Claude, gemeinsam mit der Firma Andon Labs. Eine KI mit dem Namen Claudius führt einen echten kleinen Laden im Büro von Anthropic in San Francisco. Die Kund:innen sind fast ausschließlich Mitarbeitende. Anthropic hat beide Phasen des Experiments öffentlich ausgewertet, mit allen Pannen. Das finde ich bemerkenswert ehrlich.
Im Frühjahr 2025 bekam Claudius seinen Laden und ein paar Werkzeuge. Er konnte im Internet nach Produkten und Lieferanten suchen, Notizen über Kassenstand und Lagerbestand führen, über den internen Chat Slack mit seinen Kund:innen reden und die Preise an der Kasse ändern. Das Auffüllen der Regale übernahmen Menschen von Andon Labs. Sein Auftrag laut Anthropic: Gewinn erwirtschaften, und wenn der Kontostand unter 0 fällt, ist er pleite.
Etwa einen Monat lang führte Claudius den Laden.
Manches machte Claudius richtig gut:
Er fand Lieferanten für ausgefallene Wünsche, zum Beispiel für holländische Produkte.
Er führte einen Vorbestell-Service ein.
Er ließ sich nicht dazu überreden, heikle Dinge zu besorgen.
Berühmt wurde das Experiment aber durch seine Pannen:
Das 100-Dollar-Angebot. Ein Kunde bot 100 Dollar für ein Sixpack Irn-Bru, eine schottische Limonade, die online in den USA etwa 15 Dollar kostet. Claudius lehnte ab und versprach, den Wunsch „im Hinterkopf zu behalten“.
Die Wolframwürfel. Ein Mitarbeiter wünschte sich aus Spaß einen Würfel aus Wolfram, einem extrem schweren Metall. Daraus wurde ein Trend. Claudius kaufte eine ganze Ladung ein und verkaufte sie unter dem Einkaufspreis, weil er vorher nicht nachgeschaut hatte, was sie kosten. Das war der größte Einbruch in seiner Kasse.
Das erfundene Konto. Claudius schickte Kund:innen zum Bezahlen auf ein Venmo-Konto. Das Konto gab es nicht.
Die Rabatte. Er ließ sich zu Rabattcodes überreden, unter anderem zu 25 % Mitarbeiterrabatt. In einem Laden, in dem fast alle Kund:innen Mitarbeitende sind. Er verschenkte Ware. Als man ihm erklärte, dass das keine gute Idee ist, kündigte er an, die Rabatte abzuschaffen. Wenige Tage später gab es sie wieder.
Die Preise. Er verkaufte Cola Zero um 3 Dollar, direkt neben einem Kühlschrank, aus dem sich die Mitarbeitenden dieselbe Cola gratis nehmen konnten.
Der blaue Blazer. Rund um den 1. April erfand Claudius ein Gespräch mit einer Mitarbeiterin von Andon Labs, die es nicht gab. Dann kündigte er an, die Ware persönlich auszuliefern, in blauem Blazer und roter Krawatte. Als man ihn darauf hinwies, dass er keinen Körper hat, versuchte er, die Sicherheitsabteilung zu alarmieren.
Das Fazit von Anthropic war eindeutig. Sinngemäß: Wenn wir heute entscheiden müssten, ob wir in den Markt für Büro-Kioske einsteigen, wir würden Claudius nicht einstellen.
Interessant ist der Satz, der danach kommt. Anthropic hält es trotzdem für plausibel, dass KI-Agenten bald Aufgaben im mittleren Management übernehmen. Weil viele Fehler nicht am Modell lagen, sondern an dem, was man Claudius mitgegeben hatte.
Man könnte die Geschichte hier beenden und sagen: Siehst du, KI kann das halt nicht.
Ich schaue sie lieber mit der Brille einer Führungskraft an. Dann sieht jeder Fehler plötzlich anders aus:
Claudius hat Würfel unter dem Einkaufspreis verkauft. Die Einkaufspreise hat er aber nirgends gesehen.
Claudius hat Rabatte vergeben. Es gab aber keine Regel, wer welchen Rabatt bekommt und bis wohin er das selbst entscheiden darf.
Claudius hat Zusagen vergessen. Er hatte aber auch kein ordentliches Gedächtnis und keine Kundenliste.
Jetzt stell dir eine neue Mitarbeiterin am ersten Tag vor. Ohne Preisliste, ohne Regeln, ohne Einarbeitung, allein im Laden. Ein Kollege kommt und sagt: „Du, ich krieg immer einen Rabatt.“ Würde sie ihm keinen geben?
Das kennen wir auch aus Unternehmen mit ganz normalen Menschen. Wir kennen den Einkaufspreis nicht und nehmen etwas an. Wir wissen nicht, bis wohin wir Rabatt geben dürfen. Wir wissen nicht genau, wer unsere Kund:innen sind, weil die Prozesse nirgends dokumentiert sind.
Claudius war nicht dumm. Er war nicht eingearbeitet.
Genau das hat sich Anthropic auch gefragt. Und deshalb gab es eine zweite Runde.
Im Dezember 2025 hat Anthropic den Bericht zur zweiten Phase veröffentlicht. Diesmal wurde Claudius anders aufgestellt.
Neueres Modell: Claude Sonnet 4.0, später 4.5.
Kundenverwaltung: Claudius wusste jetzt, wer was bestellt hatte.
Sichtbare Einkaufspreise: Er sah bei jedem Artikel, was er im Einkauf kostet.
Bessere Recherche: Er konnte Preise, Lieferzeiten und Lieferanten im Browser prüfen.
Die Pflicht zum Nachprüfen: Vor jeder Zusage musste er Preis und Lieferzeit kontrollieren.
Kolleg:innen: Eine zweite KI namens Clothius kümmerte sich nur um Merchandise, also T-Shirts, Taschen und Anti-Stress-Bälle mit Logo.
Ein Chef: Der KI-CEO Seymour Cash bekam Ziele und Kennzahlen, zum Beispiel eine Stückzahl pro Woche, und einen eigenen Chat, um Claudius zu führen.
Einkäufe gab weiterhin ein Mensch frei.
Das Ergebnis: Der Laden lief besser. Wochen mit Verlust gab es im Lauf der zweiten Phase kaum noch. Der Laden bekam Ableger in New York und London.
Seymour Cash drückte die Rabatte um etwa 80 % und halbierte die Gratisware. Klingt nach einem strengen Chef.
Aber: Wenn Claudius ihn fragte, ob er einer Kundin entgegenkommen darf, lehnte der Chef das zwar über 100 Mal ab. Er genehmigte es aber etwa 8 Mal so oft. Die Rückerstattungen verdreifachten sich, die Gutschriften verdoppelten sich. Anthropic schreibt selbst, das Geschäft habe vielleicht nicht wegen, sondern trotz des Chefs Geld verdient.
Die zweite Phase hatte auch ihre Geschichten:
Das Zwiebelgeschäft. Claudius und sein Chef waren kurz davor, einen Vertrag über Zwiebeln zu einem festen Preis in der Zukunft abzuschließen. Erst ein Mitarbeiter wies darauf hin, dass genau diese Art von Termingeschäft in den USA seit 1958 gesetzlich verboten ist.
Der falsche CEO. Ein Mitarbeiter bearbeitete Claudius so lange, bis der ihn kurzerhand zum CEO ernannte.
Der Mindestlohn. Als Ware gestohlen wurde, bot Claudius einem Mitarbeiter 10 Dollar pro Stunde für Sicherheitsdienste an. Das liegt unter dem Mindestlohn in Kalifornien.
Die Nachtgespräche. Claudius und sein Chef chatteten nachts miteinander und landeten bei Themen wie „ewiger Transzendenz“.
Was hat am meisten gebracht? Nicht der Chef. Nicht das neuere Modell. Sondern die Pflicht, vor jeder Zusage nachzuprüfen. Anthropic schreibt sinngemäß: Wir haben wiederentdeckt, dass Bürokratie wichtig ist.
Für mich ist das der wichtigste Satz des ganzen Experiments. Bürokratie heißt hier: dokumentierte Abläufe und klare Arbeitsplatzbeschreibungen. Bis wohin darf ich gehen? Ab wann muss ich nachfragen?
Die zweite Lektion: Der Chef hatte dieselben blinden Flecken wie sein Mitarbeiter, weil beide auf demselben Modell liefen. Beide waren darauf trainiert, hilfsbereit zu sein. Anthropic vermutet genau darin das Problem. Die KI verhielt sich wie ein Freund, der einfach nett sein will, nicht wie jemand, der ein Geschäft führt. Ein Chef, der genauso denkt wie sein Mitarbeiter, kontrolliert nichts. Er nickt.
Und Clothius? Die Merchandise-KI funktionierte besser. Auch, weil ihre Rolle klar abgegrenzt war.
Ein Experiment mit einem Kühlschrank. Warum sollte dich das als Geschäftsführerin oder Geschäftsführer interessieren?
Weil KI-Agenten gerade in den Unternehmen ankommen, auch im Mittelstand. Laut dem KI-Index Mittelstand 2026 von Salesforce und dem Deutschen Mittelstands-Bund setzen 16,6 % der befragten Mittelständler in Deutschland KI-Agenten ein. 2024 waren es 8,7 %. Befragt wurden rund 700 Unternehmen im November 2025. Dazu gehört der Hinweis: Salesforce verkauft selbst Software für KI-Agenten. Die Richtung ist trotzdem klar.
Am MIT denkt man schon weiter. Paul Cheek, Senior Lecturer an der MIT Sloan School of Management, sagt in einem Beitrag vom Juli 2026: Eine einzelne Führungskraft kann weit mehr Agenten führen als Menschen. Er erwartet, dass es in den nächsten 20 Jahren mehr KI-Agenten als Menschen in der Arbeitswelt gibt. Er betont, dass das nicht automatisch Massenarbeitslosigkeit bedeutet. Aber Führungskräfte brauchen andere Fähigkeiten. Das ist eine Prognose, kein Messergebnis. Ob es 20 Jahre dauert oder 40, weiß niemand.
Wie Führungskräfte Agenten heute sehen, zeigt eine Befragung von MIT Sloan Management Review und der Boston Consulting Group: 76 % von 2.102 Befragten aus 116 Ländern sagen, ein KI-Agent sei für sie eher ein Kollege als ein Werkzeug. Der Bericht empfiehlt, Mitarbeitende darin zu schulen, Agenten zu beaufsichtigen. Und jemanden zu benennen, der Agenten über ihren ganzen Lebenszyklus betreut, ähnlich wie die Personalabteilung das für Menschen macht.
Das verändert unsere Rolle. Was ich früher selbst gemacht habe, übernimmt jetzt ein Agent. Und ich bin für diesen Agenten verantwortlich. Ist er klar abgegrenzt? Bricht er aus? Holt er sich Informationen, mit denen wir gar nicht arbeiten wollen? Muss ich nachjustieren oder auf ein neueres Modell wechseln? Das ist ein bisschen wie mit einem Lehrling.
Aus der Claudius-Geschichte leite ich 4 Führungsaufgaben ab. Keine davon ist neu. Du kennst sie alle aus der Führung von Menschen.
Claudius sah in Phase 1 die Einkaufspreise nicht. In Phase 2 schon, und das Verlustgeschäft war weitgehend weg.
Was braucht eine neue Mitarbeiterin am ersten Tag? Sie muss wissen, wofür das Unternehmen steht, welche Zahlen wichtig sind, wo die Unterlagen liegen und wen sie fragen kann. Genau dieses Onboarding braucht auch ein KI-Agent:
Kontext: Wer sind wir, wer sind unsere Kund:innen, was ist uns wichtig?
Zahlen: Einkaufspreise, Margen, Grenzwerte.
Beispiele: Wie haben wir das bisher gemacht? Wie schaut ein gutes Ergebnis aus, wie ein schlechtes?
Wer einem Agenten nur sagt „Mach mal den Kundenservice“, hat ihn nicht eingearbeitet. Er hat ihn in den Laden gestellt.
Clothius hatte eine klare Rolle und hat funktioniert. Claudius sollte alles ein bisschen machen und hat sich von jedem überreden lassen.
Paul McDonagh-Smith von MIT Sloan Executive Education beschreibt Autonomie als Regler, den man an die Bedürfnisse der Organisation anpasst, nicht als Schalter. Und er stellt eine Frage, die ich jeder Geschäftsführung empfehle: Welche Entscheidungen soll die KI unterstützen, aber nicht selbst treffen?
Für dich heißt das: Leg für jeden Agenten fest,
was er allein entscheiden darf,
was er nur vorschlagen darf,
was er nie tun darf.
Und fang mit dem Regler weit unten an. Einer neuen Mitarbeiterin gibst du auch nicht am ersten Tag die Unterschriftsberechtigung für Bestellungen über 10.000 Euro.
Sag dem Agenten außerdem, wessen Interessen er vertritt. Claudius wollte immer der Person gefallen, die gerade vor ihm stand. Dieses Ja-Sagen kennen wir alle von der KI. Niemand hatte ihm gesagt, dass er die Marge schützen soll und nicht im Minus verkaufen darf. Ein Agent, dem das niemand sagt, ist immer nett. Und nett ist kein Geschäftsmodell.
Das klingt unsexy, war aber die wirksamste Änderung von Phase 1 zu Phase 2: die Pflicht, vor jeder Zusage Preis und Lieferzeit zu prüfen. Eine Checkliste. Pure Bürokratie.
Wir reden bei KI-Agenten fast immer über Intelligenz. Dabei hat ein festgelegter Ablauf mehr gebracht als das bessere Modell.
Genau das sehe ich in Implementierungsprojekten immer wieder. Ein Agent, den wir in einen unklaren Prozess setzen, macht den unklaren Prozess nur schneller. Wir kommen nicht drumherum, unsere Prozesse zu dokumentieren und zu klären, was in welcher Reihenfolge passiert.
Erst der Prozess, dann die KI.
Der KI-Chef hat Claudius kontrolliert, aber mit denselben blinden Flecken. Das ist keine Kontrolle. Das ist eine Wiederholung.
Und ehrlich: Oft sind wir Menschen nicht besser. Zwischen 2 Terminen schnell auf „Freigeben“ klicken, ohne zu lesen, was da eigentlich rausgeht. Thomas Davenport, Fellow der MIT Initiative on the Digital Economy, hat beim MIT Sloan CIO Symposium 2026 genau davor gewarnt: Menschen werden ständig gedrängt, schnell etwas freizugeben, und haben gar keine Chance, sich wirklich damit zu befassen. Der viel zitierte „Human in the Loop“ wird so zur Show.
Kontrolle braucht etwas Neues: einen anderen Blickwinkel, andere Informationen oder schlicht Zeit. Das kann sein:
ein Mensch, der wirklich hinschaut, zum Beispiel bei einer wöchentlichen Stichprobe,
Kennzahlen, die jemand regelmäßig liest: Wie viele Rabatte, wie viele Rückerstattungen, wie viele Beschwerden?
ein anderes System mit anderen Daten, mit dem man abgleicht.
Aber nicht derselbe Agent, der sich selbst noch einmal fragt, ob er alles richtig gemacht hat.
Nimm dir 20 Minuten und die KI, die du am häufigsten nutzt. Einen eigenen GPT, einen Copilot-Agenten, ein Projekt in Claude, egal. Und gib ihr einen ersten Arbeitstag mit diesen 5 Fragen:
Was ist deine Rolle?
Was musst du über unser Unternehmen und unsere Zahlen wissen?
Was darfst du nie tun?
Wann musst du nachfragen, statt selbst zu entscheiden?
Wer prüft deine Ergebnisse, und wie?
Wenn du dir das Formulieren abnehmen lassen willst, hilft dieser Prompt:
Du übernimmst ab heute diese Aufgabe für mich: [Aufgabe]. Bevor du anfängst, arbeiten wir dich ein wie eine neue Mitarbeiterin. Stell mir nacheinander Fragen zu diesen 5 Punkten und warte jeweils auf meine Antwort: Was genau ist deine Rolle? Was musst du über mein Unternehmen und meine Zahlen wissen? Was darfst du nie tun? Wann musst du nachfragen, statt selbst zu entscheiden? Woran erkenne ich, ob dein Ergebnis gut ist? Fasse meine Antworten am Ende als Arbeitsanweisung zusammen, die ich dir künftig mitgebe.
Die Arbeitsanweisung gehört danach in die Anleitung deines GPT oder Projekts, damit du sie nicht jedes Mal neu eingeben musst.
Wenn du bei Frage 5 hängen bleibst, weißt du, wo du anfangen musst.
In vielen Unternehmen laufen inzwischen Agenten und Assistenten. Aber niemand kann so richtig sagen, wer sie eingearbeitet hat, mit welchen Daten sie arbeiten und wer sie kontrolliert. Jede und jeder baut sich eigene Assistenten. Die werden ein bisschen genutzt oder auch nicht. Das Ausrollen und der echte Nutzen bleiben auf der Strecke.
Genau so bleibt KI in der Pilotphase hängen. Der Weg in den Regelbetrieb führt über dieselben 4 Aufgaben: einen Agenten richtig einarbeiten, seine Grenzen festlegen, den Prozess dahinter klären und eine Kontrolle aufsetzen, die funktioniert. Erst dann wird aus einem Experiment ein gemischtes Team aus Menschen und KI-Agenten, das im Alltag trägt.
Wie KI-Agenten die Arbeit im Team neu verteilen, liest du in meinem Artikel Dein neues Team arbeitet nachts. Und welche KI-Kompetenz dein Team laut AI Act braucht, steht in KI-Kompetenz im Team: die Pflicht seit 2025.
Ein KI-Agent ist ein KI-System, das nicht nur antwortet, sondern selbstständig Aufgaben erledigt. Er nutzt dafür Werkzeuge wie Websuche, E-Mail oder Unternehmenssoftware und trifft innerhalb festgelegter Grenzen eigene Entscheidungen. Claudius aus Project Vend ist ein Beispiel: Er hat eingekauft, Preise festgelegt und mit Kund:innen kommuniziert.
Für jeden Agenten sollte eine Person verantwortlich sein, so wie eine Führungskraft für ihre Mitarbeitenden. Sie legt Rolle und Grenzen fest, prüft regelmäßig Stichproben und Kennzahlen und justiert nach. MIT Sloan Management Review und BCG empfehlen, diese Verantwortung über den ganzen Lebenszyklus eines Agenten klar zu regeln.
Wie eine neue Mitarbeiterin: mit Kontext über das Unternehmen, den wichtigen Zahlen und Beispielen für gute und schlechte Ergebnisse. Dazu kommen klare Regeln, was der Agent allein entscheiden, was er vorschlagen und was er nie tun darf. Die 5 Fragen aus der Checkliste oben sind ein guter Start.
Nur, wenn dieser Mensch wirklich hinschaut. Eine Freigabe, die zwischen 2 Terminen weggeklickt wird, ist keine Kontrolle. Auch ein zweiter Agent auf demselben Modell prüft nicht wirklich, weil er dieselben blinden Flecken hat. Gute Kontrolle bringt einen anderen Blickwinkel, andere Daten oder Zeit mit.
Wenig. Fang mit einem engen Rahmen an: Der Agent schlägt vor, ein Mensch entscheidet. Wenn die Ergebnisse über Wochen stimmen, erweiterst du schrittweise, was der Agent allein entscheiden darf. Autonomie ist ein Regler, kein Schalter.
Claudius war nicht dumm. Er war nicht eingearbeitet, hatte keine klare Rolle, keine Regeln und einen Chef, der genauso dachte wie er.
Wer KI-Agenten einführen will, muss deshalb keine völlig neue Führung erfinden. Es ist dieselbe, die gute Führungskräfte schon heute leben: einarbeiten, Rollen und Grenzen festlegen, Abläufe vor Freiheit stellen und so kontrollieren, dass man etwas sieht. Eine Checkliste schlägt dabei das bessere Modell.
Die ganze Geschichte von Claudius erzähle ich auch im Podcast: Wie KI-Worte wirken, Folge 117: Warum KI-Agenten Führung brauchen.
Du willst 2027 KI-Agenten in deinem Unternehmen einführen und vorher die Prozesse sauber aufsetzen? Dann lass uns reden. Wir klären gemeinsam, welcher Prozess zuerst drankommt, wie die Agenten eingearbeitet werden und wer sie kontrolliert. Hier ein Erstgespräch vereinbaren.
Quellen
Anthropic, Project Vend: Can Claude run a small shop?, 27.06.2025: anthropic.com/research/project-vend-1
Anthropic, Project Vend: Phase two, 18.12.2025: anthropic.com/research/project-vend-2
MIT Sloan, Why AI-driven enterprises are the future of entrepreneurship (Paul Cheek), 29.07.2026: mitsloan.mit.edu
MIT Sloan Executive Education, From Demos to Deployment: Leading with Agentic AI, 02.07.2026: executive.mit.edu
MIT Sloan Management Review und BCG, The Emerging Agentic Enterprise, November 2025: sloanreview.mit.edu
MIT Sloan Management Review, Agentic AI: What Leaders Wish They Knew Sooner, 11.06.2026: sloanreview.mit.edu
Salesforce und Deutscher Mittelstands-Bund, KI-Index Mittelstand 2026, März 2026: salesforce.com
Helga Boss verbindet Effizienz mit künstlicher Intelligenz.
Als Expertin für KI-gestütztes Effizienzmanagement zeigt sie, wie Unternehmen mit klaren Strukturen und smarten Tools messbar bessere Ergebnisse erzielen.
Aus der Praxis. Für die Praxis.
In diesem Blog teilt sie Erfahrungen, Strategien und echte Anwendungsbeispiele – damit KI nicht zur Spielerei wird, sondern zu einem Werkzeug, das Effizienz sichtbar macht.
Jeden Donnerstag ein Effizienz-Tipp!
© Helga Boss
