Ich war in den letzten Wochen immer wieder bei der Frage, was die Disruption durch KI eigentlich ist. Ebenso bekam ich des Öfteren die Frage gestellt, wie ich die Zukunft der Arbeit angesichts der technologischen Umwälzung durch KI sehe. Deshalb starte ich mit diesem Blog einen ehrlichen Versuch, eine Antwort zu geben.
Was HMI früher eigentlich war
Wenn wir bis ungefähr 2022 von Mensch-Maschine-Interface (Human-Machine-Interface, HMI) gesprochen haben, meinten wir zwei Dinge gleichzeitig, ohne sie sauber zu trennen.
Erstens: die sensorische Schnittstelle. Tastatur, Maus, Touchscreen, Bildschirm. Das, worüber Bits zwischen Mensch und Maschine flossen.
Zweitens: ein Kompetenzgefäß. Den ganzen Bestand an Wissen, den ein Mensch brauchte, um eine bestimmte Maschine produktiv zu nutzen. SAP-Kenntnisse, Excel-Pivot-Tabellen, das Photoshop-Werkzeugmenü, sogar das richtige Sortieren von E-Mails. Eine erhebliche Schicht beruflicher Identität saß dort.
Diese beiden Dinge, Sensorik und Kompetenz, fielen praktisch zusammen. Wer den Bildschirm bediente, war derselbe, der die Sache verstand. Schnittstelle und Verstand standen am selben Ort. Deshalb konnten wir bei HMI an „den Bildschirm“ denken und meinten in Wahrheit „die ganze Person, die ihn bedient“.
Was die KI auf der Nutzerseite verschiebt
Drei Verschiebungen passieren jetzt gleichzeitig, und sie sind verwirrend, wenn man sie nicht auseinanderhält.
Die Bedienoberfläche wird einfacher. Wer einen Satz tippen kann, kann eine KI ansprechen. Das senkt die Schwelle radikal und nimmt vielen klassischen Bedienkompetenzen ihre Differenzierung. Den SAP-Power-User, den Photoshop-Operator, den Excel-Champion gibt es noch, aber ihre Spezialkompetenz wird zur Allgemeinkompetenz. Das heißt nicht, dass Kompetenz verschwindet — sie wandert. Wohin, dazu unten.
Das Verarbeitungswissen wird teilweise substituiert. Der Mensch musste früher die innere Logik der Maschine kennen, um sie zu führen. Heute kennt die Maschine ihre eigene Logik besser als wir. Das ist eine echte Verschiebung, und sie geht weiter, als viele zugeben wollen.
Der Content wird auch noch generiert. Texte, Bilder, Analysen, Code, Übersetzungen, Zusammenfassungen. Die KI schreibt nicht nur, sie überschreibt teilweise die kreative und kognitive Schicht selbst. Ein Gesprächspartner hat das letzte Woche so formuliert: „Selbst das Jenseits der Maschine fällt weg.“
Damit landen wir bei der Frage: Wenn das alles weg ist, was bleibt eigentlich noch übrig vom Menschen in der Maschinenkooperation? Und worin besteht dann der neue Interaktionsraum zwischen Mensch und Maschine?
Was gleichzeitig auf der Anbieterseite passiert
Bevor ich die Frage beantworte, lohnt ein Blick auf die zweite Bewegung, die parallel läuft. Während Bedienkompetenz auf der Nutzerseite kippt, baut sich die Anbieterseite ebenfalls um. Salesforce hat seinen Stack von prädiktiver KI über generative KI zu agentic AI umsortiert, also zu Systemen, die Aufgaben mit Kontext ausführen und dabei auf Daten, Workflows und Aktionen in der Plattform zugreifen.[4] Mit „Headless 360“ öffnet Salesforce die Plattform per API für Agenten — also genau so, dass die klassische Browser-Oberfläche umgangen werden kann.[5][6]
Slack wird parallel zur übergeordneten Interaktionsschicht ausgebaut: Zusammenfassungen, Suche, Assistenten, automatisierte Arbeitsabläufe. Ein Teil der Bedienlogik wandert damit aus spezialisierten Einzelfrontends in eine gemeinsame Konversations-Oberfläche.[1]
Das ist kein Einzelfall für die Anpassung aktueller Softwareprodukte. Es ist die Antwort der großen Anbieter auf die Beobachtung, dass spezialisierte UIs an Differenzierung verlieren, wenn Agenten dieselben Funktionen direkt über APIs ansprechen können. Die strategische Logik, knapp: Wenn das Interface abstrakter wird, gewinnt, wer Datenzugang, Ausführung, Sicherheit und Orchestrierung kontrolliert.[4]
Das degradiert nicht alle SaaS-Lösungen pauschal zu austauschbaren Headless-Funktionen. Bain und BCG beschreiben agentische KI eher als Neuordnung des SaaS-Marktes denn als dessen Ablösung.[2][7][8] Bain rechnet sogar mit einem zusätzlichen 100-Milliarden-Dollar-Markt, der durch Agenten-Orchestrierung zwischen bestehenden SaaS-Anwendungen entsteht, nicht durch deren Ersatz.[7]
Realistischer ist eine Aufspaltung. Wenige starke Plattformen mit proprietären Daten, Berechtigungsmodellen, Compliance und tiefer Prozessintegration werden wertvoller. Viele austauschbare Punktlösungen ohne diesen Vorteil geraten unter Konsolidierungsdruck. Das eine wird nicht zu Headless reduziert, das andere schon.
Was bedeutet das für die Frage nach der Rolle des Menschen in der Maschinen-Interaktion? Sie wird schärfer. Wenn agentische Plattformen vermehrt für die Organisation handeln, wird die Frage „wer trägt was, wenn der Agent etwas tut“ nicht an den Anbieter exportiert. Sie landet zurück im konsumierenden System — also bei uns als Endanwender. Salesforce stellt die Infrastruktur, aber die Verantwortung für das, was die Agenten in unserem Auftrag tun, sitzt in unseren Organisationen. In welcher Rolle, ist die Frage.
Drei Schichten von Schnittstelle
Schauen wir uns an, was zwischen Mensch und Maschine in einer Organisation tatsächlich passieren muss. Nicht im Labor, sondern im Mandat.
Erstens existiert weiterhin eine sensorische Schnittstelle. Sie ist jetzt Sprache und Konversation statt Buttons. Die Bedienung wird trivial — ihre sinnvolle Nutzung erfordert aber Differenzierungs- und Delegationskompetenz.
Zweitens gibt es eine Output-Schnittstelle. Das, was die KI produziert, wird konsumiert: von Kunden, von Kolleginnen, von nachgelagerten Systemen. Auch hier verschwindet Reibung. Der Output fließt weiter, oft ohne dass ein Mensch in der Mitte sitzt.
Drittens, und das ist der Punkt, gibt es eine Verantwortungs-Schnittstelle. Wenn die KI dem Kunden eine falsche Auskunft gibt, kann der Kunde nicht das Modell verklagen. Wenn der Agent eine Buchung fehlausführt, fragt der Finanzleiter nicht den Anbieter, sondern jemanden im Haus. Wenn der KI-generierte Vertragsentwurf eine Klausel enthält, die 200.000 Euro kostet, gibt es kein Eingangsticket beim Modellanbieter.
Diese dritte Schnittstelle existierte in der alten Welt nicht als eigenes Thema, weil sie automatisch beim Bediener mitlief. Wer den Computer bediente, war auch der Verantwortliche. Mit KI fallen diese beiden auseinander. Genau diese Lücke muss organisatorisch geschlossen werden.
Warum die Rolle und nicht die Person, nicht der Prompt, nicht das Tool
Hier wird es konkret. Es bleibt die Frage: Wer schließt diese Verantwortungslücke?
Die Person allein kann es nicht. Eine Person hat einen Namen, aber sie geht auch mal in Urlaub, wechselt den Job, wird befördert. Die Verantwortung muss überleben, wenn der Mensch wechselt.
Der Prompt kann es nicht. Ein Prompt ist eine Momentaufnahme. Er regelt, was die KI in diesem Moment tut. Er regelt nicht, wer die Konsequenz trägt, wenn die KI morgen etwas anderes tut.
Das Tool kann es nicht. Anthropic, OpenAI, Google liefern Modelle, keine Verantwortung. Salesforce liefert agentische Infrastruktur, keine Verantwortung. Das müssen sie auch nicht. Verantwortung sitzt immer im konsumierenden System.
Was bleibt, ist die Rolle. Eine Rolle ist die organisatorische Form, in der Verantwortung über Zeit, über Personen hinweg, über Tool-Generationen hinweg bestehen bleibt. „Customer-Care-Lead“ gibt es als Rolle, egal ob die Person wechselt, der Bot getauscht wird oder das Modell ein Update bekommt.
Weil die Rolle der einzige Ort ist, an dem Verantwortung dauerhaft sitzen kann, ist sie auch der einzige Ort, an dem die Schnittstelle zwischen Mensch und Maschine in der Organisation gestaltet werden kann.
Deshalb definiere ich folgendes Architekturprinzip im Kontext HMI:
Das neue HMI denkt in Rollen.
Ein konkretes Beispiel
Stell dir Customer-Care vor. 80 Prozent der Anfragen beantwortet ein Bot. Komplexe Fälle eskalieren an Menschen. Komplexe-komplexe Fälle landen beim Team Lead.
Wo ist hier die Schnittstelle?
Aus Sicht des Kunden: der Chat. Sensorisch.
Aus Sicht des Bots zum nächsten System: ein API-Call. Trivial.
Aus Sicht der Organisation, die das verantworten muss: ganz andere Fragen. Wer entscheidet, was der Bot überhaupt darf? Wer korrigiert ihn, wenn er Mist baut? Wer haftet, wenn er einem Kunden eine falsche Zusage macht? Wer eskaliert, wenn er versagt? Wer entscheidet, ihn abzuschalten?
Keine dieser Fragen wird vom Chat beantwortet. Sie werden von der Rolle „Customer-Care-Lead“ beantwortet. Oder sie werden gar nicht beantwortet, was in vielen Häusern gerade der Default ist.
Das ist die operative Form des neuen HMI. Nicht philosophisch. Nicht abstrakt. Sondern: Wer trägt was, wenn die Maschine den Job macht?
Was der Mensch von morgen wissen und beherrschen muss
Die ehrlichere Frage hinter der HMI-Frage ist die nach dem Mensch von morgen. Wenn Bedienung, Verarbeitung und Content alle in der Maschine landen, bleibt etwas anderes zurück. Vier Dinge, die im systemischen Beratungsalltag teilweise längst Praxis sind, nur nie als HMI gedacht wurden — und eines, das wirklich neu hinzukommt.
Urteilskraft. Wenn die KI hundert plausible Vorschläge produziert, ist die menschliche Operation Beurteilung, nicht Erzeugung. Welcher Vorschlag taugt hier, jetzt, für diese Menschen? Der Maßstab wird situativ konstituiert. Kant hat das Urteilskraft genannt — und in einem verwandten Gedankengang mit dem kategorischen Imperativ[11][12][13] die Prüfformel mitgeliefert, an der sich Urteile über Einzelfälle bewähren müssen. Aristoteles nannte diese Fähigkeit phronesis.[14][15] Wer diese Fähigkeit nicht trainiert, wird zum Durchwinker.
Adressiert-Sein. Resonanz braucht ein verletzliches Gegenüber. Eine KI kann auf eine Adressierung antworten. Sie kann nicht adressiert werden. Vertrauen, Verbindlichkeit, das Aushalten von Mehrdeutigkeit in der Beziehung gehören in diese Schicht. Coaches wissen das, sie haben es nur nie als HMI verstanden.
Kontextkompetenz. Andrej Karpathy hat halb scherzhaft gesagt, Englisch sei die neue Programmiersprache.[9][10] Wertvoll ist nicht das Schreiben von Prompts, sondern das Wissen darum, welcher Kontext fehlt. Was steht auf dem Spiel, wer ist betroffen, welche Annahme trägt nicht? Das ist die operative Übersetzung dessen, was systemische Berater seit Jahrzehnten „Diagnose vor Intervention“ nennen.
Agenten-Führung. Das ist die neue, vierte. Die alte Bedienkompetenz (welche Tastenkombination, welches Menü, welcher Workflow im Tool) verliert an Wert. An ihre Stelle tritt ein neues Handwerk: Agenten zielklären, beauftragen, prüfen, korrigieren, eskalieren, abschalten. Wer in einer Organisation einen Agenten verantwortet, muss erkennen können, wann ein Output stimmt, wann er gefährlich danebenliegt, wann ein Eskalationspfad gezogen werden muss, wann der Agent zurückgenommen wird.[3] Das ist die operative Erweiterung der drei vorigen Punkte, und die Stelle, an der die alte Bedienkompetenz einen neuen Platz findet.
Diese vier Fähigkeiten sitzen nicht im Tool und nicht im Prompt. Sie sitzen in einer Person, die eine Rolle ausfüllt. Die Rolle ist die organisatorische Form, in der sie produktiv werden.
Was das für Organisationsentwicklung bedeutet
Wenn meine Hypothese stimmt, hat die Arbeit als systemischer Organisationsentwickler oder systemischer Coach gerade eine Schwerpunktverlagerung bekommen, die viele noch nicht benennen können.
Das alte Beratungsgespräch klang ungefähr so: „Hier liegt das Problem bei den unklaren Schnittstellen zwischen Marketing und Vertrieb.“
Das neue Beratungsgespräch klingt ungefähr so: „Hier liegt das Problem bei den unklaren Schnittstellen zwischen Marketing, Vertrieb und sechs KI-Skills, von denen drei keinen Eigentümer haben — und wir wissen nicht, ob unsere Salesforce-Agenten die Compliance-Regeln kennen, die wir letztes Quartal beschlossen haben.“
Du brauchst dafür kein neues Methodenrepertoire. Du brauchst ein Vokabular und eine Repräsentation, in der KI-Akteure als gleichwertige Träger von Verantwortung im selben Modell auftauchen wie Menschen, mit Eigentümer, Eskalation, Rückgabe. Das bedeutet, was bislang noch informell in Organisationen möglich war, muss nun explizit ausgedrückt und vereinbart werden — für Menschen und Maschinen.
Genau deshalb habe ich Circlead entwickelt. Hier wollte ich nur eine Frage präzise beantworten: Warum die Rolle in Organisationen neu sichtbar gemacht werden muss — sie wird das neue HMI, obwohl der Prompt scheinbar das Interface bleibt.
Interfaces regeln die Bits, aber nicht die Verantwortung. Und Organisationen leben von Verantwortung, nicht von Bits.
Quellen
- Salesforce announces an AI-heavy makeover for Slack, with 30 new features. TechCrunch, März 2026
- SaaS’ next big opportunity could come from agentic AI: report. Trade Arabia
- Gartner Predicts Inter-AI Agent Collaboration by 2027. No Jitter
- Artificial Intelligence (AI) at Salesforce. Salesforce
- Salesforce macht Ernst mit KI-Agenten: Headless 360 öffnet Plattform per API. Heise, 2026
- Salesforce führt Marktplätze zusammen und stellt Salesforce Headless 360 vor. IT-Business
- Bain sees US$100 billion SaaS market in agentic AI automation. Swiss Finance AI
- The AI-First SaaS Company: Rethinking the Playbook. BCG, 2026
- Andrej Karpathy: „The hottest new programming language is English.“ X/Twitter
- Sekundärquelle zur Einordnung von „English as the new programming language“ und Software 3.0. Gary Marcus, Substack
- Categorical imperative — Überblick zu Kants kategorischem Imperativ. Britannica
- The Categorical Imperative — Darstellung der Kant-Formel mit Beispielen. Deutsche Welle
- Roger J. Sullivan, Immanuel Kant’s Moral Theory, Kapitel „The Categorical Imperative“. Cambridge University Press
- Feldman & Eisikovits, „AI and Phronesis“ — Aristoteles/Phronesis im KI-Kontext. PhilPapers
- Überblicksbeitrag zu Aristoteles und Phronesis im Kontext von KI. Philosocom