Hören Sie auf, KI zu prompten, und beginnen Sie, sie zu steuern

Google News hat einen Beitrag der MIT Sloan Management Review hervorgehoben, der eine direkte Herausforderung formuliert: Hören Sie auf, KI-Prompts als Zentrum effektiver Arbeit zu behandeln. Die Überschrift „Stop Prompting AI. Start Directing It“ signalisiert einen Wandel – weg von isolierten Anweisungen, hin zur Steuerung eines fortlaufenden Produktionssystems.

Diese Unterscheidung ist wichtig, weil Business-KI über den Chat hinauswächst. Modelle können heute Dateien durchsuchen, Tools aufrufen, Code schreiben, Dokumente überarbeiten und Arbeit über mehrere Schritte hinweg fortsetzen. Ein ausgefeilter Prompt kann diesen Prozess starten, aber nicht jede Entscheidung definieren, auf die das System dabei trifft.

Der entstehende Wettbewerb lautet daher nicht Mensch gegen KI. Es geht um einmaliges Prompting versus strukturierte Steuerung. Der erste Ansatz bittet ein Modell um eine Antwort. Der zweite gibt ihm ein Ziel, relevanten Kontext, operative Grenzen, Prüfpunkte und eine messbare Definition von Erfolg.

Deshalb ist die MIT-Sloan-Überschrift auch mehr als eine weitere Lektion zum Schreiben von Prompts. Sie definiert die menschliche Rolle neu. Die knappe Fähigkeit wird zum Urteilsvermögen: zu entscheiden, was geschehen soll, welche Belege zählen, wo Autonomie enden muss und ob das Ergebnis eine Freigabe verdient.

Was die Google-News-Überschrift tatsächlich verändert

Die wichtige Veränderung ist keine neue Prompt-Formel. Es ist eine neue Arbeitseinheit.

Der Google News listing lenkt Leser auf eine Managementfrage, die sich hinter jahrelanger Prompt-Beratung verbirgt. Wenn KI an echter Arbeit beteiligt ist, sollten Menschen dann einzelne Antworten verwalten oder den gesamten Prozess steuern?

Prompting behandelt jede Interaktion üblicherweise als kleine Transaktion. Ein Nutzer stellt eine Anfrage, das Modell erzeugt etwas, und der Nutzer akzeptiert es entweder oder versucht es erneut. Kontext geht zwischen Sitzungen oft verloren, während Standards im Gedächtnis einer Person verborgen bleiben.

Steuerung behandelt den Auftrag als einen gemanagten Workflow. Der Nutzer definiert das Ergebnis, liefert Belege, benennt Einschränkungen, weist Tools zu und etabliert Kontrollpunkte. Das Modell erhält weiterhin Prompts, doch diese werden zu Teilen eines übergeordneten operativen Designs.

Betrachten wir eine Marktanalyse. Ein prompt-orientierter Nutzer könnte einen KI-Assistenten bitten, einen Markt zusammenzufassen und eine Strategie zu empfehlen. Das Modell muss Zielgruppe, Geografie, Zeithorizont, Belegschwelle und akzeptables Maß an Unsicherheit selbst ableiten.

Eine steuernde Person würde zunächst die Entscheidung definieren, die die Analyse unterstützen muss. Die KI könnte dann genehmigte Quellen, Kundennotizen, frühere Forschung und einen verbindlichen Zeitraum erhalten. Sie bekäme zudem explizite Anweisungen zum Umgang mit widersprüchlichen Belegen.

Die steuernde Person könnte verlangen, dass das System verifizierte Fakten von Schätzungen trennt. Der Workflow könnte vor der Abgabe von Empfehlungen pausieren, damit ein Mensch die Belege prüfen kann. Die endgültige Freigabe bliebe bei jemandem, der für die Geschäftsentscheidung verantwortlich ist.

Dieser Ansatz verändert, wie Teams die Leistung von KI bewerten. Eine flüssig formulierte Antwort reicht nicht mehr aus. Teams müssen fragen, ob das System die richtigen Informationen nutzte, dem vorgesehenen Prozess folgte, Unsicherheit sichtbar machte und ein brauchbares Ergebnis lieferte.

Die Unterscheidung verändert auch die Fehlerdiagnose. Folgt auf eine vage Anfrage eine schwache Antwort, kann es helfen, den Prompt umzuschreiben. Wiederholte Fehler offenbaren jedoch oft fehlenden Kontext, unklare Zuständigkeiten, schlechte Quellenauswahl oder einen fehlenden Überprüfungsstandard.

Das sind Probleme des Managements und des Systemdesigns. Sie als Formulierungsprobleme zu behandeln, führt Teams in endlose Prompt-Optimierung. Sie verändern Adjektive und Formatierungsanweisungen, während der zugrunde liegende Auftrag undefiniert bleibt.

Die Formulierung „beginnen Sie zu steuern“ stellt daher die Idee infrage, dass Expertise in einem perfekten Textblock steckt. Steuerung verteilt sich auf Aufgabendesign, Quellenauswahl, Berechtigungen, Gedächtnis, Tools, Bewertung und menschliches Eingreifen.

Das macht Prompting nicht irrelevant. Jeder gesteuerte Workflow braucht weiterhin klare Kommunikation. Die Umkehr besteht darin, dass Prompting zu einer von mehreren Steuerungsflächen wird – statt die vollständige Methode zu sein, um verlässliche Arbeit zu erhalten.

Diese Einordnung gibt Führungskräften auch eine realistischere Sprache für die Einführung. Mitarbeitende müssen nicht zu literarischen Spezialisten werden, die magische Formulierungen entdecken. Sie müssen lernen, Arbeit zu delegieren und dabei Kontext, Standards und Verantwortlichkeit zu bewahren.

Dasselbe Prinzip bestimmt bereits erfolgreiche menschliche Teams. Eine Führungskraft würde ein sensibles Projekt nicht mit einem einzigen Satz vergeben und dann verschwinden. Sie würde das Ziel erläutern, Hintergrundinformationen teilen, Grenzen definieren, Überprüfungen planen und das Ergebnis prüfen.

KI-Systeme benötigen eine ähnliche Struktur, auch wenn ihre Fehlermuster anders sind. Sie können überzeugende Fehler erzeugen, bösartige eingebettete Anweisungen befolgen oder ein unvollständiges Ziel mit überraschender Beharrlichkeit verfolgen. Steuerung muss daher technische Kontrollen ebenso einschließen wie gewöhnliches Managementurteil.

Das ist die praktische Veränderung hinter der Google-News-Überschrift. Die Diskussion bewegt sich von „Was soll ich eingeben?“ hin zu „Welches System soll diese Arbeit steuern?“

Warum einmaliges Prompting an seine Grenzen stößt

Ein einzelner Prompt kann den Kontext, die Kontrollen und die Bewertungskriterien, die folgenreiche Arbeit erfordert, nicht zuverlässig tragen.

Prompt Engineering wurde aus nachvollziehbaren Gründen populär. Frühe generative KI-Produkte boten ein leeres Textfeld, sodass sich Nutzer natürlicherweise auf das konzentrierten, was sie hineinschrieben. Kleine Formulierungsänderungen konnten sichtbar andere Antworten erzeugen.

Dieses Modell funktioniert weiterhin bei klar abgegrenzten, reversiblen Aufgaben. Ein Nutzer kann nach alternativen Überschriften, einer groben Meeting-Agenda oder einer ersten Überarbeitung fragen. Die Kosten für Prüfung und Korrektur des Ergebnisses bleiben niedrig.

Probleme nehmen zu, wenn die Aufgabe mehrere Quellen oder Handlungen umfasst. Ein Modell, das einen Recherchebericht erstellt, muss entscheiden, wo es sucht, welchen Belegen es vertraut und wann es genug Informationen gesammelt hat. Ein Modell, das Software bearbeitet, muss Dateien untersuchen, Tests ausführen, Fehler interpretieren und fachfremde Änderungen vermeiden.

Kein einleitender Prompt kann jeden Zustand vorhersehen, der während dieser Arbeit auftritt. Das System braucht Rückmeldung von Tools und die Fähigkeit, seine nächste Handlung anzupassen. Es braucht außerdem Grenzen, die verhindern, dass sich eine Fehlinterpretation über den gesamten Prozess ausbreitet.

Hier kommt agentische KI ins Spiel. Ein Agent ist ein modellbasiertes System, das Handlungen auswählen und Tools nutzen kann, während es ein Ziel verfolgt. Statt eine einzige Antwort zu erzeugen, arbeitet es in einem wiederholten Zyklus aus Planen, Handeln, Beobachten und Überarbeiten.

Anthropic trifft in seinen Leitlinien zu effective AI agents eine hilfreiche Unterscheidung zwischen Workflows und Agenten. Workflows folgen vordefinierten Codepfaden, während Agenten Teile ihres Prozesses und ihrer Tool-Nutzung dynamisch auswählen.

Diese Unterscheidung verhindert, dass „Steuerung“ zu einem Schlagwort für maximale Autonomie wird. Ein vorhersehbarer Workflow eignet sich oft besser für stabile Aufgaben. Ein Agent wird nützlich, wenn der Weg nicht vollständig im Voraus spezifiziert werden kann und das System auf veränderte Informationen reagieren muss.

Teams müssen daher ein Betriebsmuster auswählen, bevor sie Prompts schreiben. Ein fester Extraktionsprozess könnte einen Workflow mit Validierungsregeln nutzen. Eine offene Untersuchung könnte einen Agenten einsetzen, der sucht, Quellen vergleicht und um Klärung bittet.

Diese Wahl beeinflusst Kosten, Geschwindigkeit und Risiko. Mehr Autonomie kann umfassendere Aufträge bearbeiten, kann aber auch längere Ausführungspfade und weniger vorhersehbares Verhalten erzeugen. Eine steuernde Person muss entscheiden, ob dieser Kompromiss zur Aufgabe passt.

Die Grenzen isolierten Promptings zeigen sich auch in der gewöhnlichen Wissensarbeit. Mitarbeitende benötigen häufig Informationen, die über E-Mails, Dokumente, Meetings und persönliche Notizen verteilt sind. Ein Modell ohne diesen Kontext muss raten oder wiederholt um Erklärungen bitten.

Persistenter Kontext verändert die Interaktion. Statt in jede Unterhaltung denselben Hintergrund einzufügen, können Beschäftigte einen genehmigten Informationsbestand für das System pflegen. Die Qualität dieser Informationen wird dann zu einer Managementaufgabe.

Eine persönliche Wissensdatenbank kann diesen Ansatz unterstützen, indem sie Quellenmaterial für den Abruf verfügbar hält. Speicherung allein garantiert jedoch keine Genauigkeit. Nutzer müssen weiterhin entscheiden, was in den Arbeitskontext gehört und was ausgeschlossen bleiben soll.

Die Bewertung stellt eine weitere Grenze dar. Ein Prompt kann das gewünschte Ergebnis beschreiben, doch komplexe Aufträge benötigen Tests, die außerhalb der Prosa des Modells funktionieren. Code sollte ausgeführt werden. Zitate sollten sich auflösen lassen. Berechnungen sollten reproduziert werden. Aussagen sollten mit den zugrunde liegenden Dokumenten übereinstimmen.

Ohne diese Prüfungen bewerten Nutzer Stil leichter als Substanz. Eine selbstbewusste Antwort kann vollständig wirken, bevor jemand ihre faktische Grundlage testet. Steuerung verlagert die Aufmerksamkeit von der Präsentation zur Verifikation.

Microsoft Research stellte messbare Vorteile von KI am Arbeitsplatz fest, doch die Ergebnisse zeigen auch, warum das Deployment-Design wichtig ist. An einem sechsmonatigen randomisierten Feldexperiment nahmen 6.000 Beschäftigte teil; die Hälfte erhielt ein generatives KI-Tool, das in E-Mail, Dokumente und Meetings integriert war.

Beschäftigte, die das Tool nutzten, verbrachten jede Woche drei Stunden weniger mit E-Mails und schienen Dokumente moderat schneller fertigzustellen. Die Meetingzeit veränderte sich jedoch nicht signifikant, wie die work-pattern study berichtet.

Dieses Muster legt nahe, dass KI Aktivitäten verbessern kann, die Einzelpersonen leichter kontrollieren, als Arbeit, die breitere Koordination erfordert. Ein besserer Antwortgenerator gestaltet Genehmigungen, Meetings, Teamabhängigkeiten oder Entscheidungsrechte nicht automatisch neu.

Steuerung schließt diese Lücke. Führungskräfte müssen entscheiden, wie KI-generierte Arbeit durch die Organisation fließt. Sie müssen festlegen, wer sie prüft, wo sie in bestehende Systeme einfließt und ob Kolleginnen und Kollegen ihre Belege nachvollziehen können.

Ein Prompt kann eine Zusammenfassung anfordern. Er kann jedoch nicht allein festlegen, wer die daraus resultierende Entscheidung verantwortet. Er kann nicht bestimmen, ob ein Team das Quellenmaterial aufbewahren oder den KI-Einsatz offenlegen sollte.

Diese begleitenden Entscheidungen bestimmen, ob KI zu einem nützlichen Bestandteil oder zu einer weiteren Schicht nicht nachverfolgbarer Ergebnisse wird. Einmaliges Prompting stößt genau dort an seine Grenze, wo Organisationsarbeit beginnt.

Die neue Fähigkeit ist KI-Steuerung, nicht Prompt-Performance

Wirksame KI-Steuerung verbindet Delegation, Kontextmanagement, Verifikation und rechtzeitiges Eingreifen.

Steuerung beginnt mit einem klareren Ziel. „Analysiere diese Kundeninterviews“ bleibt zu offen, weil es die Entscheidung nicht benennt. Ein hilfreiches Ziel könnte das System auffordern, Hindernisse beim Onboarding zu identifizieren, die den nächsten Produkt-Release beeinflussen sollten.

Das Ziel muss mit Abschlusskriterien verbunden werden. Das System müsste möglicherweise wiederkehrende Themen identifizieren, widersprüchliches Feedback bewahren, die zugrunde liegenden Interviews zitieren und Beobachtungen von vorgeschlagenen Maßnahmen unterscheiden.

Dieser Ansatz macht Qualität beobachtbar. Prüfer können feststellen, ob die KI den Auftrag erfüllt hat, statt darüber zu diskutieren, ob das Ergebnis lediglich aufschlussreich klingt.

Als Nächstes kommt der Kontext. Teams sollten die kleinste relevante Belegmenge bereitstellen, statt jedes verfügbare Dokument in ein Modell zu kippen. Große Sammlungen können veraltete Richtlinien, doppelte Notizen, irrelevante Gespräche und widersprüchliche Terminologie enthalten.

Kontext-Engineering ist die Praxis, die Informationen auszuwählen und zu organisieren, die einem Modell während einer Aufgabe zur Verfügung stehen. Das Ziel ist nicht die größtmögliche Menge. Es geht darum, genügend verlässliche Informationen bereitzustellen, damit das Modell die nächste Entscheidung richtig treffen kann.

Menschen bleiben für die Grenzen dieses Kontexts verantwortlich. Sensible Informationen müssen möglicherweise ausgeschlossen oder nur eingeschränkt verarbeitet werden. Alte Dokumente benötigen womöglich Kennzeichnungen, während unsichere Behauptungen sichtbar unsicher bleiben sollten.

Eine Führungskraft teilt die Arbeit zudem in Phasen auf. Recherche, Synthese, Empfehlung und Veröffentlichung sollten nicht zu einer einzigen undurchsichtigen Handlung verschmelzen. Jede Phase erzeugt ein Artefakt, das eine Person oder eine automatisierte Prüfung kontrollieren kann.

Ein gesteuerter Artikel-Workflow könnte beispielsweise zunächst Quellen sammeln. In einer zweiten Phase könnten Behauptungen extrahiert und mit Belegen versehen werden. Eine dritte könnte Duplikate entfernen, während eine vierte ausschließlich auf Grundlage des verifizierten Materials einen Entwurf erstellt.

Die Veröffentlichungsphase bliebe gesperrt, bis Zitationsprüfungen und die redaktionelle Kontrolle erfolgreich abgeschlossen sind. Jeder Kontrollpunkt fängt Fehler ab, bevor sie öffentlich werden.

Tool-Berechtigungen bieten eine weitere Ebene der Steuerung. Einen Kalender zu lesen birgt ein geringeres unmittelbares Risiko als Einladungen zu versenden. Eine E-Mail zu entwerfen unterscheidet sich davon, sie zu übermitteln. Eine Datenbank abzufragen unterscheidet sich davon, Datensätze zu ändern.

Anthropic beschreibt Berechtigungsoptionen, die das dauerhafte Zulassen einer Aktion, die Anforderung einer Genehmigung oder deren Blockierung umfassen. Die Diskussion über vertrauenswürdige Agenten erläutert zudem, warum die Überprüfung eines Gesamtplans sinnvoller sein kann als die Genehmigung Dutzender Einzelaktionen.

Wiederholte Genehmigungsanfragen auf niedriger Ebene schaffen ihre eigene Gefahr. Nutzer können ermüden und Aktionen genehmigen, ohne sie zu prüfen. Steuerung sollte menschliche Aufmerksamkeit auf Entscheidungen lenken, bei denen Urteilsvermögen das Ergebnis verändert.

Das bedeutet nicht, dass Menschen jedes Token oder jeden Tool-Aufruf prüfen müssen. Sie sollten die Strategie, irreversible Aktionen, unsichere Belege und das Endergebnis überprüfen. Risikoarme Zwischenschritte können innerhalb klar definierter Grenzen erfolgen.

Das erforderliche Maß an Kontrolle hängt von den Folgen ab. Ein Brainstorming-Assistent kann mit weitreichender Freiheit arbeiten, weil eine Ablehnung leicht möglich ist. Ein System, das Kundendaten, rechtliche Materialien oder Finanzentscheidungen verarbeitet, benötigt engere Berechtigungen und stärkere Belege.

Führungskräfte müssen außerdem wissen, wann sie eingreifen sollten. Ein Modell, das wiederholt das falsche Artefakt überarbeitet, braucht keinen clevereren Folgeprompt. Es braucht eine Korrektur des Ziels, des Kontexts oder des Workflows.

Nützliche Signale für Eingriffe sind unbelegte Schlussfolgerungen, unerklärte Konflikte zwischen Quellen, Tool-Ausfälle und Änderungen außerhalb des festgelegten Umfangs. Teams können einige Signale als automatisierte Prüfungen kodieren und mehrdeutige Fälle der menschlichen Kontrolle vorbehalten.

Speicher fügt eine weitere Managemententscheidung hinzu. Dauerhafte Anweisungen können wiederholte Eingaben reduzieren, aber auch falsche Annahmen bewahren. Teams benötigen eine Möglichkeit, Anweisungen zu prüfen, zu aktualisieren und auszusondern, die künftige Arbeit prägen.

Hier wird ein AI second brain für die Steuerung relevant. Sein Wert liegt nicht nur darin, Informationen zu speichern, sondern Nutzern einen überprüfbaren Kontext für künftige Aufgaben zu geben.

Steuerung erfordert auch Klarheit über Rollen. Die KI kann recherchieren und Entwürfe erstellen, während ein Mensch die Belege validiert und Verantwortung übernimmt. Ein anderer Mensch könnte die Veröffentlichung genehmigen oder eine externe Aktion autorisieren.

Diese Rollen sollten nicht verschwimmen, nur weil die Ausgabe des Modells überzeugend wirkt. Ein System kann Sprache von Führungskräften erzeugen, ohne über deren Entscheidungsbefugnis zu verfügen. Sprachgewandtheit verleiht keine Rechenschaftspflicht.

Teams sollten diese Betriebsentscheidungen in wiederverwendbaren Anweisungen, Vorlagen und Bewertungsregeln dokumentieren. Dadurch hängt gute Leistung weniger davon ab, dass ein einzelner Mitarbeiter sich an die richtige Formulierung erinnert.

Dadurch wird Verbesserung auch messbar. Wenn eine Ausgabe fehlschlägt, kann das Team das Problem bei der Quellensammlung, der Aufgabendefinition, der Ausführung, der Prüfung oder der Genehmigung verorten. Die Formulierung des Prompts bleibt eine mögliche Ursache, ist aber nicht länger die Standarderklärung.

KI-Steuerung ähnelt daher eher Redaktion, Produktmanagement und Betriebsabläufen als der Suche nach geheimen Befehlen. Sie verlangt von Menschen, Absichten in einen kontrollierten Prozess zu übersetzen und zu erkennen, wenn die Realität vom Plan abweicht.

Diese Verantwortung wird wichtiger, wenn Systeme längere Aufträge ausführen. Je seltener ein Mensch eingreift, desto sorgfältiger müssen Ziel und Grenzen im Voraus gestaltet werden.

Steuerung beseitigt das Zuverlässigkeitsproblem der KI nicht

Menschliche Steuerung verbessert die Kontrolle, macht unsichere Modelle jedoch nicht per Erklärung verlässlich.

Die Managementmetapher hat eine ansprechende Einfachheit. Geben Sie der KI einen klaren Auftrag, prüfen Sie ihren Plan und bewerten Sie das Ergebnis. KI-Systeme sind jedoch keine Mitarbeiter, und sie wie Menschen zu behandeln, kann wichtige technische Unterschiede verschleiern.

Ein Modell verfügt nicht über stabiles Urteilsvermögen, nur weil ein Nutzer ihm eine Rolle zuweist. Es sagt Ausgaben auf Grundlage erlernter Muster, des aktuellen Kontexts, von Systemregeln und Tool-Rückmeldungen voraus und wählt sie aus. Sein Verhalten kann sich ändern, wenn sich einer dieser Eingabefaktoren ändert.

Das System kann zudem falsche Aussagen in selbstsicherer Formulierung erzeugen. In einem agentischen Workflow kann eine falsche Annahme spätere Suchen, Berechnungen, Codeänderungen oder Empfehlungen beeinflussen. Eine längere Ausführung schafft mehr Möglichkeiten, dass sich Fehler verstärken.

Das Profil zu generativer KI von NIST nennt Konfabulation, Informationssicherheit, Datenschutz, schädliche Verzerrungen und die Mensch-KI-Konfiguration als Risiken, die Organisationen steuern sollten.

NIST empfiehlt Richtlinien, die Rollen und Verantwortlichkeiten für die menschliche Aufsicht festlegen. Zudem fordert die Organisation Tests und Bewertungen, die den identifizierten Risiken angemessen sind. Diese Schutzmaßnahmen gehören um den Workflow herum, nicht in einen hoffnungsvollen finalen Prompt.

Prompt-Injection stellt eine weitere Herausforderung dar. Bösartige oder irrelevante Anweisungen können in Websites, E-Mails oder Dokumenten erscheinen, die ein Agent liest. Wenn das System diesen Inhalt als maßgeblich behandelt, könnte es Informationen offenlegen oder eine unbeabsichtigte Aktion ausführen.

Eine Führungskraft muss daher vertrauenswürdige Betriebsanweisungen von nicht vertrauenswürdigem Quellmaterial trennen. Tools sollten Berechtigungen unabhängig davon durchsetzen, was das Modell liest. Sensible Aktionen sollten eine ausdrückliche Genehmigung erfordern oder nicht verfügbar bleiben.

Steuerung kann auch durch Automatisierungsbias scheitern, also die Tendenz, Computerausgaben zu bereitwillig zu akzeptieren. Bessere Schnittstellen können die Überwachung von KI-Arbeit erleichtern, doch überzeugende Pläne und Zitationen können weiterhin falsches Vertrauen erzeugen.

Eine Microsoft-Research-Umfrage unter 319 Wissensarbeitern sammelte 936 Beispiele für die Nutzung generativer KI. Höheres Vertrauen in KI ging mit weniger kritischem Denken einher, während größeres Vertrauen in die eigene Fachkompetenz mit mehr kritischem Denken verbunden war.

Die Studie zum kritischen Denken ergab, dass KI kritische Arbeit hin zu Verifikation, Integration und Aufgabensteuerung verlagerte. Dieses Ergebnis stützt das Steuerungsmodell und legt zugleich dessen zentrale Schwäche offen.

Menschen müssen genügend Fachwissen behalten, um ein schlechtes Ergebnis erkennen zu können. Wenn Organisationen Einstiegsaufgaben automatisieren, ohne Lernmöglichkeiten zu erhalten, könnten sie den künftigen Pool erfahrener Prüfer verringern.

Das Risiko wird besonders sichtbar, wenn KI plausible erste Entwürfe erstellt. Nachwuchskräfte können Aufgaben schneller erledigen, setzen sich aber möglicherweise weniger intensiv mit den Belegen auseinander. Erfahrene Prüfer übernehmen dann mehr Kontrollarbeit über ein größeres Ausgabevolumen hinweg.

Produktivitätskennzahlen können diese Verschiebung übersehen. Ein Team kann fertiggestellte Dokumente zählen und dabei Prüfzeit, Fehlerkorrekturen oder nachgelagerte Verwirrung ignorieren. Steuerung muss Kennzahlen für die Gesamtleistung des Prozesses einschließen, nicht nur für die Generierungsgeschwindigkeit.

Organisationen sollten Akzeptanzraten, Korrekturraten, unbelegte Behauptungen, Sicherheitsvorfälle und den Aufwand der Prüfer verfolgen. Sie sollten Ergebnisse zudem, soweit praktikabel, mit einer Basislinie ohne KI vergleichen.

Das passende Maß hängt von der Aufgabe ab. Softwareteams können Tests, Fehler und Erkenntnisse aus Reviews nutzen. Forschungsteams können die Genauigkeit von Zitationen und die Abdeckung von Behauptungen messen. Kundenservice-Teams können Lösungsqualität und Eskalationsraten verfolgen.

Eine weitere Unsicherheit betrifft die Autonomie. Erfahrenere Nutzer erlauben Agenten möglicherweise, länger zu arbeiten, weil sie die Tools verstehen. Sie können sich aber auch so sehr daran gewöhnen, riskantes Verhalten zu schnell zu genehmigen.

Anthropics Analyse von 2026 zur Agentenautonomie ergab, dass erfahrene Claude-Code-Nutzer die vollständige automatische Genehmigung häufiger aktivierten, das System aber auch öfter unterbrachen. Diese Kombination ähnelt aktiver Aufsicht und nicht vollständig blindem Vertrauen.

Dieselbe Untersuchung berichtete, dass Softwareentwicklung nahezu die Hälfte der beobachteten agentischen Aktivitäten ausmachte. Die meisten aufgezeichneten Aktionen waren risikoarm und reversibel, während Anwendungen mit höherem Einsatz weiterhin eine aufkommende Kategorie blieben.

Diese Erkenntnisse sollten weitreichende Behauptungen über autonome digitale Kollegen dämpfen. Die stärksten Belege stammen weiterhin aus Aufgaben mit überprüfbaren Artefakten, reversiblen Änderungen und klaren Bewertungsmethoden.

Unternehmensleiter sollten Erfolge beim Programmieren oder beim Erstellen von Dokumententwürfen nicht unmittelbar in Vertrauen bei Einstellungs-, medizinischen, rechtlichen oder Kreditentscheidungen übertragen. Unterschiedliche Folgen erfordern unterschiedliche Kontrollstrukturen.

Steuerung verursacht zudem Aufwand. Kontext, Berechtigungen, Tests und Kontrollpunkte zu gestalten, kostet Zeit. Bei einer kleinen, reversiblen Aufgabe kann dieser Aufwand den Wert der Automatisierung übersteigen.

Das sinnvolle Prinzip lautet verhältnismäßige Kontrolle. Nutzen Sie einfache Prompts, wenn die Aufgabe risikoarm und leicht überprüfbar ist. Nutzen Sie vordefinierte Workflows, wenn Konsistenz wichtig ist. Reservieren Sie größere Autonomie für Aufträge, bei denen flexibles Denken die zusätzliche Unsicherheit rechtfertigt.

Die MIT-Sloan-Perspektive sollte daher als Veränderung der Verantwortung gelesen werden, nicht als Zuverlässigkeitsgarantie. KI zu steuern bedeutet, dass Menschen stärkere Systeme um unvollkommene Modelle herum bauen. Die Unvollkommenheiten der Modelle werden dadurch nicht beseitigt.

Worauf Manager und Wissensarbeiter als Nächstes achten sollten

Die Steuerungsthese wird nur dann erfolgreich sein, wenn Organisationen bessere Ergebnisse zeigen können, ohne mehr Risiko oder Prüfaufwand zu verbergen.

Das erste Signal, auf das es zu achten gilt, ist die Entwicklung von KI-Schnittstellen weg von Chatfenstern hin zu dauerhaften Arbeitsbereichen. Produkte verwalten zunehmend Dateien, Anweisungen, Projekthistorie und Tool-Verbindungen über mehrere Sitzungen hinweg.

Dieser Wandel stärkt das Argument für Steuerung, weil Nutzer eine Betriebsumgebung gestalten können, anstatt den Kontext wiederholt neu aufzubauen. Die entscheidende Frage ist, ob diese Umgebungen transparent und bearbeitbar bleiben.

Mitarbeiter sollten sehen können, welche Anweisungen ein Ergebnis beeinflusst haben. Sie sollten wissen, auf welche Quellen das System zugegriffen hat, welche Tools es verwendet hat und welche Annahmen aus früheren Sitzungen fortbestanden.

Wenn Produkte diese Informationen klar offenlegen, lässt sich Steuerung leichter prüfen. Bleibt der Kontext verborgen, kann dauerhafter Speicher alte Fehler in unsichtbare Standardannahmen verwandeln.

Das zweite Signal sind Belege aus eingesetzten Workflows statt aus Demonstrationen. Anbieter können einen Agenten zeigen, der unter sorgfältig ausgewählten Bedingungen eine beeindruckende Aufgabe erledigt. Unternehmen benötigen Ergebnisse aus gewöhnlicher Arbeit, mit unterschiedlichen Nutzern und unvollständigen Daten.

Achten Sie auf kontrollierte Studien, die gesamte Aufgabenzeit, Ausgabequalität, Prüfaufwand und Fehlerraten berichten. Produktivitätszahlen ohne Qualitätsmaße liefern ein unvollständiges Bild.

Das Microsoft-Experiment am Arbeitsplatz liefert ein nützliches Modell, weil es das Verhalten über sechs Monate verglich und individuelle Aktivitäten von koordinationsintensiver Arbeit trennte. Künftige Forschung sollte untersuchen, ob angeleitetes KI-Arbeiten Entscheidungen, Freigaben und Teamprozesse verändert.

Die Erkenntnisse sollten außerdem Workflows von Agenten unterscheiden. Ein Unternehmen kann jede automatisierte KI-Funktion als agentenbasiert beschreiben, selbst wenn sie einer festen Abfolge folgt. Käufer müssen wissen, an welchen Stellen das Modell Handlungen auswählt und wo Software den Ablauf vorgibt.

Diese Architektur beeinflusst die Vorhersagbarkeit. Ein fester Workflow kann Konsistenz bieten, während sich ein dynamischer Agent anpassen kann, wenn unerwartete Bedingungen auftreten. Keiner der beiden Ansätze ist grundsätzlich überlegen.

Das dritte Signal ist, ob die Aufsicht von wiederholten Freigaben zu risikobasierter Kontrolle übergeht. Wenn Nutzende jede kleine Aktion genehmigen müssen, entsteht Reibung, ohne dass Aufmerksamkeit gewährleistet ist. Uneingeschränkten Zugriff zu gewähren, schafft das gegenteilige Problem.

Bessere Systeme werden Aktionen nach ihren Folgen und ihrer Umkehrbarkeit klassifizieren. Das Lesen eines freigegebenen Ordners könnte automatisch erfolgen, während die Änderung eines Kundendatensatzes eine Prüfung erfordert. Eine externe Veröffentlichung sollte weiterhin klar vom internen Entwurf getrennt bleiben.

Organisationen sollten testen, ob diese Kontrollen auch unter Druck funktionieren. Mitarbeitende könnten langsame Prüfsysteme umgehen, wenn Fristen näher rücken. Manager könnten nach ersten Erfolgen zudem Berechtigungen ausweiten, ohne die Überwachung zu aktualisieren.

In den kommenden ein bis drei Monaten dürfte sich zeigen, wie Anbieter Planprüfung, dauerhaften Kontext, Berechtigungsebenen und Protokolle nach der Ausführung bündeln. Produktankündigungen werden weniger wichtig sein als die Klarheit dieser Kontrollen.

Wissensarbeiter sollten jetzt ein kleineres Experiment durchführen. Wählen Sie eine wiederkehrende Aufgabe mit klaren Eingaben, einem überprüfbaren Ergebnis und geringen Folgen, falls der erste Versuch scheitert.

Formulieren Sie das Ergebnis, bevor Sie den Prompt schreiben. Legen Sie zugelassene Quellen, Abschlusskriterien und Aktionen fest, die die KI nicht ausführen darf. Entscheiden Sie, an welcher Stelle ein Mensch die Arbeit prüfen muss und welche Nachweise die prüfende Person benötigt.

Vergleichen Sie den Prozess anschließend mit gewöhnlichem Prompting. Zählen Sie Überarbeitungen, unbelegte Behauptungen, Prüfzeit und verwertbare Ergebnisse. Das Ziel ist nicht, zu beweisen, dass KI funktioniert. Es geht darum herauszufinden, welches Betriebsmodell verantwortbare Ergebnisse liefert.

Google News mag die Idee mit einer prägnanten MIT-Sloan-Schlagzeile eingeführt haben, doch die dauerhafte Frage betrifft jeden KI-Nutzer. Fragen Sie ein Modell wiederholt nach Antworten, oder bauen Sie einen Prozess auf, der Ihr Urteilsvermögen bewahrt?

Wählen Sie einen realen Workflow, definieren Sie seine Grenzen und testen Sie diesen Unterschied. Wenn Anleitung Nacharbeit reduziert und Fehler zugleich sichtbar hält, hat die Schlagzeile einen nachhaltigen Wandel im Management erkannt.