KI-Agenten im Handwerk: Aufgaben mit klaren Grenzen übertragen

Inhaltsverzeichnis

Die Kundenmail ist ausgewertet, Kunde und Anlage sind im Büro geklärt. Jetzt fehlen noch passende Unterlagen und eine zusammenhängende Vorbereitungsnotiz. Welche Arbeit dürfen KI-Agenten im Handwerk dabei selbst ausführen? Ein KI-Agent ist ein Programm, das innerhalb eines Auftrags selbst entscheidet, welchen Schritt es als Nächstes macht. Übertragen Sie ihm einen begrenzten Auftrag: Legen Sie fest, welche Daten und Programmfunktionen es nutzen darf, welches Ergebnis vorliegen muss und wann ein Mensch übernimmt.

Vorherige Stufe: Stufe 6: Assistenten erproben · Zur Serienübersicht

In Stufe 7 unserer Serie zur Automatisierung von Abläufen geht es um diesen zusätzlichen Spielraum. Stufe 6 beschrieb einen Versuch mit einem Programm, das Vorschläge macht, die ein Mitarbeiter prüft und übernimmt (KI-Assistent). Dabei ging es um die Auswertung einer einzelnen Mail. Nun könnte die KI selbst auswählen, welche erlaubte Unterlage sie als Nächstes liest, und ihre Ergebnisse intern speichern. Diese neuen Aufgaben müssen Sie gesondert erproben. Ein gelungener Versuch aus Stufe 6 würde noch nicht zeigen, ob die KI auch diese Aufgaben gut erledigt.

KI-Agenten im Handwerk: Was wird tatsächlich übertragen?

Wir verwenden dieselbe Unterscheidung wie in Stufe 5: Bei einem festen Ablauf (Workflow) stehen die Schritte und möglichen Abzweigungen vorher fest. Die KI kann dagegen innerhalb ihres Auftrags anhand der bisherigen Ergebnisse selbst nächste Schritte und passende Programmfunktionen wählen. Diese Unterscheidung beschreibt der KI-Hersteller Anthropic. Die KI muss dafür nicht alles dürfen und nicht den ganzen Auftrag allein abwickeln.

Die praktische Frage lautet: Muss die Reihenfolge für diesen Auftrag überhaupt flexibel sein? Wenn stets dieselben drei Dokumente einzulesen und dieselben Felder zu füllen sind, kann ein fester Ablauf genügen. Eine selbstständige Auswahl kommt infrage, wenn sich erst beim Lesen zeigt, welche weiteren erlaubten Unterlagen benötigt werden. Ob das den zusätzlichen Aufwand rechtfertigt, müssen Sie erproben. Anthropic empfiehlt, erst dann etwas Aufwendigeres einzusetzen, wenn die einfache Variante nicht reicht.

Eine Programmfunktion erledigt eine bestimmte Aufgabe, etwa „Dokument zum Fall lesen“ oder „Entwurf speichern“. Dafür kann eine Verbindung zwischen zwei Programmen (Schnittstelle, englisch API) nötig sein. Die KI bittet das angeschlossene Programm etwa, ein Dokument zu öffnen. Das Programm tut es – oder lehnt ab, wenn die KI das nicht darf. Lassen Sie sich vom Anbieter zeigen, welche Funktionen vorhanden sind und wie er den Zugriff begrenzen kann.

1. Den neuen Auftrag im Wartungsbeispiel begrenzen

Wir führen das erfundene Beispiel zur Wartungsvorbereitung fort. Der hier beschriebene Ablauf endet weiterhin beim intern geprüften Entwurf mit Anliegen, zugehöriger Anlage, Terminwunsch und offenen Angaben. Aufträge anlegen, Einsätze planen, Termine verbindlich bestätigen, Notfälle und Reparaturdiagnosen gehören nicht dazu. Die folgenden Abläufe und Tabellen sind Vorschläge unserer Redaktion. Sie beschreiben keine vorhandenen Produktfunktionen oder gemessenen Erfolge.

Für den neuen Versuch schlagen wir vor: Das Büro hat Kunde, Einsatzort und Anlage bereits anhand der Originalunterlagen bestätigt und die Mailangaben geprüft. Es übergibt genau diesen Fall mit einer begrenzten Auswahl von Unterlagen, die dafür verwendet werden dürfen. Die KI soll daraus einen ungeprüften Entwurf mit Hinweisen auf die Originalunterlagen zusammenstellen. Jeder Hinweis zeigt, wo die Unterlage liegt, etwa durch einen Link oder Ablageort. Die KI darf aus dieser Auswahl Dokumente wählen und lesen sowie den Entwurf an der vorgesehenen Stelle speichern. Sie darf die Zuordnung zur Anlage weder selbst bestätigen noch ändern.

Der Auftrag könnte lauten: „Stelle für diesen Fall die vorhandenen Angaben und benötigten Unterlagen zur Wartungsvorbereitung zusammen. Verwende die bestätigte Anlagenkennung und nur die für diesen Fall freigegebenen Dokumente. Beziehe jede übernommene Angabe auf ihre Quelle. Speichere das Ergebnis als ungeprüften Entwurf. Halte bei Widersprüchen oder fehlenden erforderlichen Belegen an und benenne die offene Frage.“

Das ist ein Arbeitsauftrag an die KI. Er sorgt noch nicht dafür, dass das Programm unerlaubte Handlungen sperrt. Vor echten Vorgängen müssen Sie klären und erproben, welche Daten genutzt werden dürfen, welche Funktionen es gibt und wie das Programm die Grenzen einhält. Das Büro bleibt für Rückfragen an Kunden zuständig. Die spätere Prüfung der gesamten Vorbereitung durch die Kollegin bleibt auch im unkomplizierten Fall verpflichtend.

2. Für jede Programmfunktion Erlaubnis und Ergebnis festlegen

Die Sicherheitsinitiative OWASP empfiehlt, der KI nur die benötigten Funktionen und Rechte zu geben. Das angeschlossene Programm muss bei jedem Zugriff selbst prüfen, ob die KI das darf. Eine Anweisung an die KI (Prompt) wie „nur diesen Kunden bearbeiten“ reicht nicht. Auch ein Text in einer Mail oder einem Dokument darf keine neuen Rechte erteilen. Die folgende Tabelle zeigt, was Sie für unseren vorgeschlagenen Versuch vom Anbieter verlangen sollten.

Benötigte Funktion	Was die KI dafür dürfen soll	Woran Sie das Ergebnis erkennen
Fall und Dokumentenliste lesen	Nur die übergebene Vorgangsnummer, bestätigte Zuordnung und begrenzte Dokumentenauswahl. Kein Suchen über den gesamten Kundenbestand.	Die gelesenen Angaben gehören zum Fall. Man sieht, welches Dokument in welcher Fassung gelesen wurde.
Einzelne Unterlage lesen	Nur freigegebene Dokumente dieses Falls; keine Änderungen oder Löschungen.	Inhalt ist vollständig genug für die verwendete Aussage; Originalstelle bleibt auffindbar. Fehlender Zugriff wird als Störung gemeldet.
Ungeprüften Entwurf speichern	Nur vorgesehene interne Entwurfsablage dieses Falls; keine geprüfte Fassung überschreiben.	Das angeschlossene Programm bestätigt das Speichern. Der Entwurf ist dort mit seiner Nummer und Fassung auffindbar. Die Hinweise auf die Originalunterlagen und die Kennzeichnung „ungeprüft“ lassen sich dort kontrollieren.
Prüfvermerk setzen, Kunden- und Anlagendaten ändern, Nachrichten senden oder Termine buchen	Im Beispiel nicht an die KI übertragen; entsprechende Funktionen und Rechte fehlen.	Das angeschlossene Programm weist solche Versuche zurück. Eine Meldung der KI „freigegeben“ löst keine Freigabe aus.

Lassen Sie sich zusätzlich zeigen, ob das Speichern automatisch etwas anderes anstößt, etwa einen Auftrag anlegt oder eine Mail verschickt. Beides muss für diesen Versuch ausgeschlossen sein. Kann der Anbieter das nicht sicher trennen, speichert das Büro zunächst von Hand. Eine vorhandene Verbindung zwischen den Programmen allein genügt nicht. Die Tabelle ist eine Prüfliste für das vorgesehene Programm. Sie beschreibt keine Funktionen von Landrix oder Landrix Flow.

3. So könnte die KI innerhalb des Auftrags arbeiten

Im folgenden erfundenen Normalfall steht bereits fest, um welche Anlage es geht. Die übergebene Dokumentenliste enthält den letzten Wartungsbericht und einen Ergänzungsvermerk zur selben Anlage, der für diese Aufgabe verwendet werden darf. Das Büro hat geprüft, dass die Unterlagen zum Fall gehören. Die KI soll daraus die benötigten Angaben für die Vorbereitungsnotiz herausschreiben. Sie soll nicht den technischen Zustand der Anlage bewerten.

Stand im Beispiel	Was die KI auswählt und tut	Ergebnis oder Grenze
Auftrag und Fall sind übergeben	Liest Auftrag, geprüfte Mailangaben und die erlaubte Dokumentenliste. Wählt zunächst den Wartungsbericht.	Vorgangsnummer und bestätigte Anlage bleiben bei jedem Schritt gleich.
Bericht verweist auf einen Ergänzungsvermerk	Wählt den passenden Vermerk aus der freigegebenen Liste und liest ihn, bevor sie die betreffende Angabe übernimmt.	Die nächste Quelle ergibt sich aus dem gelesenen Inhalt. Fehlt der Vermerk oder ist der Bezug widersprüchlich, geht der Fall zur Klärung.
Benötigte Angaben und Originalstellen liegen vor	Stellt die Vorbereitungsnotiz mit Anliegen, bestätigter zugehöriger Anlage, Terminwunsch und offenen späteren Auftragsfragen zusammen.	Wunsch bleibt Wunsch. Ein älterer Bericht beschreibt weiterhin den damaligen Zustand. Keine neue Zusage oder Diagnose.
Entwurf ist vorbereitet	Bittet das angeschlossene Programm, den ungeprüften Entwurf zu speichern, und prüft die Antwort.	Gespeichert ist der Entwurf erst, wenn er im angeschlossenen Programm nachweisbar vorliegt. Ist das unklar, nicht einfach noch einmal speichern.
Ungeprüfter Entwurf ist gespeichert	Beendet die Aufgabe und gibt an, wo Entwurf und verwendete Unterlagen liegen.	Das Büro kontrolliert Inhalt und Hinweise auf die Originalunterlagen, ergänzt oder korrigiert und übergibt die vollständige Fassung an die Kollegin zur Gesamtprüfung.

Das Beispiel zeigt den zusätzlichen Spielraum: Die KI liest den Hinweis auf eine weitere Unterlage und entscheidet, welche erlaubte Quelle sie dafür benötigt. Sie darf deshalb keine beliebigen weiteren Unterlagen beschaffen. Ist diese Abzweigung immer dieselbe, kann auch eine feste Regel genügen. Prüfen Sie den Nutzen an Ihren eigenen Fällen.

4. Freigaben und Bearbeitungsstände eindeutig halten

Unterscheiden Sie drei Dinge: die Erlaubnis für eine begrenzte Tätigkeit, eine Freigabe vor einer bestimmten Handlung und die fachliche Prüfung eines Ergebnisses. In unserem Vorschlag darf die KI einen ungeprüften Entwurf speichern, wenn sie die zuvor erprobten Grenzen einhält. Dadurch gilt der Inhalt noch nicht als geprüft. Die KI darf den Entwurf also nicht als „intern geprüft“ kennzeichnen.

Wenn Sie eine Handlung einzeln freigeben lassen, muss die Person sehen, welcher Fall betroffen ist, wo etwas geschehen soll und was genau geändert oder gespeichert wird. Ändert sich danach etwas daran, muss sie neu bestätigen. Die Zustimmung gilt weder für einen anderen Fall noch für eine neue Fassung des Entwurfs. Das folgt den OWASP-Grundsätzen zur Freigabe einzelner Vorgänge: Die Person bestätigt die wesentlichen Angaben. Das Programm prüft vor dem Ausführen, ob die passende Bestätigung vorliegt. Welche Handlungen eine solche Freigabe brauchen, entscheidet der Betrieb für seinen Einsatz.

Vereinbaren Sie außerdem sichtbare Bearbeitungsstände: „beauftragt“, „in Bearbeitung“, „Klärung nötig“, „Speicherergebnis unklar“ und „Entwurf gespeichert, ungeprüft“. Das Programm muss dafür sorgen, dass nur die vorgesehenen nächsten Schritte möglich sind. Ein Fall darf etwa nicht ohne menschliche Prüfung von „ungeprüft“ auf „intern geprüft“ wechseln. „Zur Prüfung übergeben“ und „intern geprüft“ bleiben eigene Schritte der weiteren Bearbeitung durch Menschen. Zu jedem Fall gehören seine Nummer, die aktuelle Fassung des Entwurfs, die verantwortliche Person und der erlaubte nächste Schritt. Ein Chatverlauf allein genügt dafür nicht als Arbeitsliste.

5. Bei Unklarheit die bisherigen Ergebnisse übergeben

Im Ausnahmefall findet die KI im Ergänzungsvermerk eine abweichende Anlagenkennung. Sie entscheidet nicht, dass der Bericht „wahrscheinlich trotzdem passt“. Der Fall erhält den Bearbeitungsstand „Klärung nötig“ mit Hinweisen auf die beiden widersprüchlichen Originalstellen. Die benannte Fachperson übernimmt. Nach ihrer Klärung passt eine dazu berechtigte Person bei Bedarf die Anlagenzuordnung und die erlaubte Dokumentenauswahl an. Erst danach darf die KI mit den geklärten Angaben einen neuen Versuch beginnen.

Fehlt die Anlagenkennung, kommen mehrere Anlagen infrage oder findet sich kein passender Eintrag, muss wie bisher ein Mensch den Fall klären. Solange das offen ist, darf die KI den neuen Auftrag nicht beginnen. Kann das Programm eine Unterlage nicht öffnen, übernimmt die technische Ansprechperson. Antwortet der Kunde nicht, legt die zuständige Person fest, wann sie den Fall wieder prüft. Die KI errät keine fehlenden Angaben und stellt selbst keine Kundenrückfrage.

Ein eigener Störungsfall entsteht, wenn beim Speichern die Verbindung abbricht. Der Entwurf könnte bereits gespeichert sein, obwohl die Antwort fehlt. Der Technikanbieter Amazon Web Services (AWS) erläutert dieses Problem: Wer denselben Auftrag erneut an das Programm schickt, kann damit versehentlich einen zweiten Eintrag anlegen. Für unseren Versuch gilt deshalb: Fall anhalten, Speicherauftrag und bisheriges Ergebnis festhalten und direkt im angeschlossenen Programm klären, was gespeichert wurde. Manche Programmverbindungen erkennen die Wiederholung desselben Speicherauftrags und verhindern einen zusätzlichen Eintrag. Lassen Sie sich das für Ihr Programm vorführen. Fehlt dieser Nachweis, entscheidet die zuständige Person nach der Klärung, wie es weitergeht. Ein kurzer Blick auf eine Liste, die möglicherweise noch nicht aktualisiert ist, genügt nicht.

Legen Sie mit dem Anbieter vor dem Versuch fest, wie oft die KI Programmfunktionen aufrufen darf, wie lange ein Auftrag laufen und wie viel er kosten darf. Der Artikel gibt dafür keine allgemeine Zahl vor. Ist eine Grenze erreicht, bleibt der Fall offen und wird mit den bisherigen Ergebnissen an eine Person übergeben. Anthropic beschreibt dazu Rückmeldungen aus den tatsächlich ausgeführten Schritten, Stellen, an denen die KI für eine Rückmeldung eines Menschen anhält, und Bedingungen für einen Abbruch wie eine maximale Schrittzahl. Eine Erfolgsmeldung der KI ersetzt keine Bestätigung durch das Programm, das die Handlung ausgeführt hat.

Eine Übergabekarte für das Gespräch mit Team und Anbieter

Kopieren Sie die Felder für genau einen Auftrag. Die rechte Spalte beschreibt unseren Vorschlag. Tragen Sie im Betrieb Namen, Ablageorte, Grenzwerte und die tatsächlich geprüften Funktionen ein. Solange wesentliche Voraussetzungen offen sind, bleibt die Karte ein Plan.

Feld	Erfundenes Beispiel zur Wartungsvorbereitung
Auftrag und Einstieg	Ungeprüften Entwurf mit Hinweisen auf die Originalunterlagen zusammenstellen. Büro hat Mailangaben, Kunde, Einsatzort und Anlage geprüft; Dokumentenauswahl ist fallbezogen freigegeben.
Selbst gewählte Schritte	Innerhalb der erlaubten Auswahl relevante Unterlagen und deren Reihenfolge wählen; erforderliche Belege lesen, Angaben zusammenstellen, Entwurf speichern.
Technische Grenzen	Nur Unterlagen dieses Falls lesen; nur ungeprüfte Entwürfe an der vorgesehenen Stelle speichern. Keine Kunden- oder Anlagendaten ändern, keinen Prüfvermerk setzen, nichts versenden, keinen Auftrag oder Termin anlegen. Speichern darf nichts Weiteres auslösen.
Nachweis und menschliche Prüfung	Nummer und Fassung des Entwurfs, Hinweise auf Originalunterlagen und Bestätigung des Speicherns. Büro prüft die Zusammenstellung; Kollegin prüft die anschließend vollständig vorbereitete Fassung.
Übergabe und Wiederaufnahme	Bei Widerspruch übernimmt die Fachperson, bei fehlendem Zugriff die technische Ansprechperson; jeweils Vertretung benennen. Bei unklarem Speichern zuerst klären, was tatsächlich gespeichert wurde. Erst nach Klärung einen neuen Versuch beauftragen.
Grenzwerte und Abbruch	Höchstzahl der Funktionsaufrufe sowie maximale Zeit und Kosten vorab eintragen. Die KI darf sich keine zusätzlichen Rechte geben. Für den offenen Fall bleibt eine Person zuständig.
Nachweis vor Einsatzentscheidung	Anbieter führt in einem eigenen Testbereich mit Übungsdaten vor: Die Funktionen arbeiten nur am erlaubten Fall, unerlaubte Handlungen werden abgelehnt und Fehler angezeigt. Zusammenstellen und Speichern gesondert mit passenden Fällen erproben; Ergebnis aufschreiben.

Stufe 7 ist abgeschlossen, wenn der Auftrag, die erlaubten Schritte, die im Programm gesetzten Grenzen und die anschließende menschliche Prüfung zusammenpassen und für den vorgesehenen Umfang erprobt sind. Auch fehlerfreie Versuche garantieren keine fehlerfreie nächste Bearbeitung. Beginnen Sie mit einer Übergabekarte und lassen Sie genau diesen Ablauf vorführen. Ein fester Ablauf oder die Vorschläge mit menschlicher Prüfung aus Stufe 6 können weiterhin die passende Unterstützung sein. Wie Sie Qualität, Aufwand und offene Fälle im laufenden Betrieb im Blick behalten, folgt in Stufe 8.

Weiter mit Stufe 8: Betrieb überwachen · Zur Serienübersicht

Quellen

• Anthropic: Building effective agents, veröffentlicht am 19. Dezember 2024. Aktuelle Onlinefassung; insbesondere „What are agents?“, „When (and when not) to use agents“, „Agents“ und „Appendix 2“. Die Seite weist auf seitdem veränderte Werkzeuge hin; hier werden die beschriebenen Grundmuster verwendet. Abgerufen am 16. September 2026.
• OWASP Gen AI Security Project: LLM06:2025 Excessive Agency. Insbesondere „Prevention and Mitigation Strategies“, Punkte 1–7, und „Example Attack Scenarios“; abgerufen am 16. September 2026.
• OWASP Cheat Sheet Series: Transaction Authorization Cheat Sheet. Insbesondere Abschnitte 1.1, 2.1, 2.5, 2.6, 2.8 und 2.10. Ohne ausgewiesenes Veröffentlichungsdatum; abgerufen am 16. September 2026.
• Malcolm Featonby / Amazon Web Services, The Amazon Builders’ Library: Making retries safe with idempotent APIs. Insbesondere „Retrying and side effects“ und „Reducing client complexity“. Ohne ausgewiesenes Veröffentlichungsdatum; abgerufen am 16. September 2026.