Häufige Fragen zur KI-Nacharbeit

Die Ersparnis bleibt im Team, die Nacharbeit wandert weiter

Im Beispiel liegen Erstellung und Prüfung bei verschiedenen Personen. Das macht die Rechnung organisatorisch unbequem. Der Fachbereich kann mehr Vorlagen liefern. Die Kollegin muss mehr davon prüfen. Die ihr zur Verfügung stehende Zeit wird dadurch nicht mehr.

Eine Befragung von 319 Wissensarbeitenden durch Lee und Kollegen beschreibt veränderte Denkarbeit bei der KI-Nutzung: Informationen verifizieren, Antworten in den eigenen Zusammenhang einordnen und die Gesamtaufgabe steuern. Die Studie misst keine zusätzlichen Stunden. Sie hilft aber zu verstehen, warum die Arbeit nach der Ausgabe weitergeht.

Fachkundige Beschäftigte sind für solche Aufgaben naheliegende Ansprechpartner. Sie erkennen, ob eine Zahl zur Fragestellung passt. Sie kennen Ausnahmen und können einschätzen, welche Unsicherheit vertretbar ist. Wenn diese Prüfung nebenbei erfolgt, bleibt ihre Leistung leicht unsichtbar.

Mit wachsendem Output entsteht genau dort ein neuer Engpass. Mehr Entwürfe führen dann zu längeren Warteschlangen vor der fachlichen Abnahme. Oder die Prüftiefe sinkt, weil die verfügbare Zeit nicht reicht. Beides gehört in die Bewertung des Piloten.

Der Satz „Es schaut noch ein Mensch drauf“ lässt entscheidende Fragen offen: Hat diese Person Zugriff auf die Ausgangsdaten? Kann sie das Ergebnis fachlich beurteilen? Darf sie es zurückweisen? Und welche andere Aufgabe entfällt für diese Arbeit?

Prüfende Beschäftigte brauchen einen klar gerahmten Auftrag und die Mittel, ihn zu erfüllen. Ihre Sorgfalt als mangelnde KI-Begeisterung zu behandeln, würde den organisatorischen Engpass verdecken.

Aus dem konkreten Risiko entsteht der Prüfauftrag

Halluzinationen verschärfen diesen Engpass. KI kann falsche Aussagen überzeugend formulieren oder Quellen anführen, die die Aussage nicht tragen. Eine Studie zu spezialisierten juristischen Recherchewerkzeugen unterscheidet genau diese Fehlerarten. Auch eine Quellenanbindung beseitigte sie bei den untersuchten Systemen nicht vollständig.

Wie gründlich geprüft werden muss, hängt deshalb vom konkreten Einsatz ab. Für eine interne Ideensammlung können ungeeignete Vorschläge rasch aussortiert werden. Eine Vorlage für eine folgenreiche Entscheidung kann dagegen die Prüfung jeder tragenden Zahl und Annahme verlangen. Unter Umständen muss ein Fachkundiger den entscheidenden Teil der Argumentation selbst rekonstruieren.

Vor der Einführung sollte der Fachbereich klären: Welche Fehler sind möglich und nach bisherigen Tests wahrscheinlich? Wen würden sie betreffen? Wie schwer wären die Folgen? Wie gut lassen sie sich erkennen und wie leicht rückgängig machen? Auch die Zahl der Anwendungen und die Weitergabe an andere Systeme spielen eine Rolle. Unbekannte Wahrscheinlichkeiten bleiben zunächst Unsicherheiten.

Aus dieser Betrachtung entsteht ein Prüfauftrag: Was wird anhand welcher Grundlage kontrolliert, durch wen und wie häufig? Wann wird eine Fachperson eingeschaltet, wann die Verwendung gestoppt? Der NIST-Leitfaden für generative KI bietet dafür einen risikobezogenen Orientierungsrahmen. Er ist keine deutsche Rechtsnorm.

Dabei muss auch geprüft werden, ob die Kontrollen wirksam sind. Eine zweite KI-Antwort ist für sich kein Richtigkeitsnachweis. Mehr menschliche Prüfzeit garantiert ebenfalls keine ausreichende Absicherung. Wenn sich ein Ergebnis nicht zuverlässig genug überprüfen lässt, muss der Einsatz begrenzt oder anders gestaltet werden.

Aus dem Risiko folgt somit zunächst die erforderliche Prüfung. Deren Aufwand lässt sich anschließend kalkulieren.

KI-Nacharbeit lässt sich teilweise vorausplanen

Für eine erste Kalkulation müssen drei Arten von Aufwand getrennt werden: die einmalige Einrichtung der Prüfungen, die regelmäßige Kontrolle auch korrekter Ergebnisse und die zusätzliche Bearbeitung auffälliger Fälle. Dazu gehören Korrektur, erneute Prüfung und gegebenenfalls Eskalation.

Ein fiktives Rechenbeispiel: Pro Monat entstehen 100 Vorlagen. Jede soll zehn Minuten geprüft werden. Das ergibt rund 17 Stunden. Für die Planung wird zunächst angenommen, dass 20 Vorlagen jeweils weitere 30 Minuten Bearbeitung brauchen, einschließlich erneuter Prüfung. Hinzu kommen zehn Stunden. Zwei Stunden monatliche Dokumentation ergeben zusammen knapp 29 Stunden laufenden Aufwand. Die Einrichtung der Prüfverfahren kommt separat hinzu.

Das Beispiel schätzt Arbeitszeit, keine Schäden und keine Sicherheit. Die angenommenen 20 auffälligen Fälle sind auch kein Studienwert. Zu Beginn sollten solche Annahmen als günstige, mittlere und ungünstige Variante durchgerechnet werden. Schwierige Fälle und Belastungsspitzen verdienen besondere Aufmerksamkeit.

Eine erste Rechnung lautet: Fallzahl mal Prüfanteil mal Prüfzeit, zuzüglich erwarteter Nachbearbeitungsfälle mal zusätzlicher Bearbeitungszeit und periodischer Kontrollarbeit. Bereits enthaltene Tätigkeiten werden nicht doppelt gezählt. Unterschiedliche Qualifikationen und Stundensätze müssen bei der Kostenrechnung berücksichtigt werden.

Für den Produktivitätsvergleich fehlt dann noch die bisherige Arbeit. Wie viel Prüfung war ohne KI erforderlich? Welche Erstellung entfällt tatsächlich? Sind Qualität und Verwendungszweck vergleichbar? Ein höheres Qualitätsniveau kann zusätzlichen Aufwand rechtfertigen, muss aber als eigener Nutzen benannt werden.

Im Pilot werden die Annahmen überprüft: anhand typischer und schwieriger Fälle, mit den Zeiten aller Beteiligten und den Fehlern, die trotz Kontrolle durchgehen. Wartezeit bleibt von Arbeitszeit getrennt. Ändern sich Modell, Daten oder Verwendungszweck, wird die Bewertung aktualisiert. So wird aus einer plausiblen Schätzung allmählich eine belastbare Planung.

Die Einführungsphase entscheidet, wer die Rechnung trägt

Zurück zur Entscheidungsvorlage. Im nächsten Pilotbericht stehen nun die eingesparte Erstellung, die regelmäßige Prüfung und die zusätzliche Bearbeitung der auffälligen Fälle. Auch die Zeit der Kollegin und des zweiten Bereichs ist enthalten. Die Leitung kann entscheiden, ob der Ablauf ausgeweitet, verändert oder begrenzt werden soll.

Dafür braucht es unterschiedliche Beiträge. Der Fachbereich bestimmt, welche Aussagen eine Entscheidung tragen müssen. Digitalverantwortliche sorgen für nachvollziehbare Daten und geeignete technische Kontrollen. Geschäftsführung und Fachbereichsleitung klären Qualitätsanspruch, Kapazität und Entscheidungsbefugnisse. HR und Betriebsrat können Arbeitsverteilung, Qualifizierung und Belastung in diese Gestaltung einbringen.

Vier Hebel verbinden diese Beiträge: Risiken je Anwendung bewerten. Daraus Prüfungen und eine Aufwandsbandbreite ableiten. Die Arbeit mit Zeit und Befugnissen ausstatten. Schließlich die Gesamtrechnung im Pilot überprüfen, bevor der Einsatz wächst.

Damit wird die KI-Strategie im Teamalltag konkret. Eine Fachkraft erhält einen geklärten Prüfauftrag. Ein unsicheres Ergebnis hat einen Eskalationsweg. Zusätzliche Arbeit verändert die Kapazitätsplanung.

In dieser Einführungspassage kann der Lotsendienst für Führungskräfte operative Führungsunterstützung leisten. An einem tatsächlichen Ablauf werden Qualitätsgrenzen und Zuständigkeiten geklärt, Entscheidungen vorbereitet und die vereinbarten Schritte im Alltag erprobt. Die Führung bleibt am Ruder; technische und rechtliche Fachprüfungen behalten ihren eigenen Auftrag.

KI-Nacharbeit muss nicht erst auffallen, wenn Einzelne abends länger bleiben. Der erforderliche Prüfbedarf lässt sich teilweise vorher beschreiben. Vor der nächsten Skalierungsentscheidung sollte deshalb feststehen, wer diese Arbeit übernimmt und was dafür im bisherigen Arbeitsplan entfällt.

Prüfbedarf gehört vor die Produktivitätsrechnung

KI-Nacharbeit ist teilweise vorhersehbar. Wer die Risiken einer Anwendung konkret bewertet, kann notwendige Prüfungen festlegen und deren Aufwand abschätzen. Ob die Rechnung trägt, zeigt der Pilot bei vergleichbarer Qualität. Seine Bilanz muss auch die Arbeit derjenigen enthalten, die das Ergebnis prüfen und weiterverwenden.

Die Bibliothek des Organisations-Notarztes & System-Architekten