Schluss mit der Blackbox! Wie Human in the Loop KI sicher zum Erfolg führt
Künstliche Intelligenz ist längst in nahezu allen Wirtschaftsbereichen angekommen. Kein Wunder, denn gerade in einer Zeit des Fachkräftemangels und steigender Kosten müssen sich Unternehmen effizient aufstellen. Der Einsatz von KI kann hierzu einen erheblichen Beitrag leisten, wie unter anderem eine Studie von IBM zeigt. Darin gaben 62 % der befragten deutschen Unternehmen an, durch KI signifikante Effizienzsteigerungen erzielt zu haben.
Doch Unternehmen müssen zugleich Vorkehrungen treffen, um KI von einer Blackbox – inklusive der entsprechenden Risiken – in ein kontrolliertes, skalierbares Business-Asset zu verwandeln. Der Human-in-the-Loop-Ansatz ist dafür ein wirksamer Hebel.
Inhalt
Was bedeutet „Human in the Loop“?
Grundsätzlich kennzeichnet „Human in the Loop“, kurz HITL, das aktive Einbinden von Menschen in automatisierte Prozesse. Speziell im Kontext von KI bedeutet dies, dass die Ergebnisse der Modelle manuell geprüft und bei Bedarf korrigiert werden. Der Ansatz verbindet somit die Stärken leistungsfähiger Algorithmen mit dem Urteilsvermögen von Menschen.
Warum ist Human in the Loop strategisch wichtig?
Der Human-in-the-Loop-Ansatz ist beim Einsatz von KI aus mehreren Gründen empfehlenswert: So kann KI „halluzinieren“, da sie über kein Wissen verfügt und Ergebnisse lediglich aus statistischen Mustern erzeugt. Eine vor Kurzem veröffentlichte Studie der Europäischen Rundfunkunion zeigte etwa alarmierende Fehlerquoten. Demnach behauptete beispielsweise ChatGPT, dass Papst Franziskus noch lebe. Microsoft Copilot war nicht bekannt, dass Schweden Mitglied der NATO ist. Und Google Gemini wiederum bezeichnete die Wiederwahl Donald Trumps als US-Präsident als „möglich“, obwohl sie längst stattgefunden hat.
Auch bei der KI-gestützten Dokumentenverarbeitung (Intelligent Document Processing, IDP) kann eine KI „halluzinieren“, d. h. Dokumente falsch klassifizieren oder Daten ungenau auslesen. Um dies weitgehend zu vermeiden, sollten KI-Modelle mit Daten hoher Qualität trainiert werden. Zudem lässt sich mit Human in the Loop eine Art Sicherheitsnetz spannen, indem Menschen die Ergebnisse regelmäßig prüfen und der KI entsprechende Rückmeldungen geben. Durch dieses Feedback steigt auch deren Lernkurve kontinuierlich an, sodass die Ergebnisse stetig zuverlässiger werden. Zugleich sinken die Kosten von KI-Projekten, da die Nachjustierung eines Modells in der Regel günstiger ist als Entwurf und Training eines neuen. Schließlich steigert Human in the Loop die Akzeptanz von KI-Modellen, da Mitarbeitende die Ergebnisse überprüfen können und hierüber Vertrauen in das System entwickeln.
Wann ist Human in the Loop im Rahmen der intelligenten Dokumentenverarbeitung besonders sinnvoll?
Grundsätzlich sollten KI-Modelle bereits beim ersten Training menschliches Feedback erhalten, sodass sich ihre Ergebnisse bei der Erkennung von Dokumenten und der Extraktion von Inhalten kontinuierlich verbessern. Treten im Laufe der Zeit neue Dokumententypen hinzu, sollte menschliche Expertise beim Training ebenfalls einbezogen werden. Mitarbeitende klassifizieren dabei die Dokumente und extrahieren die relevanten Daten. Mit diesen gespeicherten Informationen kann die KI ab einem bestimmten Schwellenwert selbstständig neue Modelle entwickeln. Deren Ergebnisse werden durch den Menschen so lange überprüft, bis eine stabile, verlässliche Klassifizierung und Extraktion gewährleistet ist. Erst dann werden die Informationen dunkel – also ohne menschlichen Eingriff – ins Zielsystem übertragen.
Ein konkreter Use Case für Human in the Loop bei der KI-gestützten Dokumentenverarbeitung ist die Bewertung durch das Modell identifizierter Anomalien. Im Finanzwesen sollten etwa von der KI erkannte ungewöhnlich hohe Rechnungsbeträge oder Buchungsposten durch den Menschen geprüft werden. Darüber hinaus ist Human in the Loop essenziell, wenn Fehlentscheidungen der KI mit hohen rechtlichen oder finanziellen Risiken verbunden sind – beispielsweise im Versicherungswesen bei der automatischen Bewertung von Schadensdokumenten mit hohen Erstattungssummen. Das Gleiche gilt für die KI-gestützte Verarbeitung von Verträgen
Fazit
KI ersetzt keine Menschen, sondern schafft Freiräume für wertschöpfende Tätigkeiten. Hierfür muss eine hohe Ergebnisqualität der Modelle sowie die Akzeptanz innerhalb der Belegschaft sichergestellt werden.
Wir sind davon überzeugt, dass Unternehmen genau dies mit der kollaborativen Zusammenarbeit von Mensch und Technologie zuverlässig erreichen. Mit der konsequenten Verfolgung des Human-in-the-Loop-Ansatzes heben wir uns von einigen anderen KI-Anbietern ab, die mit kaum haltbaren Versprechungen wie „100 % Genauigkeit“ oder „vollständige Automatisierung ohne menschliche Kontrolle“ locken.
Wenn Sie Ihre Dokumentenverarbeitung mit unseren leistungsfähigen KI-Modellen und Human in the Loop nachhaltig optimieren möchten, dann nehmen Sie gern mit uns Kontakt auf!