Warum KI-Agenten menschliche Entscheidungs-
prozesse (nicht) ersetzen können
Was versteht man unter KI-Agenten?
KI-Agenten sind Systeme der künstlichen Intelligenz, die eigenständig handeln, Ziele verfolgen und auf ihre Umgebung reagieren, ohne dass jeder Schritt vom Menschen vorgegeben wird. Im Gegensatz zu klassischen KI-Anwendungen, die auf konkrete Eingaben reagieren (z. B. eine Textanalyse auf Knopfdruck), sind KI-Agenten so konzipiert, dass sie proaktiv agieren, selbst Entscheidungen treffen und dabei ihre Strategien anpassen können. Sie analysieren Informationen, bewerten Handlungsoptionen und wählen autonom eine Vorgehensweise. Der zunehmende Einsatz von KI-Agenten wirft jedoch neue Fragen auf: Wie verändert sich dadurch die Rolle des Menschen in Entscheidungsprozessen? Und welche Verantwortung bleibt bei uns?
Entlasten oder entmündigen KI-Entscheidungen den Menschen?
Die Investitionen der Tech-Firmen in KI überschlagen sich im Wettlauf um die technologische Vorherrschaft. Google, Meta, Microsoft und Amazon investieren mittlerweile zusammengenommen Beträge in Höhe von einer Viertelbillion Dollar in Rechenzentren und Large Language Models. KI-Vordenker:innen gehen davon aus, dass es nur noch eine Frage von wenigen Jahren ist, bis die künstliche die menschliche Intelligenz übertroffen haben wird.
Welche Effekte hat diese Entwicklung auf Organisationen? Was passiert, wenn KI-Entscheidungen zunehmend autonom und ohne menschliche Rückkopplung getroffen werden? Für Entscheidungsträger:innen, die sich dem Druck ausgesetzt fühlen, unter Unsicherheit und Zeitmangel die richtige Wahl treffen zu müssen („Decision-Pressure“), kann dies zunächst entlastend wirken.
Die Gefahr: Menschen verlieren das Verständnis für die Hintergründe von Entscheidungen, das Vertrauen in die Güte der getroffenen Entscheidung sowie die Kontrolle über die Geschicke der Organisation. Die Wissenschaft hat sich damit auseinandergesetzt, wie Akzeptanz, Handlungsfähigkeit und Eigenmacht bei intensivem KI-Einsatz gefördert und erhalten werden.
Wie KI-gestützte Entscheidungen die Rolle des Menschen in diesem Prozess verändern
Künstliche Intelligenz wird zunehmend in Entscheidungsprozesse eingebunden: Mal beratend, mal automatisierend, teils auch mit eigener Handlungsmacht. Doch was bedeutet das für die Rolle des Menschen in Organisationen? Drei Prinzipien zeigen, wie menschliche Verantwortung und Urteilskraft auch in KI-gestützten Entscheidungsprozessen erhalten und gestärkt werden können:
- Nicht die Güte der Lösung, sondern die Güte der Einbindung ist entscheidend: Meta-Analysen von Schemmer et al. (2022) und Haag (2025) haben gezeigt, dass erklärbare KI (XAI) die Leistung von Nutzer:innen steigern kann, insbesondere bei textbasierten und Klassifizierungsaufgaben. Doch ausschlaggebend für die Akzeptanz ist nicht nur die Güte der KI, sondern auch wie sie in den Entscheidungsprozess eingebettet ist. Akzeptanz und Eigenmacht werden durch die Auseinandersetzung mit und die Transparenz über den Einsatz von KI im Entscheidungsprozess gefördert.
- Menschen entscheiden weiterhin über den Platz und die Rolle der KI im Entscheidungsprozess: Booyse & Scheepers (2024) identifizieren Misstrauen, Kontrollverlust und ethische Bedenken als zentrale Barrieren für den KI-Einsatz in Organisationen. Li (2023) ergänzt, dass KI eher akzeptiert wird, wenn sie als Tool statt als autonomer Agent wahrgenommen wird. Entscheidend sind klare Rollen, passende Erwartungen und gestaltbare Eigenschaften. Partizipativ entwickelte Prozesse, die festlegen, welche Aktivitäten an KI übergeben werden und wie diese wieder zurückgeführt und verarbeitet werden, sind essenziell.
- Perspektivenvielfalt durch KI fördern, anstatt auf das Optimum zu vertrauen: KI-Entscheidungen können nicht nur automatisiert getroffen werden, sondern auch zur bewussten Auseinandersetzung anregen, zum Beispiel durch das Aufzeigen von Edge Cases, konträren Optionen oder unerwarteten Mustern. Durch ihren Einsatz als Meta-Decision-Making-Tool kann KI bewusst dazu genutzt werden, Entscheidungsprozesse zu hinterfragen und Reflexionsmomente zu provozieren (Cornelissen et al., 2022). Dies kann den kollektiven Willensbildungsprozess in Organisationen bereichern, in dem in Anbetracht verschiedener Optionen gemeinsam um die tragbarste Lösung gerungen wird.
Menschliche Gestaltungskraft in KI-gestützten Entscheidungsprozessen fördern
Durch die Beachtung von vier Gestaltungskriterien beim KI-Einsatz bleiben die notwendigen Willensbildungsprozesse und die Verantwortung beim Menschen. Gleichzeitig kann der Wirkungsradius erhöht werden.
Empowerment-gerecht gestalten:
Die Rollen im Entscheidungsprozess werden klar definiert und es wird festlegt, wo und durch wen reflektiert, bewertet, entschieden und korrigiert wird. Wenn Selbstbestimmung und Einflussmöglichkeiten bewusst in den Prozess integriert werden, bleibt der Mensch Eigentümer:in der Lösung und die Akzeptanz erhalten.
Human in the Loop gestalten:
Die KI liefert Vorschläge und die Menschen reflektieren, bewerten und entscheiden gemeinsam über klar definierte Willensbildungsprozesse.
KI als Meta-Decision-Support gestalten:
Tools für KI-Entscheidungen werden so gestaltet, dass sie gezielt Spannungsfelder, Varianten sowie Dilemmata aufzeigen und das Team durch Vielfalt bereichern, anstatt den Raum der Möglichkeiten zu schnell, zu stark und potenziell gebiast einzugrenzen.
Transparenz gestalten:
Im Unternehmen wird deutlich über den KI-Einsatz informiert und hervorgehoben, welche Anteile durch wen entstanden sind. Nur so entstehen Vertrauen und Selbstwirksamkeit.
Fazit
Wer sich blind auf KI-Entscheidungen verlässt, riskiert viel. Wenn die menschliche Verantwortung sinkt und die Urteilskraft geschmälert wird, nimmt die Akzeptanz solcher KI-gestützten Entscheidungen ab. Die Folge: Entscheidungen werden zwar schneller, aber nicht zwingend besser. Werden KI-Entscheidungen als entpersonalisiert und unverständlich wahrgenommen, gefährdet das die Eigeninitiative, Motivation und das Vertrauen von Mitarbeitenden in die eigene Organisation.
Um das Potential von Menschen und Technologie vollends auszuschöpfen, sind menschliche Entscheidungen für den Umgang und Einsatz von KI für unternehmerische Entscheidungen essentiell.
Literatur
Booyse, D. & Scheepers, C. B. (2024): Barriers to adopting automated organisational decision making through the use of artificial intelligence
Cornelissen, N. A. J., Van Eerdt, R. J. M., Schraffenberger, H. K., & Haselager, W. F. (2022): Reflection machines: increasing meaningful human control over Decision Support System
Haag, F. (2025): The Effect of Explainable AI based Decision Support on Human Task Performance: A Meta Analysis
Li, B. (2023): From Tools to Agents: Meta Analytic Insights into Human Acceptance of AI
Schemmer, M. et al. (2022): A Meta Analysis of the Utility of Explainable Artificial Intelligence in Human AI Decision Making
Kontaktieren Sie unsere Experten
Benjamin Werner, Principal Consultant
Benjamin Schmidt, Consultant
