KI-Denkfehler #6: Viele Führungskräfte glauben, KI sei nachvollziehbar.
Viele Führungskräfte glauben, die Arbeit einer KI sei nachvollziehbar, wie das immer der Fall ist, wenn ein Computer eine Aufgabe erledigt. Das ist verständlich – aber falsch. KI ist keine klassische Software. Da gibt es keinen Programmcode, den man ausdrucken und darin einen Fehler suchen könnte. KI arbeitet mit neuronalen Netzwerken. Das sind Millionen von Verbindungen künstlicher Synapsen. Wie darin ein Entscheide zustandekommen, ist nicht nachvollziehbar, auch für Experten nicht. Die KI ist deshalb keine klassische Software, sondern eine Blackbox.
Drei Denkfehler, die ich oft beobachte:
❶ «KI ist ein Computerprogramm.»
→ Nein, ist es nicht. Klassische Software folgt einem klaren Code, der sich Zeile für Zeile nachvollziehen und bei Bedarf korrigieren lässt. KI dagegen besteht aus komplexen, neuronalen Netzwerken mit Millionen künstlicher Synapsen. Wie genau sie zu einem Ergebnis kommt, ist selbst für Fachleute oft nicht rekonstruierbar.
Es kommt deshalb auf die menschliche Prüfung der Ergebnisse an. Das bedeutet auch: Wer in KI investiert, muss zugleich in die Menschen investieren, die sie bedienen, verstehen – und kontrollieren können. Sonst ist das Ergebnis bald nur noch künstlich.
❷ «KI macht Abläufe überprüfbar.»
→ Falsch: Auch wenn KI-Modelle auf Software basieren, gibt es keinen Programmcode, der Schritt für Schritt den Entscheidungsweg offenlegt. Für Menschen – und sogar für die KI selbst – bleibt dieser Weg eine Blackbox. Die Abläufe lassen sich im Detail nicht überprüfen.
Darum gilt: Konzentrieren Sie sich auf das, was kontrollierbar ist – die Qualität der Eingangsdaten und die präzise Definition der Parameter. KI ersetzt keine klaren Prozesse, im Gegenteil: Sie funktioniert nur verlässlich, wenn sie in sorgfältig gestaltete und überwachte Abläufe eingebettet ist.
❸ «KI macht Entscheidungen sachlicher.»
→ Höchstens automatischer. Die Entscheidungslogik bleibt oft undurchsichtig. Interessant ist, dass auch die KI uns nicht weiterhelfen kann: Sie ist nicht in der Lage, sich selber zu erklären. Fragt man sie nach einer Begründung, liefert sie zwar eine plausible Antwort. Die Auskunft basiert aber nicht auf dem tatsächlichen Rechenweg.
Generative KI arbeitet nicht nur mit Wahrscheinlichkeiten, sondern auch mit Zufallselementen. Darum kann sie bei identischen Eingaben unterschiedliche Ergebnisse liefern. Die KI ist kein nachvollziehbarer Algorithmus. Die KI ist deshalb keine objektive Entscheidungsinstanz, sondern – eine Blackbox.
Deshalb gilt: KI muss in klar definierte Prozesse, Rollen und Verantwortlichkeiten eingebettet sein – sonst bleibt sie unberechenbar.
Darum habe ich CEO-Sparring entwickelt:
Ein Denkraum auf Augenhöhe – für Führungspersönlichkeiten, die nicht alles wissen müssen, aber die richtigen Fragen stellen wollen.
👉 Ich vergebe nur fünf Plätze.
📩 Direktnachricht genügt – für Onepager & Einladung zum Erstgespräch.
Basel, 12.08.2025, Matthias Zehnder mz@matthiaszehnder.ch
Abonnieren Sie meinen Newsletter.
Ich gebe Ihnen jede Woche zu denken.
Meine Themen: Medien, Digitalisierung und Künstliche Intelligenz.
Mein Angebot: konstruktive Kritik und neue Perspektiven.
Wenn Ihnen das gefällt, abonnieren Sie meinen Newsletter: Dann erhalten Sie meinen Denkanstoss jede Woche per E-Mail und dazu Lesetipps zu aktuellen und spannenden Büchern.
Ein Kommentar zu "KI-Denkfehler #6: Viele Führungskräfte glauben, KI sei nachvollziehbar."
Seit mehr als 200 Jahren brettert die sogenannte zivilisierte Welt apokalyptisch getrimmt in eine Zukunft, die eigentlich keine sein kann. Immer noch schneller und zugleich mit immer noch grösseren sogenannten Fortschritten. Ob mit oder ohne KI und ob mit oder ohne Krieg: Die Welt, in der wir leben, wird zurzeit gigantisch und rigoros in Trümmer zerlegt. Von kranken Geld- und Machthabern als Brandbeschleuniger für eine «Zuvielisation», die in Tat und Wahrheit schon länger an sehr vielen Ecken und Enden brennt. Es ist eine Welt, die von Gier, Herrsch- und Vergnügungssucht sowie von Zerstörungswut geprägt ist. Sie manifestiert sich mehrheitlich unbewusst als ein Trauma mit sowohl individuell als auch kollektiv wirksamen Folgen. Hoffnungsfroh bin ich für und mit Menschen unterwegs, die fundamental andere Wege gehen.