Wenn Algorithmen entscheiden: Wer trägt die Verantwortung?

Ein Algorithmus lehnt deinen Kreditantrag ab. Ein anderer sortiert deinen Lebenslauf aus, bevor ihn ein Mensch gesehen hat. Ein drittes System empfiehlt dem Arzt, welche Behandlung er einleiten soll. Wer ist verantwortlich, wenn diese Entscheidungen falsch sind?

Diese Frage ist nicht neu — aber sie wird dringender. Denn die Systeme werden besser, schneller und schwerer durchschaubar. Gleichzeitig wächst ihr Einfluss auf Lebensbereiche, in denen Fehler echte Konsequenzen haben.

Das Verantwortungs-Vakuum

Das klassische Recht kennt klare Verantwortungsträger: Hersteller, Betreiber, Nutzer. Bei KI-Systemen verschwimmt das. Ein Modell wird von Unternehmen A trainiert, von Unternehmen B angepasst, von Unternehmen C eingesetzt — und trifft Entscheidungen, die Unternehmen D betreffen.

Der EU AI Act versucht, dieses Vakuum zu schließen. Er unterscheidet nach Risikostufen und schreibt vor, wer bei Hochrisikoanwendungen wie Kreditvergabe oder Strafverfolgung dokumentieren, prüfen und haften muss. Das ist ein Anfang. Aber kein Abschluss.

Transparenz als Grundbedingung

Verantwortung setzt Nachvollziehbarkeit voraus. Ein System, das keine Erklärung für seine Entscheidung liefert, entzieht sich jeder sinnvollen Kontrolle. "Explainable AI" ist deshalb kein technisches Nice-to-have — es ist eine gesellschaftliche Notwendigkeit.

Das Problem: Die leistungsfähigsten Modelle sind oft die intransparentesten. Large Language Models können erklären, warum sie etwas sagen — aber diese Erklärung ist selbst eine Generierung, keine echte Einblick in den Entscheidungsprozess.

Was das für uns bedeutet

Wir müssen aufhören, KI-Systeme als neutrale Werkzeuge zu betrachten. Sie sind das Ergebnis von Entscheidungen: Welche Daten? Welches Ziel? Welcher Trade-off? Diese Entscheidungen treffen Menschen — und Menschen können dafür zur Verantwortung gezogen werden.

Die gesellschaftliche Aufgabe ist, diese Rechenschaftspflicht strukturell zu verankern: in Gesetzen, in Unternehmensstrukturen, in der Ausbildung derjenigen, die solche Systeme bauen und einsetzen.