Auf einen Blick: Die EDPS-Checkliste zur menschlichen Intervention bei automatisierten Entscheidungen richtet sich zwar primär an EU-Institutionen, enthält aber einen sehr brauchbaren Prüfrahmen auch für Unternehmen. Entscheidend ist nicht, ob irgendwo im Prozess ein Mensch beteiligt ist, sondern ob diese Person die automatisierte Entscheidung tatsächlich verstehen, bewerten, korrigieren und verantworten kann.
Worum geht es in der Checkliste?
Automatisierte Entscheidungsprozesse werden in Unternehmen längst nicht mehr nur bei klassischen Scoring-Modellen eingesetzt. Relevante Anwendungsfälle finden sich heute unter anderem im Bewerber-Screening, in Betrugserkennungssystemen, im Forderungsmanagement, in Bonitätsprüfungen, in Compliance-Alerts und in KI-gestützten Priorisierungsmodellen.
Gerade in diesen Konstellationen wird oft angenommen, dass eine menschliche Freigabe am Ende des Prozesses ausreicht, um rechtliche Risiken zu beherrschen. Genau hier setzt die EDPS-Checkliste an: Eine formale Unterschrift oder ein bloßes Anklicken einer Empfehlung ist keine wirksame menschliche Intervention.
Die zentrale Botschaft für Unternehmen
Unternehmen sollten sich von der bequemen Vorstellung verabschieden, ein „Human-in-the-Loop“-Label löse das Problem bereits. Eine menschliche Kontrolle ist nur dann belastbar, wenn die verantwortliche Person die automatisierte Empfehlung nachvollziehen kann, fachlich in der Lage ist, sie kritisch zu prüfen, und organisatorisch die Befugnis hat, davon abzuweichen.
Praxiswarnung: Wer automatisierte Entscheidungen nur mit einer pro forma Freigabe versieht, schafft eher ein Dokumentationsproblem als eine Risikoreduktion. Die Verantwortung bleibt beim Unternehmen — und die Frage der Aufsichtsbehörde wird lauten, ob die menschliche Entscheidung tatsächlich eigenständig war.
Konkrete Handlungsanweisung in drei Schritten
- Verantwortliche Entscheider benennen: Für jeden relevanten ADM-Prozess sollte klar dokumentiert sein, wer die menschliche Prüfung übernimmt, über welche Fachkompetenz diese Person verfügt und welche Eskalationswege bestehen.
- Erklärbarkeit und Eingriffsmöglichkeiten sicherstellen: Die prüfende Person muss verstehen können, auf welcher Grundlage das System zu seinem Ergebnis kommt. Außerdem muss sie technisch und organisatorisch in der Lage sein, das Ergebnis zu ändern, zurückzuweisen oder eine vertiefte Prüfung anzustoßen.
- Eigenständige Entscheidung dokumentieren: Die Freigabe darf nicht nur die Systemausgabe bestätigen. Dokumentiert werden sollte, welche Faktoren geprüft wurden, warum die Empfehlung übernommen oder verworfen wurde und wer die Verantwortung getragen hat.
Drei Praxistipps für den Umgang mit dem Template
- Das Template als Governance-Werkzeug einsetzen: Die Checkliste sollte nicht isoliert abgeheftet werden, sondern in interne Freigabe-, Prüf- und Auditprozesse eingebunden sein. Sinnvoll ist ein standardisierter Review-Prozess mit Legal, Datenschutz, Fachbereich und — bei KI-Systemen — gegebenenfalls auch IT oder Data Science.
- Nicht abstrakt, sondern pro Prozess ausfüllen: Eine allgemeine Musterantwort hilft wenig. Die Checkliste entfaltet ihren Wert erst, wenn sie für jeden konkreten Anwendungsfall ausgefüllt wird — etwa getrennt für HR-Screening, Fraud Detection, Scoring oder AML-Alerts.
- Mit Belegpflicht kombinieren: Unternehmen sollten sich nicht mit Ja/Nein-Antworten begnügen. Jede zentrale Aussage im Template sollte mit Nachweisen hinterlegt werden, zum Beispiel durch Verfahrensbeschreibungen, Schulungsunterlagen, Rollenprofile, Entscheidungsprotokolle oder technische Screenshots.
Worauf Aufsichtsbehörden besonders achten dürften
In der Praxis werden Aufsichtsbehörden regelmäßig vier Punkte hinterfragen: Erstens, ob die menschlich entscheidende Person das System überhaupt verstehen konnte. Zweitens, ob genügend Zeit und Informationen für eine echte Prüfung vorhanden waren. Drittens, ob eine echte Abweichung von der Systemempfehlung möglich war. Viertens, ob diese Abweichung auch tatsächlich vorkommt oder das Unternehmen nur eine Scheinkontrolle aufgebaut hat.
Gerade bei KI-gestützten Systemen kommt hinzu, dass Unternehmen häufig auf externe Anbieter und komplexe Modelle angewiesen sind. Dann reicht es nicht, sich auf Vendor-Dokumentation zu verlassen. Erforderlich ist eine belastbare interne Bewertung, ob menschliche Kontrolle im konkreten Einsatzszenario wirklich funktioniert.
Welche Unternehmensbereiche besonders betroffen sind
- HR und Recruiting: Vorauswahl, Ranking oder Risikobewertung von Bewerberinnen und Bewerbern.
- Finance und Risk: Bonitätsprüfung, Forderungsmanagement, Fraud Detection, AML-Alerts, Kreditentscheidungen.
- Compliance und Investigations: Hinweisgebersysteme, interne Risikoindikatoren, Priorisierung von Prüfmaßnahmen.
- Customer Operations: Automatisierte Sperrungen, Priorisierungen, Preissetzung oder Eskalationsentscheidungen.
Empfehlung aus der Beratungspraxis: Unternehmen sollten für alle kritischen ADM-Prozesse eine kurze Prüfmatrix erstellen: Zweck des Systems, betroffene Personen, verwendete Daten, Entscheidungswirkung, menschliche Prüfstelle, Eingriffsmöglichkeiten, Dokumentation und regelmäßige Re-Evaluierung. So lässt sich die EDPS-Logik in ein belastbares Governance-Modell übersetzen.
Fazit für die Praxis
Die EDPS-Checkliste ist keine theoretische Arbeitshilfe, sondern ein klarer Hinweis auf die Erwartungen an verantwortungsvolle ADM-Governance. Unternehmen sollten jetzt prüfen, wo sie automatisierte Entscheidungslogik einsetzen und ob die vorgesehene menschliche Intervention tatsächlich mehr ist als eine bloße Formalie.
Wer hier früh strukturiert vorgeht, reduziert nicht nur aufsichtsrechtliche Risiken, sondern verbessert zugleich Nachvollziehbarkeit, interne Verantwortlichkeit und die Verteidigungsfähigkeit gegenüber Betroffenen, Behörden und Gerichten.
Setzen Sie KI- oder Scoring-Systeme in sensiblen Entscheidungsprozessen ein?
Wir prüfen Ihre ADM- und KI-Prozesse auf datenschutzrechtliche und organisatorische Risiken — von Rollen- und Berechtigungskonzepten über Dokumentation und Transparenz bis zur konkreten Ausgestaltung wirksamer menschlicher Intervention.