Die niederländische Datenschutzbehörde (AP) entwickelt ein praktisches Tool für sinnvolle menschliche Eingriffe in algorithmische Entscheidungen. Um sicherzustellen, dass dieses Dokument mit der Praxis übereinstimmt, lädt die AP Unternehmen, Organisationen, Experten und Interessengruppen ein, im Rahmen einer Konsultation ihre Meinung einzubringen.
Unternehmen nutzen zunehmend Algorithmen und künstliche Intelligenz (KI) für algorithmische Entscheidungen. Dies geschieht beispielsweise bei der Beurteilung von Kreditanträgen oder der Überprüfung von Online-Bewerbungen. Wenn Unternehmen algorithmische Entscheidungen treffen wollen, müssen sie bestimmte Vorschriften einhalten. Einzelpersonen haben das Recht auf menschliches Eingreifen in algorithmische Entscheidungen, die sie betreffen. Die DSGVO legt hierfür Regeln fest.
Sinnvolle Intervention
Menschliches Eingreifen soll sicherstellen, dass Entscheidungen sorgfältig getroffen werden und verhindern, dass Menschen durch einen Algorithmus unbeabsichtigt ausgeschlossen oder diskriminiert werden. Dieses Eingreifen darf nicht rein symbolisch sein, sondern muss einen sinnvollen Beitrag zum Entscheidungsprozess leisten.
Die richtige Umsetzung ist entscheidend
Die Ausgestaltung sinnvoller menschlicher Eingriffe ist entscheidend. Wird ein Mitarbeiter beispielsweise durch Zeitmangel oder ein unübersichtliches System behindert, kann dies das Ergebnis der Entscheidung beeinflussen.
Organisationen haben oft Fragen zur effektiven Umsetzung. Daher entwickelt die AP ein Tool für sinnvolle menschliche Eingriffe in algorithmische Entscheidungsprozesse. Um sicherzustellen, dass diese Richtlinien mit der Praxis übereinstimmen, holt die AP im Rahmen einer Konsultation Input von Unternehmen und Organisationen ein.
Der AP bietet Beispiele und einen Überblick über Fragen, die Organisationen bei der Implementierung sinnvoller menschlicher Interventionen helfen können. Diese Fragen und Beispiele behandeln die relevanten Faktoren Mensch, Technologie, Design und Prozesse.