L’Autorità olandese per la protezione dei dati (AP) sta sviluppando uno strumento pratico per un intervento umano significativo nel processo decisionale algoritmico. Per garantire che questo documento sia in linea con le pratiche del mondo reale, l’AP invita aziende, organizzazioni, esperti e stakeholder a fornire input tramite una consultazione.
Le organizzazioni utilizzano sempre di più algoritmi e intelligenza artificiale (IA) per il processo decisionale algoritmico. Ad esempio, per valutare le domande di credito o esaminare le domande di lavoro online. Se le organizzazioni vogliono utilizzare il processo decisionale algoritmico, devono rispettare le normative. Gli individui hanno il diritto all’intervento umano nelle decisioni algoritmiche che li riguardano. Il GDPR stabilisce le regole per questo.
Intervento significativo
L’intervento umano dovrebbe garantire che le decisioni siano prese con attenzione e impedire che le persone vengano involontariamente escluse o discriminate da un algoritmo. Questo intervento non dovrebbe essere meramente simbolico; deve contribuire in modo significativo al processo decisionale.
La corretta implementazione è fondamentale
Il modo in cui è strutturato un intervento umano significativo è cruciale. Ad esempio, se un dipendente è ostacolato da vincoli di tempo o da un sistema poco chiaro, ciò potrebbe influenzare l’esito della decisione.
Le organizzazioni hanno spesso domande su come implementare questo in modo efficace. Pertanto, l’AP sta sviluppando uno strumento per un intervento umano significativo nel processo decisionale algoritmico. Per garantire che queste linee guida siano in linea con le pratiche del mondo reale, l’AP sta cercando input da aziende e organizzazioni tramite una consultazione.
L’AP fornisce esempi e una panoramica di domande che possono aiutare le organizzazioni quando implementano un intervento umano significativo. Queste domande ed esempi affrontano i fattori rilevanti umani, tecnologia, progettazione e processi.