Pattuglie di polizia online sotto forma di robot digitali che scopriranno possibili abusi sui bambini. E un nuovo tipo di riconoscimento facciale che dovrebbe essere più rispettoso della privacy rispetto ai metodi biometrici esistenti . Questi sono i titoli di due nuovi progetti selezionati per il sandbox AI dell’Agenzia danese per la protezione dei dati.

“Entrambi i progetti intervengono profondamente nell’area dell’autorità norvegese per la protezione dei dati e la società in generale ha bisogno di molta conoscenza e apertura al riguardo. Entrambi i progetti hanno il potenziale per essere impegnativi ed entusiasmanti,” afferma il direttore del dipartimento Veronica Jarnskjold Buer dell’Autorità norvegese per la protezione dei dati.

Pattugliamento digitale

PrevBOT è una collaborazione tra l’Accademia di polizia norvegese e l’Università di Agder. Si tratta di un concetto per uno strumento di pattugliamento dei social media aperti, con l’obiettivo di prevenire gli abusi sessuali contro i bambini. La sanzione basata sull’intelligenza artificiale deve essere in grado di mappare i comportamenti che indicano un rischio di abuso sessuale e deve essere in grado di evidenziare le aree sociali a cui vale la pena prestare particolare attenzione. Deve essere in grado di identificare le conversazioni di adescamento tramite l’analisi del linguaggio e deve essere in grado di prevedere l’età e il sesso delle persone coinvolte.

“Il progetto è un lavoro innovativo, in cui mancano buoni esempi su cui fare affidamento. Coinvolge le forze dell’ordine ed è delicato sotto molti aspetti. Avere il permesso di esplorare il progetto nella sandbox è, in pratica, probabilmente una soluzione per il progetto“, afferma Inger Marie Sunde, professoressa presso il dipartimento di ricerca dell’Accademia di polizia norvegese.

Lo scopo generale è prevenire gli abusi sessuali sui bambini. Ma è possibile ottenere risultati con PrevBOT nel rispetto delle leggi vigenti e delle linee guida etiche? È tecnologicamente possibile far pattugliare i bot con sufficiente precisione? E richiederà un dibattito su come dovremmo e vogliamo utilizzare la nuova tecnologia?

“Per quelli di noi che lavorano con la privacy, il riflesso del dito indice si contrae automaticamente leggermente. Proprio per questo motivo sarà estremamente emozionante affrontare questo progetto con una mente aperta e vedere se è possibile realizzarlo senza entrare in conflitto con la privacy“, afferma Buer.

Fronte rispettoso della privacy

Nel secondo progetto la start-up Mobai vuole dare un volto al riconoscimento facciale rispettoso della privacy. Non è un segreto che sia le autorità di vigilanza dei dati norvegesi che quelle europee ritengano che il riconoscimento facciale – e in particolare il riconoscimento facciale in combinazione con l’analisi dell’intelligenza artificiale – sia un argomento impegnativo e stimolante ad alto rischio.

“Se questa iniziativa possa essere la chiave per un’innovazione rispettosa della privacy è un potenziale entusiasmante“, afferma Buer.

“Per noi è assolutamente fondamentale discutere l’uso della biometria con l’autorità norvegese per la protezione dei dati, in modo da poter sviluppare una soluzione sicura e rispettosa della privacy per la verifica facciale come misura contro l’aumento delle frodi“, afferma Brage Strand, CEO di Mobai .

Alle sue spalle, Mobai ha solide competenze in diversi settori. Del team fanno parte BankID, Sparebank1 Østlandet, NTNU e il Centro per il diritto IT e IP dell’Università di Lovanio in Belgio. Vogliono quindi esaminare come il riconoscimento facciale possa essere effettuato in modo più sicuro, dando all’utente anche un maggiore controllo. La soluzione deve consentire di utilizzare il riconoscimento facciale per un’autenticazione più semplice e sicura degli utenti dei servizi bancari, riducendo così il rischio di frodi e abusi.

Importanti progetti sandbox

Come sempre nel sandbox, il tempo tra la registrazione e l’avvio è breve. Più o meno in sincronia con la fioritura primaverile, inizia la pianificazione stradale costruttiva e basata sul dialogo nella sandbox. A Mobai, Strand è molto entusiasta di sapere se si sono preparati abbastanza bene da poter presentare il progetto in modo semplice e comprensibile.

“Non ultimo, attendiamo con impazienza buone discussioni sulle sfide e sulle opportunità insieme all’autorità norvegese per la protezione dei dati“, afferma.

Il direttore del dipartimento Buer presso l’autorità norvegese per la protezione dei dati non nasconde il fatto che entrambi i progetti contengono elementi che possono mettere in discussione la privacy degli individui nella società.

“Ed è proprio per questo che si tratta di un progetto incredibilmente importante. È ovvio che Mobai e l’Università di Polizia/UiA hanno fatto domanda alla sandbox. In questo modo raggiungiamo insieme un’innovazione rispettosa della privacy”, afferma Buer.

Sottolinea che nella sandbox, l’autorità norvegese per la protezione dei dati è più libera di esplorare i confini ed essere costruttiva a favore della privacy, perché il processo sandbox non consiste nel distribuire timbri di approvazione al progetto. Ciò rende più facile essere aperti su ciò che è impegnativo e il processo diventa più educativo per tutte le parti.

“A coloro che potrebbero essere preoccupati per la privacy: rilassatevi, stiamo affrontando il progetto con una mente acuta. Alle aziende che hanno partecipato: Rilassatevi, ci incontriamo con la mente aperta.“

https://www.datatilsynet.no/aktuelt/aktuelle-nyheter-2023/to-nye-prosjekt-i-sandkassa/