Patrullas policiales en línea en forma de roBOT digitales para detectar posibles abusos a menores. Y un nuevo tipo de reconocimiento facial más respetuoso con la privacidad que los métodos biométricos existentes. Estos son los titulares de dos nuevos proyectos seleccionados para el «sandbox» de IA de la Autoridad Noruega de Protección de Datos.
«Ambos proyectos profundizan en áreas sobre las que la Autoridad de Protección de Datos y la sociedad en general necesitan mucho conocimiento y apertura. Ambos proyectos tienen el potencial de ser a la vez exigentes y apasionantes«, afirma Veronica Jarnskjold Buer, Jefa de Departamento de la Autoridad Noruega de Protección de Datos.
Patrulla digital
PrevBOT es una colaboración entre la Escuela Universitaria de Policía de Noruega y la Universidad de Agder. Se trata de un concepto de herramienta para patrullar en las redes sociales abiertas, con el objetivo de prevenir los abusos sexuales a menores. El robot basado en inteligencia artificial será capaz de localizar comportamientos que indiquen riesgo de abuso sexual y señalar los ámbitos sociales a los que merece la pena prestar más atención. Podrá identificar conversaciones de grooming analizando el lenguaje y predecir la edad y el sexo de los implicados.
«El proyecto es pionero y nos faltan buenos ejemplos en los que inspirarnos. Implica a la policía y es delicado en muchos sentidos. Poder explorar el proyecto en la caja de arena es en la práctica probablemente un toma y daca para el proyecto«, dice Inger Marie Sunde, profesora del departamento de investigación de la Escuela Universitaria de Policía de Noruega.
«El objetivo general es prevenir los abusos sexuales a menores. Pero ¿es posible lograrlo con PrevBOT dentro de las leyes y directrices éticas vigentes? ¿Es tecnológicamente posible conseguir que el bot patrulle con suficiente precisión? ¿Y requerirá un debate sobre cómo debemos y queremos utilizar las nuevas tecnologías?
«A los que trabajamos en el ámbito de la protección de datos se nos tuerce automáticamente el reflejo del dedo índice. Precisamente por eso es especialmente emocionante adentrarse en este proyecto con la mente abierta, y ver si es algo que puede lograrse sin entrar en conflicto con la privacidad«, afirma Buer.
Un rostro respetuoso con la privacidad
En el segundo proyecto, la empresa emergente Mobai quiere poner cara al reconocimiento facial respetuoso con la privacidad. No es ningún secreto que tanto las autoridades de protección de datos noruegas como las europeas creen que el reconocimiento facial -y especialmente el reconocimiento facial en combinación con el análisis inteligente artificial- es un tema exigente y desafiante con un alto riesgo.
«Que esta iniciativa pueda ser la clave de una innovación respetuosa con la privacidad es un potencial apasionante«, afirma Buer.
«Para nosotros es crucial discutir el uso de la biometría con la Autoridad Noruega de Protección de Datos para poder desarrollar una solución segura y respetuosa con la privacidad para la verificación facial como medida contra el aumento del fraude», afirma Brage Strand, CEO de Mobai.
Mobai cuenta con una sólida experiencia de varias fuentes. El equipo está formado por BankID, Sparebank1 Østlandet, NTNU y el Centro de Derecho de las Tecnologías de la Información y la Propiedad Intelectual de la Universidad de Lovaina (Bélgica). Quieren estudiar cómo aplicar el reconocimiento facial de una forma más segura que también dé más control al usuario. La solución debería permitir utilizar el reconocimiento facial para una autenticación más fácil y segura de los usuarios de servicios bancarios, reduciendo así el riesgo de fraudes y abusos.
Proyectos importantes del sandbox
Como siempre en el sandbox, hay poco tiempo desde la admisión hasta la puesta en marcha. Más o menos al mismo tiempo que florece la primavera, comienza la orientación constructiva y basada en el diálogo en el sandbox. En Mobai, a Strand lo que más le entusiasma es saber si se han preparado lo suficientemente bien como para poder presentar el proyecto de forma sencilla y comprensible.
«Y no menos importante, esperamos mantener buenas conversaciones sobre los retos y oportunidades junto con la Autoridad Noruega de Protección de Datos«, afirma.
El Sr. Buer, Director de la Autoridad Noruega de Protección de Datos, no oculta que ambos proyectos tienen elementos que pueden suponer un reto para la privacidad de las personas en la sociedad.
«Y precisamente por eso se trata de proyectos sumamente importantes. Es estupendo que Mobai y la Escuela Universitaria de Policía/UiA se hayan presentado al sandbox. Así es como podemos conseguir juntos una innovación respetuosa con la privacidad«, afirma Buer.
Señala que en el sandbox, la Autoridad Noruega de Protección de Datos tiene más libertad para explorar los límites y ser constructiva en nombre de la privacidad, porque el proceso del sandbox no consiste en poner sellos de aprobación a los proyectos. Esto facilita la apertura sobre lo que supone un reto, y el proceso es más educativo para todas las partes.
A quienes les preocupe la privacidad: No se preocupen, entramos en el proyecto con la mente abierta. A las organizaciones participantes: Tranquilos, nos reunimos con la mente abierta.
https://www.datatilsynet.no/aktuelt/aktuelle-nyheter-2023/to-nye-prosjekt-i-sandkassa/