Al final de un seminario que reunió a expertos en la materia, organizado en colaboración con la CNIL los días 28 y 29 de mayo, el Defensor de los Derechos publicó sus primeras recomendaciones para prevenir y combatir la discriminación discriminatoria en los algoritmos.

Las herramientas digitales, cuyo uso ha aumentado con la crisis sanitaria actual, a menudo se basan en algoritmos sin que el público siempre lo sepa o esté informado. Ahora utilizados en áreas como el acceso a las prestaciones sociales, la policía, el poder judicial e incluso la contratación, son fuentes de progreso, pero también implican riesgos para los derechos fundamentales, como ya ha señalado la CNIL. y el defensor de los derechos.

Detrás de la aparente neutralidad de los algoritmos, la investigación ha descubierto el alcance de los sesgos que pueden ocurrir durante su diseño y distribución. Al igual que las bases de datos que los alimentan, son diseñados y generados por seres humanos cuyos estereotipos, que se repiten automáticamente, pueden conducir a la discriminación.

Considerando que esta cuestión no debe ser un punto ciego en el debate público, la CNIL y defensora de los derechos reunió a especialistas, investigadores, abogados y desarrolladores los días 28 y 29 de mayo sobre cuestiones de transparencia de algoritmos y sesgos discriminatorios. Todos los expertos han destacado los riesgos significativos de discriminación que su uso exponencial puede suponer para cada uno de nosotros, en todas las áreas de nuestras vidas.

Para prevenir esta discriminación, corregirla y castigar a sus autores, el Defensor de los Derechos pide conciencia colectiva e insta a las autoridades públicas y a las partes interesadas a que tomen medidas para evitar que la discriminación sea reproducida y amplificada por estas tecnologías.

Estas recomendaciones, formuladas en colaboración con la CNIL en relación con la protección de datos personales, están disponibles en el sitio web de Defender of Rights.

El desarrollo de tecnologías algorítmicas y sistemas de aprendizaje requiere que las instituciones mantengan una gran vigilancia sobre las consecuencias de estos avances tecnológicos, pero también que las anticipen, para permitir que el debate democrático se lleve a cabo de manera informada mientras piensan en un marco de protección jurídica y una legislación de derechos y libertades.

La CNIL y defensora de los derechos continuarán sus reflexiones sobre esta cuestión y contribuirán a las de los responsables públicos de la toma de decisiones. Desde esta perspectiva, su brújula debe seguir siendo la voluntad de garantizar que todos respeten sus derechos fundamentales, en particular los de no ser discriminados y los de proteger sus datos personales.

FUENTE: AUTORITA’ PER LA PROTEZIONE DEI DATI DELLA FRANCIA – CNIL