Estudio del Parlamento Europeo: las tecnologías cada vez más omnipresentes, el desarrollo debe basarse en la ética y las personas
La aplicación de las tecnologías de inteligencia artificial (IA) al desarrollo de las llamadas «ciudades inteligentes» (o «smart cities») puede entrañar graves riesgos, tanto para las personas como para el delicado equilibrio de la cohesión territorial. Podría crearse una verdadera brecha, en términos de desarrollo y oportunidades sociales y económicas, entre las zonas individuales de las ciudades, entre las ciudades y sus contextos suburbanos, y entre las distintas ciudades de un territorio determinado. Estas son las conclusiones del reciente estudio «Inteligencia Artificial y Desarrollo Urbano» encargado por el Parlamento Europeo.
La investigación no deja de destacar los aspectos positivos de las ciudades inteligentes. La IA ofrece un enorme potencial de desarrollo socioeconómico y de mejora de la calidad de vida individual y colectiva (por ejemplo, movilidad, gestión de residuos, eficiencia energética, etc.). Sin embargo, la inteligencia artificial presenta riesgos potenciales ligados principalmente a su capacidad de recoger, procesar y transformar enormes cantidades de datos, aprovechando también las sinergias con otras tecnologías (Big Data, nube, Internet de las cosas).
En este contexto, la protección de datos representa un motor clave para la evaluación y mitigación de riesgos de diversa índole, que van desde las políticas de ciberseguridad hasta la influencia de errores y sesgos basados en la recogida y el tratamiento de datos, que pueden tener graves repercusiones a nivel individual y colectivo: desde el llamado riesgo de «caja negra», vinculado a la opacidad o incluso a la impenetrabilidad total de los procesos automatizados, hasta las implicaciones éticas relacionadas con los procesos de toma de decisiones de la IA que, a diferencia de los humanos, pueden estar completamente divorciados de las implicaciones morales, la empatía, la referencia al contexto humano (falta de valor); desde los riesgos para la reputación debidos a la compartición y difusión incontrolada de datos personales, hasta las desigualdades relacionadas con las diferentes oportunidades de acceso a los datos; hasta la excesiva invasión del control tecnológico en la vida cotidiana.
Para aprovechar al máximo el potencial de la IA respetando la privacidad de las personas, el estudio propone una serie de directrices operativas: una cuidadosa cooperación entre instituciones; el desarrollo de políticas y prácticas centradas en la regulación precisa del acceso y el intercambio de datos; la adaptación oportuna y puntual de los marcos jurídicos y normativos; y el desarrollo de las competencias y capacidades adecuadas (también en materia de protección de datos) por parte de los llamados a gestionar el desarrollo y la gobernanza de los procesos y tecnologías relacionados con las ciudades inteligentes.