Clearview Al ha estado encabezando los titulares internacionales, cuando la Oficina del Comisionado de Informaciones Australiano e Inglés han empezado una investigación conjunta sobre su práctica de privacy. La sociedad también se ha retirado recientemente del mercado canadiense tras una investigación en curso en Canadá.
¿Que es Clearview Al?
La tecnología Clearview Al ha sido primariamente comercializada entre las fuerzas del orden y permite a un usuario sacar foto de una persona, cargarla e identificar públicamente gracias a fotos públicas disponibles del individuo, junto a enlaces donde aparecen estas fotos. Clearview utiliza fuentes como Facebook, Youtube,
Venmo y tiene casi 2.85 millones de caras en su sistema.
Clearview Al afirma que su tecnología ha ayudado las fuerzas del orden a rastrear casi centos autores de relatos en relaccion a casos de disfrutamento sexuale de menores de edad, terrorismo y tráfico de sexo.
Dice también que esta tecnología ha sido utilizada para ayudar a los inocentes e identificar las victimas de crimen incluyendo también los fraudes financieros y casos de abusos sexual de menores.
Preocupaciones para la tecnología.
Los comentarios han subrayado preocupaciones sobre la inteligencia artificial de Clearview Al que podría plantear problemas directamente de acuerdo con la legislación de privacy de la Nueva Zelandia. Los sitios web como Facebook han planteado problemas sobre el hecho de que la tecnología viola sus términos de servicios comprometiéndose en “raspado de imágenes” en su contenido.
Diferentes empresas han puesto algunos dudas sobre la exactitud del software y del potencial de falsas correspondencia, en particular en relación a las minorías nacionales.
Los comentarios han hipotetizado el potencial daño si el software avanza sin una correcta reglamentación o si cae en las manos equivocadas. Por ejemplo, si la tecnología avanzaba en el palcoscenico en el que los individuos podían ser identificados en la calle, esto podría ser utilizado como instrumento para chantajear, acordar y/o molestar a alguien de ellos.
El contexto de la Nueva Zelandia
La policía de la Nueva Zelandia ha contactado el Clearview Al en enero de este año y ha empezado un proceso. Lo ha hecho sin consultar o informar nuestra oficina o informar al comisionado de policía entrante, Andrew Coster.
Tom Fitzgerald, responsable nacional de las investigaciones penales, ha declarado que su uso es limitado a 150 búsquedas de voluntarios de policía y casi 30 busquedas de personas de interés. Esto ha llevado casi 5 sospechosos, pero cada uno ha generado diferentes búsquedas.
Fitzgerald ha afirmado que la policía ha tenido solo un resultado positivo de una persona la cual foto era deja en los medias y que el set de datos era demasiado pequeño para ser útil en un contexto neozelandés y que tenía dificultad a identificar las personas de origen Maorí y de las Islas del Pacífico.
La policía ha declarado que establecerá nuevos procesos para garantizar que el Comisionado de policía y la nuestra oficina sean consultados en el futuro.
Siguiendo adelante
El desarrollo de la tecnología de reconocimiento facial es inevitable y la tecnología será siempre más avanzada en el tiempo.
Es importante que cualquier nueva tecnología sea introducida con la correcta consideración.
Nuestro consejo es que cualquiera inteligencia artificial tendría que ser utilizada con una cuidada referencia a nuestros principios para el uso seguro y eficaz de la analisi de los datos y que los datos:
- Tienen un claro beneficio público para estas tecnologías;
- sea adaptado al fin; se utiliza éticamente y con la debida consideración por el efecto que tendrá en las personas
- se utiliza de forma transparente y que su introducción está en línea con la legislación y las directrices
- con una comprensión de las limitaciones de la tecnología como el sesgo hacia grupos específicos
- tiene una supervisión humana adecuada y revisiones de los procesos automatizados para garantizar una toma de decisiones y una precisión sólidas.