Togas.biz

En los últimos días se han ido sucediendo una serie de pronunciamientos tanto desde las instituciones públicas de la Unión Europea y otros países terceros como desde entidades privadas en torno a la utilización de tecnologías de reconocimiento facial en espacios públicos por las autoridades.

Desde que hace apenas tres meses os informáramos en el blog sobre la aprobación de la primera ley que regula el uso del reconocimiento facial por las autoridades en el Estado de Washington (Ley SB 6280) y cuya entrada en vigor era el 11 de junio de 2020, varias entidades públicas y privadas se han pronunciado sobre el uso del reconocimiento facial por las autoridades.

Hacemos a continuación un breve repaso:

  • El 8 de junio de 2020, la Comisión de Libertades Civiles, Justicia y Asuntos de Interior del Parlamento Europeo publicó un borrador de informe sobre el uso de inteligencia artificial por las autoridades y la policía en materia de derecho penal.

    En este documento, el Parlamento (i) destaca la necesidad de que cualquier utilización de una herramienta de inteligencia artificial por las autoridades debe ser, como mínimo, segura y respetar los principios de justicia, transparencia, responsabilidad, no discriminación y las libertades, derecho de inocencia y presunción de inocencia de las personas; (ii) resalta los riesgos de estas tecnologías y, principalmente, los riesgos de discriminación y de identificación errónea; y (iii) hace un llamamiento para la moratoria en el uso de sistemas de reconocimiento facial hasta que se pueda entender que estos sistemas respetan los derechos fundamentales y cumplen con la normativa aplicable, sin que se deriven resultados discriminatorios y exista confianza en la necesidad y proporcionalidad de estos sistemas.
  • Con motivo de las protestas y el movimiento Black Lives Matter en EEUU, el 8 de junio de 2020, el CEO de IBM, Arvind Krishna, envió una carta al Congreso de EEUU, (i) anunciando que dejaría de proporcionar programas y sistemas de reconocimiento facial y que no tolera el uso de estos sistemas para “vigilancia masiva, perfilado racial o violaciones de derechos y libertades humanas”, y (ii) ofreciéndose a trabajar junto con el Congreso en la búsqueda de la justicia e igualdad, enfocado principalmente en tres áreas clave: la reforma de la policía, la implantación de políticas de uso responsable de la tecnología y la formación.
  • Siguiendo el ejemplo de IBM, el 10 de junio de 2020, Amazon anunció que prohibiría a la Policía el uso de su programa de reconocimiento facial Rekognition durante un año, solicitando a la vez una fuerte regulación gubernamental para que su tecnología pueda ser utilizada de forma ética en un futuro. Esta moratoria no afectará a su uso por otras organizaciones para el rescate de víctimas de tráfico de personas y menores separados de sus familias.
  • El mismo 10 de junio de 2020, fue el Comité Europeo de Protección de Datos (“EDPB”, por sus siglas en inglés) quien presentó sus dudas acerca de la legitimidad del uso de un servicio como el proporcionado por Clearview AI bajo el derecho de la Unión o de los Estados Miembros. A modo de resumen, esta herramienta se dirige a agencias y autoridades para su utilización en la identificación y seguimiento de sospechosos y víctimas de crímenes.

    El EDPB entiende que, sin perjuicio de un análisis más profundo, es probable que no fuera consistente con el marco jurídico de protección de datos establecido por el GDPR y anuncia unas guías o informe sobre el uso de tecnología de reconocimiento facial por las autoridades.
  • Al día siguiente, fue Microsoft la que anunció que tampoco vendería tecnología de reconocimiento facial a los departamentos de policía hasta que exista una ley que regule el uso de esta tecnología.
  • A raíz de todo lo anterior, el 25 de junio, un grupo de senadores de EEUU anunció la presentación de la “Facial Recognition and Biometric Technology Moratorium Act of 2020”, a raíz de la cual se pretende prohibir el uso de tecnologías de reconocimiento facial, incluidas las tecnologías basadas en otros datos biométricos, por las agencias sin la autorización expresa del Congreso y la prohibición de su uso en juicio si se hubieran utilizado incumpliendo la regulación de esa ley.
  • El último ha sido el Supervisor Europeo de Protección de Datos (“SEPD”) Moratoria que, el 29 de junio, publicó su opinión en relación con el Libro Blanco de la Comisión Europea sobre Inteligencia Artificial, del que os hablábamos en esta otra entrada, en el que también apoya la idea de una moratoria en el uso en la Unión Europea de reconocimiento facial y cualesquiera otros datos biométricos en espacios públicos de forma automatizada (incluyendo huella dactilar, ADN, voz, señales de comportamiento, etc.) hasta que se realice un debate a nivel europeo y se hayan establecido las medidas y el marco legal necesario para garantizar la proporcionalidad y la implementación de garantías en el uso de estos sistemas.

Adaya Esteban Asociada