Togas.biz

La protección del ciudadano es el centro del nuevo Proyecto de Declaración de Derechos sobre la Inteligencia Artificial publicado por la Casa Blanca

Estados Unidos sigue dando pasos adelante en el diseño de su estrategia nacional en materia de inteligencia artificial (“IA”). El Proyecto de Declaración de Derechos sobre la IA de la Casa Blanca intentará delimitar el uso de esta tecnología, para evitar que los ciudadanos vean deteriorados sus derechos o se les impida el acceso a recursos o servicios críticos.

El texto publicado por la Oficina de la Casa Blanca para Políticas de Ciencia y Tecnología identifica cinco principios que deberán tenerse en cuenta en el diseño, el uso y el despliegue de los sistemas automatizados. Este marco va acompañado de otro documento llamado From Principles to Practice, un manual que detalla los pasos para llevar a la práctica estos principios, que describimos a continuación.

1. Sistemas seguros y eficaces

El primer principio promueve que los sistemas automatizados se desarrollen consultando a las comunidades afectadas, para identificar los riesgos, las preocupaciones y el potencial impacto que pueden tener en sus vidas. Los sistemas también deberán someterse a pruebas previas a su despliegue y evitar usar datos que no sean necesarios para alcanzar los fines pretendidos. Asimismo, para garantizar el cumplimiento de este principio, deberán realizarse evaluaciones y auditorías periódicas de los sistemas.

2. Protección contra la discriminación algorítmica

El segundo principio busca que los sistemas automatizados se diseñen y utilicen de forma equitativa, por ejemplo, deben tomarse medidas para evitar resultados desfavorables e injustificados basados en condiciones como la raza, color, origen étnico, el sexo, la religión, edad, origen nacional, discapacidad, condición de veterano, información genética, entre otras. El texto también establece que se lleven a cabo periódicamente evaluaciones de impacto algorítmico, para verificar que no se han producido desviaciones que causen decisiones discriminatorias.

3. Privacidad de los datos

El tercer principio exige la protección de los datos contra prácticas abusivas. Por ejemplo, los ciudadanos han de tener una expectativa razonable de privacidad y los datos únicamente deben utilizarse para los fines por los que fueron recogidos. En la medida de lo posible, también se deberá solicitar en un lenguaje sencillo el consentimiento para llevar a cabo el tratamiento de datos mediante sistemas automatizados.

4. Aviso y explicación

El cuarto principio exige que se proporcione a los ciudadanos información sobre los sistemas automatizados utilizados en un lenguaje sencillo y accesible, que incluya descripciones claras relativas al sistema, su funcionamiento e impacto para el afectado. No obstante, no se especifica en el texto cómo deberá facilitarse esta información.

5. Intervención humana, valoración e impugnación de la decisión

El quinto principio establece que los ciudadanos deben poder impugnar una decisión automatizada y, en determinados casos, han de tener la posibilidad de solicitar la intervención humana en lugar de ser objeto de estas decisiones. La intervención humana también ha de poder servir para valorar y reconsiderar las decisiones que haya podido alcanzar un sistema automatizado.

Por otro lado, la Casa Blanca se ha mostrado favorable a desarrollar la regulación en materia de IA de forma sectorial. Es decir, al contrario de lo que está sucediendo en la Unión Europea, donde se están elaborando normas relativas a la IA de muy amplio alcance (por ejemplo, como comentamos en nuestro anterior post: La Comisión propone nuevas normas de responsabilidad en materia de inteligencia artificial), es probable que en Estados Unidos nos encontremos con distintas normativas sobre IA que aplicarán de forma específica para cada uno de los sectores o aplicaciones en las que se vaya a hacer uso de sistemas automatizados. En este sentido, aunque la Declaración de Derechos sobre la IA resultante no será un documento vinculante, ya se ha anunciado que varios organismos federales emprenderán acciones y publicarán orientaciones relacionadas con el uso de sistemas basados en IA.

En lo que sí parece que coincide el sistema norteamericano respecto al europeo es en la similitud de alguno de los principios aplicables cuando vayan a utilizarse sistemas automatizados. Por ejemplo, lo podemos apreciar tanto en el Reglamento General de Protección de Datos, como en algunas de las guías o directrices de las autoridades de control europeas (a modo de ejemplo, tenemos la Guía de adecuación al RGPD de tratamientos que incorporan IA o la Guía de requisitos para auditorías de tratamientos que incluyan IA de la Agencia Española de Protección de Datos).

El texto publicado por la Casa Blanca es consecuencia del aumento de sistemas automatizados, que se prevé que siga creciendo de forma significativa durante los próximos años. Esta progresión en curso significa que, independientemente de las normas específicas que se estén desarrollando actualmente, los organismos tendrán que ajustar y ampliar de forma recurrente su regulación para adaptarse a las innovaciones y nuevas aplicaciones de la IA que aparezcan en el mercado.

Ramón Baradat