Una proposición de Ley Orgánica trata de dar cabida a las técnicas deepfake a la vez que garantizar los derechos al honor, intimidad y propia imagen
El pasado 13 de octubre de 2023 se publicó en el Boletín Oficial de las Cortes Generales la Proposición de Ley Orgánica de regulación de las simulaciones de imágenes y voces de personas generadas por medio de la inteligencia artificial.
La Proposición de Ley se articula como un mecanismo que trata de dar cabida a la utilización de técnicas de recreación de imágenes y voces de personas mediante la inteligencia artificial (comúnmente conocidas como deepfake) al amparo del Derecho Fundamental a la libertad de expresión, a la vez que esboza un marco regulatorio para tratar de asegurar los restantes Derechos Fundamentales previstos en nuestro ordenamiento jurídico, y en especial la protección del derecho al honor, a la intimidad y a la propia imagen.
¿Por qué surge esta Proposición de Ley?
La Proposición de Ley comienza advirtiendo sobre el avance de las tecnologías de la imagen y la utilización de la inteligencia artificial (nos referiremos a ellas, en general, como deepfake) en estos últimos años, y de los retos que a nivel legal plantean.
La Exposición de Motivos destaca que estas tecnologías “difumina[n] la barrera entre lo que es verdadero y lo que es falso; entre lo que son acciones realmente realizadas por una persona y lo que son simulaciones generadas por terceros de manera totalmente artificial” y que «el sistema normativo español carece de una regulación en lo que respecta a la forma de autorizar la difusión de las alteraciones de imágenes o voces y sobre la persecución de su utilización ilícita».
Sobre la base del estudio “Tackling deepfakes in European policy” del Servicio de Estudios del Parlamento Europeo (2021), la Proposición de Ley identifica los riesgos derivados del uso de estas tecnologías. Entre ellos se incluyen la difamación, la intimidación, el fraude, la manipulación mediática y electoral, el robo de identidad y los daños reputacionales, pasando por un riesgo de incidencia de los casos de acoso, llegando incluso a afectar el efectivo cumplimiento de principios esenciales como el de la igualdad y la no discriminación.
Al abordar los límites a la utilización del deepfake y el debate generado en torno a este tipo de tecnología, son numerosas las fuentes que la Proposición de Ley cita. En particular:
¿Cuál es el marco regulatorio propuesto?
La Proposición de Ley aboga por realizar varias modificaciones legislativas y recoge aquellas que considera más “inmediatas y urgentes”. Las detallamos a continuación.
Como excepción a esta infracción se prevé la utilización de estas tecnologías cuando dicho uso esté “autorizad[o] por la ley para detectar, prevenir, investigar y perseguir infracciones penales o cuando el contenido forme parte de una obra o programa evidentemente creativo, satírico, artístico o de ficción”.
De nuevo, en el caso de imágenes/vídeos, esta advertencia debe figurar sobreimpresa y ser claramente legible y, en el caso de audios, la advertencia deberá ser audible y realizarse inmediatamente antes y después de haber reproducido la voz generada por estos sistemas.
Asimismo, en su disposición adicional segunda, sugiere la creación de un Consejo Consultivo sobre el uso de la Inteligencia Artificial, encargado de velar por el desarrollo normativo y reglamentario de las iniciativas legislativas necesarias para la protección de los derechos fundamentales y las libertades públicas. Esta disposición adicional segunda también regula su composición orgánica y sus competencias.
