Togas.biz

Una proposición de Ley Orgánica trata de dar cabida a las técnicas deepfake a la vez que garantizar los derechos al honor, intimidad y propia imagen

El pasado 13 de octubre de 2023 se publicó en el Boletín Oficial de las Cortes Generales la Proposición de Ley Orgánica de regulación de las simulaciones de imágenes y voces de personas generadas por medio de la inteligencia artificial.

La Proposición de Ley se articula como un mecanismo que trata de dar cabida a la utilización de técnicas de recreación de imágenes y voces de personas mediante la inteligencia artificial (comúnmente conocidas como deepfake) al amparo del Derecho Fundamental a la libertad de expresión, a la vez que esboza un marco regulatorio para tratar de asegurar los restantes Derechos Fundamentales previstos en nuestro ordenamiento jurídico, y en especial la protección del derecho al honor, a la intimidad y a la propia imagen.

¿Por qué surge esta Proposición de Ley?

La Proposición de Ley comienza advirtiendo sobre el avance de las tecnologías de la imagen y la utilización de la inteligencia artificial (nos referiremos a ellas, en general, como deepfake) en estos últimos años, y de los retos que a nivel legal plantean.

La Exposición de Motivos destaca que estas tecnologías “difumina[n] la barrera entre lo que es verdadero y lo que es falso; entre lo que son acciones realmente realizadas por una persona y lo que son simulaciones generadas por terceros de manera totalmente artificial” y que «el sistema normativo español carece de una regulación en lo que respecta a la forma de autorizar la difusión de las alteraciones de imágenes o voces y sobre la persecución de su utilización ilícita».

Sobre la base del estudio “Tackling deepfakes in European policy” del Servicio de Estudios del Parlamento Europeo (2021), la Proposición de Ley identifica los riesgos derivados del uso de estas tecnologías. Entre ellos se incluyen la difamación, la intimidación, el fraude, la manipulación mediática y electoral, el robo de identidad y los daños reputacionales, pasando por un riesgo de incidencia de los casos de acoso, llegando incluso a afectar el efectivo cumplimiento de principios esenciales como el de la igualdad y la no discriminación.

Al abordar los límites a la utilización del deepfake y el debate generado en torno a este tipo de tecnología, son numerosas las fuentes que la Proposición de Ley cita. En particular:

¿Cuál es el marco regulatorio propuesto?

La Proposición de Ley aboga por realizar varias modificaciones legislativas y recoge aquellas que considera más “inmediatas y urgentes”. Las detallamos a continuación.

    • Se incorpora como infracción muy grave la difusión de deepfakes sin la previa autorización o consentimiento expreso de la persona o personas objeto de ellos, salvo que incluyan una advertencia de su condición de imagen o audio generados artificialmente.
    • En el caso de imágenes/vídeos, esta advertencia debe figurar sobreimpresa y ser claramente legible y, en el caso de audios, la advertencia deberá realizarse inmediatamente antes y después de haber reproducido la voz generada por estas tecnologías.

Como excepción a esta infracción se prevé la utilización de estas tecnologías cuando dicho uso esté “autorizad[o] por la ley para detectar, prevenir, investigar y perseguir infracciones penales o cuando el contenido forme parte de una obra o programa evidentemente creativo, satírico, artístico o de ficción”.

De nuevo, en el caso de imágenes/vídeos, esta advertencia debe figurar sobreimpresa y ser claramente legible y, en el caso de audios, la advertencia deberá ser audible y realizarse inmediatamente antes y después de haber reproducido la voz generada por estos sistemas.

  • Su artículo 3 propone modificar el Código Penal, de forma que:
    • Como delito de injuria, incorpora la acción consistente en recrear mediante tecnología deepfake para la pública difusión de la imagen corporal o audio de una persona, sin haber obtenido su autorización y con el afán de menoscabar el honor, fama, dignidad o la estimación de una persona.
    • La difusión en redes sociales de las recreaciones realizadas mediante tecnología deepfake será calificado como injuria hecha con publicidad.
  • Su artículo 4 propone modificar la Ley de Enjuiciamiento Civil, creando una medida cautelar específica consistente en “[l]a retirada de las simulaciones de imágenes, vídeos o voces de personas, generadas por sistemas automatizados, software, algoritmos o mecanismos de inteligencia artificial a petición de la persona afectada o sus representantes”.
  • Su artículo 6 propone modificar la Ley 3/1991, de 10 de enero, de Competencia Desleal, incorporando como conducta constitutiva de “actos de engaño” la utilización en comunicaciones comerciales de deepfakes o la modificación de las apariencias corporales utilizadas en dichas comunicaciones por sistemas de procesamiento de imágenes sin advertir de tales extremos en la propia comunicación comercial de una forma clara y sobresaliente.
  • Su artículo 7 propone modificar la Ley Orgánica 5/1985, de 19 de junio, del Régimen Electoral General para añadir un nuevo régimen de delitos en la distribución maliciosa de imágenes y voces generadas mediante inteligencia artificial.
  • En su disposición adicional primera sugiere la creación de un Consejo de Participación Ciudadana para la supervisión y evaluación de la Inteligencia Artificial y regula su composición orgánica y sus competencias.

Asimismo, en su disposición adicional segunda, sugiere la creación de un Consejo Consultivo sobre el uso de la Inteligencia Artificial, encargado de velar por el desarrollo normativo y reglamentario de las iniciativas legislativas necesarias para la protección de los derechos fundamentales y las libertades públicas. Esta disposición adicional segunda también regula su composición orgánica y sus competencias.