Nueva ley en el Reino Unido contra los deepfakes sexuales

En los últimos años, el fenómeno de los deepfakes ha causado gran preocupación en todo el mundo. Se trata de imágenes o vídeos manipulados mediante el uso deinteligencia artificial para sustituir el rostro de una persona por el de otra. Esta tecnología ha suscitado serias preocupaciones en términos de privacidad, seguridad y difamación. Para hacer frente a esta situación, el gobierno del Reino Unido ha anunciado una nueva ley que pretende proteger a las mujeres de los deepfakes sexuales generados por la IA.

¿Qué son los deepfakes?

Antes de entrar en los detalles de la nueva ley, es importante entender qué son exactamente los deepfakes. Los deepfakes son imágenes o vídeos manipulados que utilizan inteligencia artificial para sustituir el rostro de una persona por el de otra. Esta tecnología se ha vuelto especialmente preocupante cuando se utiliza para crear contenidos sexuales no consentidos. Los deepfakes sexuales pueden ser extremadamente perjudiciales para las víctimas, causándoles angustia emocional, humillación e invasión de su intimidad.

La nueva ley en el Reino Unido

El gobierno del Reino Unido ha anunciado una nueva ley que pretende hacer frente a la creación de deepfakes sexuales generados por IA. Según esta ley, cualquiera que cree estas imágenes sin el consentimiento de la víctima podría enfrentarse a cargos penales y a una multa ilimitada, incluso si no las difunde ampliamente pero las crea con la intención de causar angustia a la víctima. El principal objetivo de esta ley es reforzar la protección jurídica de las mujeres y establecer penas más severas para quienes creen deepfakes sexuales.

Protección de las mujeres

La nueva ley en el Reino Unido forma parte de un amplio esfuerzo por ofrecer una mayor protección a las mujeres. La creación de deepfakes sexuales se considera una práctica inmoral y a menudo misógina. La ley envía un mensaje claro de que la creación de este tipo de material es un delito, independientemente de la intención de compartirlo o de causar alarma, humillación o angustia a la víctima. El gobierno británico se ha comprometido a contrarrestar esta práctica y a garantizar que cualquier persona culpable de crear deepfakes sexuales se enfrente a las consecuencias legales.

El uso de la IA en la creación de deepfakes

El auge de la tecnología de síntesis de imágenes basada en el aprendizaje profundo ha facilitado cada vez más la creación de deep fakes incluso con simples ordenadores domésticos. Esta tecnología se originó en torno a 2017, cuando un usuario de Reddit llamado‘deepfakes‘ compartió pornografía falsa creada con IA en el servicio. Desde entonces, el término ‘deepfakes’ se ha extendido para referirse a imágenes y vídeos completamente nuevos sintetizados desde cero, creados por redes neuronales entrenadas con imágenes de la víctima.

Preocupación mundial

El problema de los deepfakes no es un fenómeno limitado al Reino Unido. En varios países se han dado casos de deepfakes que han tenido graves consecuencias. Por ejemplo, en Estados Unidos, dos chicos de 13 y 14 años fueron acusados de crear deepfakes eróticos de sus compañeros de colegio. La difusión de modelos de síntesis de imágenes de código abierto como Stable Diffusion desde 2022 ha aumentado la urgencia entre los reguladores de EE.UU. por intentar frenar o al menos castigar el acto de crear deepfakes no consentidos.

La distinción entre crear y compartir

La nueva ley propuesta en el Reino Unido marca la primera vez que la creación de deepfakes sexuales para adultos no consentidos será ilegal en el país. La ley hace hincapié en la distinción entre crear y compartir este tipo de material. Aunque la creación de deepfakes sexuales se considerará un delito, las leyes vigentes ya contemplan la creación de deepfakes sexuales de menores. El gobierno británico también pretende reforzar las leyes existentes permitiendo que se presenten cargos tanto por la creación como por la distribución de contenidos deepfake, lo que podría dar lugar a penas más severas por parte de la Fiscalía de la Corona (CPS).