Uno de los usos más extendidos de la inteligencia artificial (IA) es la generación automática de contenidos, en particular de imágenes y vídeos. Hoy en día, la creación de rostros, paisajes y otras representaciones visuales muy realistas abre nuevas oportunidades, pero también suscita inquietudes. La propagación de deepfakes, que son contenidos audiovisuales manipulados mediante IA, es una de las cuestiones más serias, ya que en ocasiones resulta muy difícil diferenciar qué es real y qué no. Esta práctica se está empleando para generar montajes hiperrealistas que pueden llegar a vulnerar derechos fundamentales.
La Agencia Española de Protección de Datos (AEPD) ha emitido recientemente una resolución que representa un avance significativo en la regulación de estos contenidos. Por primera vez, se sanciona la creación y difusión de imágenes sexualizadas falsas producidas a través de IA, una situación que ha creado un enorme interés en los medios de comunicación y en el ámbito jurídico.
A continuación, te contamos qué ha pasado, por qué es importante y cómo afecta a cualquier empresa que use imágenes en el entorno digital.
La intervención de la AEPD se inició tras la publicación de diversas informaciones periodísticas que alertaban sobre la circulación de imágenes manipuladas mediante IA, en las que aparecían rostros reales sobre cuerpos desnudos que no les pertenecían. Dicho material se difundía a través de redes sociales, aplicaciones de mensajería y plataformas de contenido para adultos. Ante estos indicios, la Agencia abrió actuaciones previas con el objetivo de esclarecer los hechos, recabar datos y tratar de identificar a los responsables.
Posteriormente, la presentación de una reclamación formal por parte de una de las personas afectadas reforzó la necesidad de seguir con la investigación. Durante esta fase, la AEPD solicitó la colaboración del Ministerio Fiscal, ante la posible implicación de menores, así como de la Agencia Tributaria, con el fin de verificar la identidad y el domicilio del presunto infractor.
Una vez recopilada la información necesaria y constatada la existencia de indicios suficientes, la AEPD decidió iniciar un procedimiento sancionador.
En su resolución, la AEPD deja claro que este tipo de contenidos no son simples montajes sino que constituyen un tratamiento de datos personales. El Reglamento General de Protección de Datos (RGPD) considera dato personal cualquier información que permita identificar o hacer identificable a una persona, como ocurre con una imagen o un rostro. Por tanto, la manipulación digital de estas fotografías —su creación, modificación y posterior difusión— constituye un tratamiento sujeto a la normativa de protección de datos.
Además, la autoridad española señala que la creación de estos deepfakes es ilícita porque no existe ninguna base jurídica que la legitime. No hay consentimiento de los afectados, ni existe obligación legal, ni puede invocarse un interés legítimo que prevalezca sobre los derechos de las personas. Esta ausencia de fundamento convierte el tratamiento en claramente contrario al RGPD y a la Ley Orgánica 3/2018 (LOPDGDD).
Una de las cuestiones más relevantes del caso es la presencia de menores entre las personas afectadas. La normativa española establece una protección reforzada para ellos, prohibiendo la difusión de cualquier imagen que pueda menoscabar su honor o dignidad. Por este motivo, la AEPD trasladó los hechos al Ministerio Fiscal, dando lugar a posibles responsabilidades penales adicionales.
El mensaje es contundente, el daño que este tipo de prácticas puede causar a un menor es especialmente grave y merece una respuesta proporcional.
Finalmente, la AEPD impuso una sanción económica al infractor y le ordenó cesar de inmediato en el tratamiento de las imágenes, así como abstenerse de almacenar o difundir cualquier contenido similar en el futuro. Más allá de la multa, la resolución supone un punto de inflexión ya que marca el camino sobre cómo deben abordarse los deepfakes desde la óptica de la protección de datos y anticipa un mayor escrutinio hacia el uso de IA en el ámbito digital.
Cualquier organización que permita subir, alojar o mostrar imágenes en su sitio web o en sus servicios digitales puede enfrentarse a riesgos si no controla la autenticidad del contenido que se publica.
Entre estos riesgos están:
Para evitarlo, se vuelve clave disponer de herramientas que permitan identificar imágenes manipuladas antes de que lleguen al público. Para evitar situaciones como esta, en Lawwwing hemos desarrollado un sistema de detección automática de imágenes manipuladas o generadas mediante IA, diseñado específicamente para ayudar a empresas a prevenir problemas como los que se han analizado en esta resolución.
Esta solución se llama:
