El experimento de la AEPD que demuestra lo fácil que es manipular tu rostro con Inteligencia Artificial
Lorenzo Cotino advierte sobre las consecuencias legales y sociales de una tendencia que parece inofensiva
- ¿Qué son los deepfakes y por qué deben preocuparnos?
- El experimento: Una fotografía es suficiente
- La reflexión de Lorenzo Cotino
- Recomendaciones clave para el ciudadano
- Un ecosistema de recursos para la IA
Con fecha de hoy, 17 de marzo de 2026, la Agencia Española de Protección de Datos (AEPD) ha dado un paso firme en la regulación ética de la tecnología. Bajo el lema ‘Los deepfakes no son una broma’, la institución busca concienciar a la ciudadanía sobre los riesgos que conlleva la creación y difusión de contenidos manipulados.
¿Qué son los deepfakes y por qué deben preocuparnos?
Los deepfakes son contenidos audiovisuales generados mediante algoritmos de Inteligencia Artificial capaces de replicar, con un realismo asombroso, la voz, el rostro o los gestos de cualquier persona. Aunque esta tecnología posee aplicaciones legítimas en la industria del entretenimiento, su uso indebido puede derivar en situaciones graves de suplantación de identidad, humillación o descrédito personal.
El experimento: Una fotografía es suficiente
El corazón de esta iniciativa es un vídeo divulgativo que utiliza una simulación en pantalla dividida. En él se demuestra cómo, partiendo de una simple fotografía, la IA puede generar un montaje ultra realista. El objetivo es mostrar que, aunque en el ejemplo el contenido cuenta con consentimiento, la facilidad técnica para manipular la imagen de terceros es una realidad al alcance de cualquiera.
La reflexión de Lorenzo Cotino
El presidente de la AEPD, Lorenzo Cotino, ha subrayado la importancia de la prudencia:
“La inteligencia artificial es una herramienta que puede contribuir al progreso social, pero su utilización debe ir acompañada de información y responsabilidad. Manipular imágenes de terceros con IA no es algo neutro, incluso en contextos aparentemente banales, y exige una valoración rigurosa”.
Según Cotino, el vídeo no es solo una advertencia, sino una invitación a reflexionar antes de actuar en el entorno digital.
Recomendaciones clave para el ciudadano
Para evitar consecuencias legales y sociales, la Agencia recuerda que es fundamental seguir estas pautas:
-
Información técnica y legal: Entender cómo funciona la IA y los efectos negativos que un deepfake puede tener en la vida personal y profesional de los afectados.
-
El consentimiento es innegociable: Es obligatorio solicitar permiso siempre que se utilicen imágenes o datos personales de terceros.
-
Verificación de fuentes: Es vital contrastar la información antes de difundir contenidos que presenten indicios de haber sido manipulados.
Un ecosistema de recursos para la IA
Este nuevo lanzamiento complementa materiales previos de la AEPD, como la guía sobre el uso de imágenes de terceros en sistemas de IA y el decálogo de consejos ‘Cuidado con lo que le confÍAs’, consolidando así un marco de protección frente a los riesgos visibles e invisibles de la era digital.