Centroamérica.– Abordar el problema de los deepfakes se ha convertido en una causa común a lo largo de todo el espectro político alrededor del mundo. Esto se debe, en parte, a que estos videos e imágenes fabricados son cada vez más comunes y realistas gracias a las herramientas de IA generativa (GenAI), es extremadamente rápido, barato y fácil crear contenido falso que suplante a una persona real. ESET, compañía líder en detección proactiva de amenazas, destaca que aunque algunos se comparten como una broma, los deepfakes también tienen un lado oscuro, ya que los estafadores utilizan esta tecnología en estafas y extorsiones para hostigar, humillar y maltratar a sus víctimas.
Recientemente entró en vigor en Estados Unidos la ley TAKE IT DOWN Act que penaliza la distribución de imágenes íntimas no consensuadas (NCII, por sus siglas en inglés), y exige que las plataformas en línea proporcionen mecanismos claros de denuncia y eliminen las imágenes reportadas legítimamente en un plazo de 48 horas. En el Reino Unido, la Data Act y la Online Safety Act convierten en delito la creación de este tipo de contenido. Las autoridades también han impuesto un plazo obligatorio de 48 horas para su eliminación. La Ley de IA de la Unión Europea (EU AI Act) introducirá próximamente una prohibición de los sistemas diseñados específicamente para crear imágenes íntimas no consensuadas.
También te pueden interesarleer
Las acciones de las personas siguen reguladas por las leyes de cada Estado miembro. No obstante, si la imagen corresponde a un menor de edad, es ilegal en la mayoría, si no en todas, las jurisdicciones. A su vez, fuera del ámbito de las imágenes íntimas no consensuadas, dependerá del propósito para el cual se creó el deepfake. Si se distribuyó sin consentimiento y/o se utilizó con fines maliciosos como fraude, chantaje, difamación, acoso o suplantación de identidad, podría ser ilegal.
Si alguien creó un deepfake tuyo que no califica como imagen íntima no consensuada, el primer consejo que comparten desde ESET es guardar las pruebas. Esto significa hacer capturas de pantalla de la página o cuenta, guardar la URL y anotar la cuenta o nombre de usuario, la fecha y hora en que lo encontraste y cualquier texto que acompañe la publicación. También es recomendable no interactuar con la persona que publicó el contenido, ya que podría difundir el contenido aún más.
La mayoría de las plataformas en línea y redes sociales ya cuentan con mecanismos para denunciar deepfakes, pero rara vez existe un botón específico para ello. Por lo general, se tendrá que identificar la infracción que el deepfake facilita (por ejemplo, acoso o fraude) y explicarla.
- Google: Probar la herramienta «eliminar información personal» (o esta alternativa) y el formulario de solicitud legal de eliminación para retirar contenido que no sea NCII de los resultados de búsqueda. Esto hará más difícil que las personas encuentren el deepfake. Tener en cuenta que esto no eliminará el contenido original.
- Facebook: Abrir la publicación o el video. Seleccionar ⋯ → Reportar publicación/video. Elegir la categoría que mejor describa el problema, por ejemplo, suplantación de identidad o acoso. Explicar que el contenido fue generado con IA y aclarar por qué es engañoso o perjudicial.
- Instagram: Hacer clic en las dos líneas de la esquina superior derecha, seleccionar Reportar y elegir el motivo más adecuado.
- TikTok: En el video, seleccionar Compartir → Reportar → Información falsa → Deepfakes, medios sintéticos y medios manipulados → Enviar.
- YouTube: Si alguien utiliza IA para crear o modificar contenido que parece o suena como tú, puedes solicitar su eliminación mediante el Proceso de reclamación de privacidad para contenido alterado o sintético.
- X: Denuncia la publicación específica. Toca los tres puntos horizontales. Reportar publicación → sigue el proceso de denuncia. Explicar que el contenido fue generado con IA y por qué representa un problema.
Las imágenes íntimas no consensuadas exigen una respuesta rápida y una buena primera opción es StopNCII.org, un recurso administrado por la Revenge Porn Helpline, que forma parte de la organización benéfica internacional SWGfL. Se selecciona la imagen o video ofensivo y StopNCII.org creará una huella digital (hash) del contenido en el dispositivo. Si el reporte es exitoso, se recibirá un número de caso. Y, lo más importante, las plataformas participantes buscarán la misma huella digital y eliminarán cualquier imagen coincidente de sus sistemas si infringe sus políticas. Entre los socios participantes se encuentran Meta, TikTok, Reddit y X. También se querrá eliminar el deepfake de los resultados de Google para que sea más difícil encontrarlo. TakeItDown.NCMEC.org opera un sistema similar para imágenes o videos de menores de 18 años.
Google puede haber eliminado de su índice el deepfake, pero el contenido podría seguir disponible en el sitio web donde está alojado. Si un sitio web no quiere eliminar una fotografía , el primer paso es contactar al editor o responsable del sitio para solicitar su eliminación.
Pero si se niega, sigue estos pasos:
- Conservar las pruebas, incluidas capturas de pantalla, URL, fecha y hora en que fue encontrado por primera vez, la respuesta del sitio a la solicitud y la cuenta o usuario que lo subió.
- Buscar el contacto legal, de privacidad o derechos de autor del sitio web y enviarle una comunicación indicando que la imagen o video te representa y está siendo publicado sin consentimiento. Solicitar su eliminación con base en la política correspondiente del sitio o en la legislación local, y pedir una confirmación por escrito cuando se haya realizado.
- En el Reino Unido o la UE, se puede hacer lo anterior citando el derecho de supresión del Artículo 17 del RGPD. Si aun así se niegan o no toman medidas, se puede escalar el caso ante la autoridad local de protección de datos.
“La clave al interactuar con sitios web, plataformas sociales, motores de búsqueda o reguladores no es simplemente afirmar que el contenido fue generado con IA, sino especificar exactamente por qué es problemático (por ejemplo, fraude, acoso, suplantación de identidad, etc.). Sé persistente y considera contactar simultáneamente al motor de búsqueda, la red social o sitio web y al regulador para ahorrar tiempo”, recomienda Mario Micucci, investigador de seguridad informática de ESET Latinoamérica
