Deepfakes y el fraude solidario

Deepfakeses un término relativamente nuevo, que hace alusión a la manipulación de vídeos o audios con el objetivo de hacer creer al usuario que lo que está viendo o escuchando es real, cuando realmente es ficticio. Para la creación de estos vídeos o audios manipulados, se utilizan herramientas o programas dotados de tecnología de inteligencia artificial que permiten el intercambio de rostros en imágenes y la modificación de la voz.

Esta tecnología significa un adelanto con la que conseguimos cosas que sin ella no sería posible. Por ejemplo, se ha utilizado para revivir a personajes ya fallecidos en anuncios o conciertos. Desgraciadamente los ciberdelincuentes también han visto estas herramientas como una oportunidad para generar nuevos tipos de fraude con los que estafar a los usuarios.

En esta historia real te contaremos cómo los ciberdelincuentes consiguieron engañar a varios usuarios basándose en deepfakes.

El hijo de la familia Cibernauta ha conseguido gran popularidad en las redes sociales durante este último año, llegando a al punto en el que realiza colaboraciones con varias marcas de productos muy conocidos. Es capaz de generar un alto volumen de contenidos en su día a día a través de vídeos, fotos e incluso directos. Aunque su objetivo no es vivir de ello,  gracias a su popularidad está pagándose sus estudios. Lo que nunca pensó es que todo lo que había conseguido hasta el momento podría verse truncado por una ciberestafa que, aparentemente, él mismo había maquinado.

¿Qué sucedió?

Un fin de semana estaba editando fotos, cuando de repente recibió miles de notificaciones de un vídeo en el que le habían etiquetado sus seguidores. En él salía junto a otros personajes mediáticos, solicitando una donación a una asociación nueva para personas en riesgo de exclusión. En el vídeo se le podía ver su imagen y voz explicando que era uno de los embajadores, que ya había aportado su granito de arena y pidiendo la colaboración de todos para que niños con pocas posibilidades pudieran tener juguetes estas Navidades.

Tras ver el vídeo, el hijo de la familia Cibernauta no podía dar crédito, nunca había oído sobre dicha asociación ni había grabado nada mostrando su apoyo. Dudó por unos segundos de que pudiese ser otra persona muy parecida a él, pero en los créditos del vídeo aparecía claramente su nombre y su nickname de redes sociales.

Descargó el vídeo y lo analizó detenidamente. A los pocos minutos pudo ver que los músculos de su cara se movían siguiendo un patrón y que parpadeaba exactamente cada tres segundos. Además, su cuerpo no seguía los movimientos de su cara y el fondo del vídeo era demasiado oscuro y estático. Separó la pista de audio y comprobó que las frases y palabras estaban concatenadas y no pertenecían a una grabación continua. Esto también pasaba con el resto de personajes que aparecían en el vídeo, así que no dudó ni un momento: claramente, estaba siendo víctima de un deepfake.

Los ciberdelincuentes habían utilizado sus publicaciones y las de otras personas para crear el montaje de un vídeo falso a través de inteligencia artificial, con el objetivo de conseguir la mayor cantidad de dinero posible aprovechándose de su fama y la buena fe de los usuarios.

¿Qué hizo nuestro protagonista para solucionarlo?

En ese mismo momento, realizó varias acciones que evitaron que más gente fuese estafada:

• Añadió un comentario en el vídeo explicando que era un fraude y que ninguna de las personas que aparecía en el vídeo eran ellos en realidad.
• Realizó varias capturas de pantalla del perfil donde se había publicado y lo denunció dentro de la red social, tanto el vídeo, como la cuenta desde la que estaba publicado.
• Grabó un vídeo advirtiendo del fraude a todos sus seguidores y lo publicó en todas sus cuentas de RRSS. Además, contactó con el resto de personas que aparecían en el vídeo y les sugirió que también lo anunciasen en sus perfiles para que llegase al mayor número posible de personas.
• Documentó todo lo ocurrido con capturas de pantalla, el análisis del vídeo y toda la información que pudo recopilar, para denunciar lo sucedido ante las Fuerzas y Cuerpos de Seguridad del Estado.

¿Qué debieron hacer las víctimas que realizaron la supuesta donación?

Una vez que el hijo de la familia Cibernauta destapó el fraude, los usuarios que habían realizado la supuesta donación se dieron cuenta de que habían sido estafados. Por una parte habían perdido el dinero que habían donado, y por otra también habían facilitado sus datos personales y bancarios a los ciberdelincuentes.

En primer lugar tuvieron que contactar lo antes posible con su entidad bancaria para paralizar la transferencia y bloquear su tarjeta de crédito. A continuación, denunciar lo sucedido ante las Fuerzas y Cuerpos de Seguridad del Estado. Además, en estos casos es recomendable realizar búsquedas periódicas de nuestros datos personales (egosurfing) por si se están utilizando de forma ilícita.

¿Qué podemos hacer los usuarios para detectar deepfakes?

Para evitar ser víctima de este tipo de fraudes, es importante conocer qué son los deepfakes y aprender a identificarlos siguiendo estos criterios:

• Busca fondos, formas distorsionadas o sombras que no cuadren con el tipo de iluminación. Cualquier despiste o detalle que demuestre signos de manipulación.
• Si el rostro, los gestos, el tono de piel o alguna postura no encaja con el resto del cuerpo, es posible que nos encontremos ante un montaje. La mayoría de los deepfakes se centran en sustituciones faciales, por lo que los cambios en el resto del cuerpo no se aplican y pueden darnos pistas. En este tipo de falsificaciones los personajes suelen parpadear poco y en períodos relativamente largos u homogéneos.
• Si el sonido del vídeo no coincide con la imagen, detectas algún tono fuera de lugar en la voz del protagonista o una falta de sincronización, posiblemente se tratará de una falsificación.
• Debido al trabajo de edición y los costes, estos vídeos suelen ser cortos.
• Contrasta la información del vídeo realizando búsquedas en Internet. En caso de que no exista ninguna comunicación oficial, intenta contactar directamente con la asociación o entidad para corroborar la información.
• Utiliza el sentido común ya que, en ocasiones, estos vídeos intentan distorsionar la realidad o crear alarma entre la sociedad.