Cuando apareció en la plataforma una cuenta de TikTok con el nombre de “deeptomcruise”, los usuarios se sorprendieron al ver a Tom Cruise haciendo tonterías en cada video. Sin embargo, al examinarla más de cerca, se reveló que la cuenta estaba llena de deepfakes. En otras palabras, los videos fueron creados utilizando tecnología de inteligencia artificial para que pareciera que Tom Cruise estaba en ellos.
En realidad, se trataba de una versión manipulada de otra persona. Este tipo de tecnología, conocida como deepfakes, se ha vuelto cada vez más popular en los últimos años.
En este artículo, exploraremos la naturaleza dudosa de las estafas deepfake, examinaremos cómo funcionan y cómo manipulan la publicidad digital. También brindaremos información esencial sobre cómo reconocer estas estafas en línea y protegerse utilizando medidas de ciberseguridad avanzadas. ¡Vamos a profundizar!
Indice
Engaño digital: el auge de las estafas deepfake
En el trabajo, todos queremos impresionar: hacer feliz al jefe, destacar en nuestras tareas y ganarnos el derecho de alardear en nuestra evaluación anual, tal vez incluso conseguir un aumento. Pero imagina una típica llamada de Zoom en la que tu jefe da un giro inesperado, en la que de repente te pide que transfieras una gran suma de dinero. Con la presión y tu jefe ahí mismo en la pantalla, ¿dudarías o la urgencia y autoridad en su voz te impulsarían a cumplir? Quiero decir, es tu jefe, lo ves justo frente a ti en la videollamada, ¿qué podría salir mal? Bueno, como descubrió un trabajador de finanzas de una corporación multinacional: ver no siempre es creer.
Hace apenas unos años, antes de la adopción generalizada de las videollamadas provocada por la pandemia, cumplir con las exigencias de tu jefe durante una videollamada habría sido algo obvio. Pero los tiempos han cambiado significativamente. Ahora, con las videollamadas convirtiéndose en la norma y el auge de la tecnología deepfake que difumina hábilmente las líneas entre la realidad y la fantasía, ejercer una dosis de precaución se ha vuelto tan crucial como demostrar ganas de complacer.
El año pasado, el uso de deepfakes para intentar evadir los controles de identidad financiera aumentó un 3000%.
La tecnología deepfake se está convirtiendo en la herramienta más nueva en el equipo de los estafadores, y no solo la están usando para hacer negocios, sino también para cometer fraudes publicitarios, donde crean recomendaciones falsas y anuncios engañosos.
¿Qué son las estafas deepfake?
La tecnología detrás de los deepfakes es a la vez asombrosa y alarmante. Con solo unas pocas imágenes o videoclips de una persona, los algoritmos de IA pueden crear nuevas imágenes en las que la persona parece decir o hacer cosas que en realidad nunca hizo. El producto final es un video que parece y suena auténtico, por lo que es casi imposible saber si es real o no. Suena aterrador, ¿verdad?
La cuestión es que los avances de empresas como Midjourney, Gemini de Google y ChatGPT de OpenAI han hecho que la tecnología deepfake sea fácilmente accesible para casi cualquier persona con una conexión a Internet. Si bien muchos deepfakes se crean para el entretenimiento, reviviendo escenas de películas clásicas o creando finales alternativos divertidos, la naturaleza abierta de esta tecnología significa que no se puede saber quién podría usarla y con qué fines.
Además, dado que esta tecnología es relativamente nueva, actualmente cae en una zona gris legal con pocas, si es que hay alguna, regulaciones que rijan su uso. Esta falta de supervisión significa que, por ahora, el uso de la tecnología deepfake sigue siendo completamente legal.
Sin embargo, a pesar de esto, el daño potencial que causan estos videos ha llevado a muchos gobiernos a considerar la implementación de regulaciones más estrictas sobre el uso de inteligencia artificial para crearlos. Legal o no, a los estafadores no les importa , y les encanta explotar las nuevas tecnologías para aprovecharse de la confianza de las personas, transformando las herramientas destinadas a la expresión creativa en vías para el engaño.
Este mal uso se ha manifestado particularmente en el ámbito del fraude publicitario, donde los deepfakes agregan una nueva capa de complejidad al desafío de proteger a los consumidores.
Fraude publicitario y deepfake: una combinación perfecta
El fraude publicitario es como el comodín del juego de la publicidad digital, que abarca todo un espectro de maniobras furtivas que engañan a los anunciantes y engañan a los consumidores cotidianos.
Opera en dos niveles distintos: en primer lugar, puede engañar a los anunciantes para que coloquen sus anuncios en sitios web falsos, lo que en esencia desperdicia su presupuesto publicitario en espacios que no llegan a audiencias reales. En segundo lugar, se dirige directamente a los consumidores mediante la creación de anuncios que parecen presentar recomendaciones reales de celebridades o marcas de confianza. Estas recomendaciones falsas pueden engañar a los consumidores haciéndoles creer que están interactuando con productos y promociones legítimos, lo que puede provocar pérdidas económicas. A los efectos de este artículo, nos centraremos más en este último aspecto.
Imagínate esto: los estafadores publican anuncios falsos que presumen de la promoción de productos como zapatillas o productos para el cuidado de la piel por parte de celebridades. Estos anuncios son ingeniosos y muy convincentes, y te tientan a pensar que estás a un clic de una oferta legítima. Pero aquí está el truco: es más una trampa que un regalo. Hacer clic en lo que parece una apuesta segura puede llevarte a un sitio sospechoso que está listo para robarte tu información personal o tu dinero ganado con tanto esfuerzo.
Ahora, si a todo esto le sumamos la tecnología deepfake, tenemos un fraude publicitario con esteroides. Con una inteligencia artificial tan buena imitando la realidad, estos deepfakes pueden hacer que parezca que celebridades de primer nivel están promocionando cualquier cosa, desde píldoras mágicas para adelgazar hasta oportunidades de inversión únicas en la vida.
Imaginemos a Elon Musk promocionando un sorteo de criptomonedas, pero nada de eso es realmente legítimo. Este tipo de tecnología está impulsando el fraude publicitario a toda marcha, lo que hace que sea aún más complicado detectar las falsificaciones y mantener nuestras billeteras seguras.
¿Cómo funcionan los deepfakes?
La lógica de funcionamiento de los deepfakes implica el uso de tecnología de inteligencia artificial y mapeo facial. El creador del deepfake primero recopila imágenes de la persona que desea manipular. Luego, introduce este material en un programa deepfake, junto con fotos de la persona a la que quiere manipular.
El programa utiliza tecnología de reconocimiento facial para mapear ambas caras entre sí. El resultado es un deepfake aparentemente realista. Se deben tener en cuenta todos los ángulos y expresiones faciales para crear un deepfake perfecto. Cuanto más material tenga el creador para trabajar, mejor y más realista será el resultado final.
El software deepfake también puede utilizar una red generativa antagónica (GAN) para crear el producto. Una GAN consta de dos redes neuronales, una que genera nuevos datos y otra que los evalúa. En el contexto de los deepfakes, el generador crea un video manipulado mientras el evaluador determina si parece realista. Las dos redes trabajan juntas para mejorar continuamente el deepfake hasta que sea lo más realista posible.
¿Cómo y por qué se utilizan los deepfakes?
El propósito de los deepfakes solo está limitado por la imaginación de su creador. Se pueden usar para fines inofensivos, como crear videos cómicos. Si alguna vez usaste la popular aplicación Face Swap, habrás experimentado una forma de tecnología deepfake.
Sin embargo, los deepfakes también se utilizan habitualmente con fines maliciosos. El más común es de naturaleza pornográfica y se dirige principalmente a celebridades femeninas. Un asombroso 97% de los deepfakes que se encuentran en línea actualmente presentan contenido explícito. De esta mala práctica se derivan el chantaje, las noticias falsas, la destrucción de la reputación y otras formas de daño.
En el ámbito político, los deepfakes se han utilizado para crear discursos o declaraciones falsas de políticos. El objetivo es influir en la opinión pública. Esto puede tener consecuencias peligrosas, ya que puede afectar a los resultados electorales y a las relaciones internacionales.
Lo mismo puede decirse de los deepfakes de directores ejecutivos. En 2019, circuló en Internet un video deepfake del director ejecutivo de Facebook, Mark Zuckerberg , en el que se le veía alardeando de tener “control total” de los datos robados de miles de millones de personas.
También se han recibido informes sobre piratas informáticos que utilizan software deepfake para obtener información personal o acceder a cuentas. Por ejemplo, los estafadores podrían manipular un vídeo o una foto utilizando inteligencia artificial para hacerse pasar por sus víctimas y acceder a sus datos, como contraseñas o información bancaria.
Desde una perspectiva más positiva, los deepfakes también se pueden utilizar para efectos visuales en películas y televisión, y en empresas, para personalizar materiales de marketing o mejorar las experiencias de servicio al cliente virtual.
Los deepfakers podrían traducir un vídeo a varios idiomas. Los labios del portavoz podrían manipularse para sincronizarse con cada idioma. Esto crearía una experiencia de visualización más realista para los clientes de todo el mundo.
Ejemplos de fraudes publicitarios deepfake
Las promociones falsas de famosos no son un truco nuevo: existen desde que existen las celebridades. Sin embargo, lo que ha cambiado drásticamente es la sofisticación de las herramientas que se utilizan para elaborarlas.
Hoy, en lugar de simplemente afirmar que un famoso promociona un producto, los estafadores pueden crear vídeos que son tan convincentes que parecen mostrar al famoso promocionando el producto. Quiero decir, podrías decir que no a utensilios de cocina gratis, ¡pero no a Taylor Swift promocionando utensilios de cocina!
La estafa no tan dulce de los utensilios de cocina de Taylor Swift
Si eres un verdadero fanático de Swift, sabes que a Tay Tay (Taylor Swift) le encantan sus utensilios de cocina Le Creuset, como se ve en su blog de decoración del hogar y en el documental de Netflix. Pero aquí está el giro: los estafadores han investigado y están usando esa información para impulsar anuncios falsos en Facebook, mostrando a Taylor aparentemente promocionando Le Creuset.
Han usado inteligencia artificial para crear una versión sintética convincente de la voz de Taylor, mezclándola con clips de ella y los utensilios de cocina para producir anuncios en los que parece ofrecer hornos holandeses gratis a sus fanáticos, los «Swifties».
Estos anuncios fraudulentos eran tan convincentes que engañaban a los fans para que pagaran una «pequeña tarifa de envío» para conseguir las lujosas ollas. Pero, por desgracia, los utensilios de cocina nunca llegaron y, en lugar de recibir un juego de utensilios de cocina gratis, les robaron el dinero y la información de su tarjeta de crédito, y los cargos falsos siguieron gestándose.
Este no es el único caso de fama e imagen de celebridades explotadas mediante tecnología deepfake. De manera similar, Tom Hanks se convirtió en el portavoz involuntario de una estafa deepfake que involucraba un plan dental.
El engaño del plan dental de Tom Hanks
Imagínate ver una promoción en la que Tom Hanks promociona un nuevo plan dental, pero todo es una falsificación. Los estafadores utilizaron inteligencia artificial para imitar la voz y la imagen de Hanks para promocionar todo tipo de cosas, desde planes de atención médica hasta sorteos de alto riesgo. Esto no es solo engañoso, sino un ataque directo a la confianza que depositamos en las figuras públicas, que explotan esta confianza para orquestar elaboradas estafas destinadas a robarle su dinero.
Desde Jennifer Aniston promocionando una línea de cuidado de la piel inexistente hasta Kelly Clarkson promoviendo una marca de ositos de goma dietéticos, los estafadores están utilizando la tecnología deepfake para crear videos realistas con el fin de intentar engañar a los consumidores.
Esta explotación de imágenes de celebridades es bastante preocupante, pero lo que está en juego es aún mayor cuando estos deepfakes invaden tu entorno de trabajo. Perder tu dinero por publicidad falsa es alarmante, impactante y aterrador. Sin embargo, es un nivel de amenaza completamente diferente cuando caer en una estafa deepfake puede llevar a consecuencias financieras devastadoras, como lo pone de relieve un engaño sofisticado descubierto por la policía de Hong Kong.
Caer en una estafa deepfake
En un sofisticado engaño descubierto por la policía de Hong Kong, un empleado de finanzas de una corporación multinacional fue engañado para que transfiriera 25 millones de dólares durante una videoconferencia en la que creía que participaban el director financiero de la empresa y otros colegas. En realidad, la llamada se organizó utilizando tecnología deepfake para simular la apariencia de sus compañeros de trabajo y del director financiero.
La estafa se desató cuando el empleado recibió un correo electrónico sospechoso, supuestamente del director financiero con sede en el Reino Unido, en el que se hablaba de una transacción financiera urgente y confidencial. Aunque inicialmente se mostró escéptico, las dudas del empleado se disiparon durante una videollamada posterior entre varias personas. La naturaleza convincente de las imágenes y el audio de la deepfake llevó al trabajador a creer que estaba interactuando con colegas genuinos.
Convencido de la autenticidad de la llamada, el empleado aceptó transferir aproximadamente 25,6 millones de dólares (200 millones de dólares de Hong Kong). ¡Vaya! Todo el episodio se desarrolló a lo largo de una semana, desde el contacto inicial con el empleado hasta el momento en que se dieron cuenta de que se trataba de una estafa tras consultar con la sede de la empresa. Tras la constatación del empleado, las investigaciones policiales revelaron que los participantes de la reunión habían sido replicados digitalmente por estafadores que utilizaban imágenes de vídeo y audio de los participantes disponibles públicamente.
A medida que las estafas deepfake se vuelven más difíciles de detectar y más fáciles de caer, es importante mantener una mirada crítica sobre el contenido en línea. Como siempre decimos aquí, si parece demasiado bueno para ser verdad, probablemente lo sea. En el mundo de los estafadores, nada es realmente gratis y el coste de caer en una estafa deepfake puede ir mucho más allá de las pérdidas financieras…
¿Los deepfakes se limitan únicamente a los vídeos?
La mayoría de los ejemplos anteriores se basan en vídeos, ya que son los más comunes. Sin embargo, los deepfakes también pueden crearse con fotos o audio.
Se puede generar una foto deepfake utilizando la misma tecnología de mapeo facial e inteligencia artificial que los videos deepfake. Sin embargo, eso no siempre es necesario. Dado que una imagen fija no tiene que manipularse en tiempo real, también se puede editar utilizando un software de edición de fotos tradicional como Photoshop.
Con el auge de los generadores de imágenes como DALL-E de Open AI , puede llegar un momento en el que ni siquiera necesitemos una foto original. La IA puede crear una imagen completamente falsa basándose en descripciones textuales. Píxel a píxel, generará una imagen fotorrealista, lo que dificultará la detección de deepfakes.
El audio deepfake es otra forma de medios manipulados. Al igual que los videos falsos, implica el uso de inteligencia artificial para imitar los patrones de habla y los matices de la voz de una persona. Podemos usarlo para todo, desde crear grabaciones de audio falsas hasta personalizar asistentes virtuales como Siri o Alexa.
¿Cómo identificar y detectar un deepfake?
Probablemente hayas escuchado la frase: “No creas todo lo que ves en Internet”. Ahora más que nunca, es crucial cuestionar la autenticidad de lo que vemos y escuchamos en línea.
Entonces, ¿cómo se detecta un deepfake? Por supuesto, todo depende del nivel de sofisticación detrás de esta tecnología. Pero aquí hay algunas señales de alerta a las que hay que prestar atención:
Fallos o anomalías en el movimiento, el habla o la apariencia.
Es muy difícil imitar a la perfección las complejidades de la apariencia y el comportamiento de una persona. Por ello, puede haber inconsistencias notables en el deepfake. Podría manifestarse como movimientos oculares poco naturales o falta de emoción. Es posible que los labios no siempre coincidan con el audio.
También debes buscar saltos notables en el video o desenfoque en los bordes del rostro de una persona. Esto podría indicar que partes del video y la imagen han sido editadas o manipuladas.
Inconsistencias con grabaciones o fotografías anteriores de la persona
Usar el sentido común puede ser de gran ayuda para detectar deepfakes. Comprueba si hay inconsistencias con grabaciones o fotografías anteriores de la persona en cuestión. ¿Coinciden sus gestos, expresiones faciales y voz?
Fuente de video o audio de una fuente sospechosa o desconocida
Haz tu debida diligencia e investiga la fuente del video o audio en cuestión. ¿Proviene de una organización de noticias de buena reputación o de una cuenta aleatoria y no verificada? Por supuesto, los estafadores incluso pueden publicar desde la propia cuenta de la víctima a través de un fraude de robo de cuenta , así que siempre acércate con precaución.
Uso de sistemas de detección de deepfakes
Cuando todo lo demás falla, también existen sistemas de detección de deepfakes. Estos utilizan inteligencia artificial y aprendizaje automático para analizar patrones y detectar posibles manipulaciones en videos o grabaciones de audio. Estas tecnologías aún están mejorando, por lo que es posible que no siempre sean 100% confiables. Pero es una herramienta más en tu arsenal para detectar deepfakes.
¿Qué es un Shallowfake?
No todos los medios editados o manipulados entran dentro del concepto de deepfake. Un Shallowfake es una forma más simple de medios falsos que no involucra tecnología de aprendizaje automático. En cambio, puede utilizar técnicas de edición tradicionales, como agregar o eliminar imágenes, unir audio o alterar fotografías.
Las falsificaciones superficiales también pueden tener consecuencias perjudiciales, especialmente si se utilizan para difundir información errónea. Sin embargo, normalmente no tienen el mismo nivel de realismo y sofisticación que las falsificaciones profundas. Son más fáciles de detectar con un examen minucioso.
¿Cuál es la diferencia entre un deepfake y un Shallowfake?
La principal diferencia entre un deepfake y un Shallowfake es la tecnología utilizada para crearlos. El método de producción es completamente diferente y tiene efectos distintos en el contenido resultante. La inteligencia artificial y el aprendizaje automático son los dos componentes clave en este caso.
Los deepfakes utilizan tecnología avanzada para imitar de manera convincente la apariencia y la voz de una persona, mientras que los Shallowfake se basan en técnicas de edición más tradicionales.
Otra diferencia fundamental es el uso de patrones y datos. Los deepfakes se basan en patrones y datos, como los rasgos faciales, para crear una imitación realista de alguien. Los Shallowfake no utilizan necesariamente este tipo de información y pueden implicar técnicas de edición más sencillas.
¿Cómo combatir los deepfakes?
Como sociedad, debemos saber cómo combatir los deepfakes antes de que se conviertan en un problema mayor. Afortunadamente, se están tomando medidas para abordar el problema. El uso de software de detección puede contribuir en gran medida a limitar la propagación de deepfakes.
La inteligencia artificial y el aprendizaje profundo no son intrínsecamente buenos o malos. Por lo tanto, al igual que los actores maliciosos, como los estafadores, pueden utilizarlos con fines nefastos, también podemos utilizar la misma tecnología para el bien. Desarrollar mejores sistemas de detección es una prioridad en la lucha contra las deepfakes.
También dependerá de las empresas, los gobiernos y las plataformas de redes sociales mantenerse alertas y rendir cuentas sobre lo que permiten en sus plataformas. Eliminar o marcar contenido manipulador puede ayudar a limitar su propagación.
Conclusión
Navegar por el mundo digital hoy en día significa estar atento a algo más que correos electrónicos no deseados; se trata de reconocer las estafas deepfake que pueden desarrollarse en tu espacio de trabajo virtual. Hemos visto cómo una llamada de trabajo aparentemente normal puede convertirse en un error de 25 millones de dólares cuando interviene la tecnología deepfake, lo que demuestra lo sofisticadas y dañinas que pueden ser estas estafas en línea.
Recuerda, caer en una deepfake puede afectar más que solo tu cuenta bancaria; sacude los cimientos mismos de la confianza que tenemos en nuestras interacciones digitales. Por lo tanto, ya sea una increíble promoción de un producto o una solicitud urgente de un jefe, tómate un momento para verificar la autenticidad.
Mantenerse alerta y cuestionar las ofertas demasiado buenas para ser ciertas es tu mejor defensa en un mundo donde ver no siempre debería ser creíble. Mantén ese ojo crítico, porque en esta era de tecnología avanzada, lo único más falso que las amistades en línea podría ser simplemente esa llamada urgente para una transferencia de dinero.