La inteligencia artificial se utiliza para crear imágenes falsas extremadamente realistas, conocidas como deepfakes. Se trata de videos o imágenes manipuladas mediante técnicas de IA que pueden hacer que una persona parezca decir o hacer algo que en realidad no ha hecho.

Estas falsificaciones se utilizan a menudo para evadir métodos de seguridad biométrica en bancos y otras instituciones, permitiendo a los ciberdelincuentes robar información personal, datos bancarios y dinero.

Sensity, una startup especializada en la detección de deepfakes, ha identificado 47 herramientas diseñadas específicamente para eludir métodos de verificación de identidad KYC (Conoce a tu Cliente). KYC es un procedimiento en el sector financiero para verificar la identidad de los clientes y prevenir actividades ilegales como fraude, blanqueo de dinero, evasión fiscal y financiación del terrorismo.

Estas herramientas permiten a los ciberdelincuentes crear clones digitales que pueden superar los sistemas de verificación de identidad biométrica utilizados en procesos de registro en línea. Como resultado, los estafadores pueden abrir cuentas de forma remota en bancos, intercambios de criptomonedas y otros servicios financieros.

Además, 404 Media ha revelado un sitio web clandestino que vende fotos y videos de personas para eludir KYC. Este mercado oscuro ofrece colecciones completas de contenido digital y recluta voluntarios en países desfavorecidos, quienes reciben entre 5 y 20 dólares por proporcionar dicho material.

El mercado de los deepakes

El mercado de los deepfakes opera en un entorno clandestino donde se comercializa contenido digital falso. Según un informe de 404 Media, algunos sitios en este mercado ofrecen amplias colecciones de imágenes y videos que presentan personas de diversas edades, géneros y etnias.

Estos conjuntos de datos están diseñados para eludir sistemas de verificación de identidad y se venden en paquetes por aproximadamente 30 dólares.

Los paquetes incluyen no solo fotografías y videos con distintos atuendos, sino también imágenes en las que las personas sostienen una tarjeta o una hoja de papel en blanco, que puede ser reemplazada por identificaciones o documentos falsificados.

El mercado parece estar orientado a satisfacer las demandas específicas de los compradores, mostrando reseñas de clientes y destacando “clones nuevos” que han sido menos adquiridos.

Además de los paquetes estándar, algunos sitios ofrecen la opción de crear conjuntos personalizados a pedido.

Cómo protegerse de los deepfakes

Protegerse de los deepfakes implica una combinación de precauciones tecnológicas, educación y hábitos de verificación. En primer lugar, es fundamental conocer qué son los deepfakes y cómo se utilizan para engañar. Desarrollar un pensamiento crítico y cuestionar la autenticidad de los contenidos sospechosos o que provienen de fuentes no confiables es esencial para evitar caer en trampas.

Verificar la fuente del contenido es crucial. Consultar múltiples medios y fuentes confiables ayuda a confirmar la veracidad de la información.También es importante estar atento a señales de manipulación, como inconsistencias en el lenguaje corporal, la sincronización de labios y la calidad visual de los videos.

El uso de herramientas de detección de deepfakes puede ser muy útil pues existen programas y servicios diseñados para identificar deepfakes analizando imágenes y videos en busca de signos de alteración.

Cómo identificar un deepfake

En primer lugar, es esencial observar detalles inconsistentes en el video o la imagen, como bordes borrosos o distorsiones en los ojos y la boca. La sincronización labial también puede revelar fallos, ya que los deepfakes a menudo tienen problemas en este aspecto. Además, la iluminación y las sombras pueden no coincidir de manera natural.

Los movimientos del cabello y la ropa, así como el audio, también deben revisarse en busca de irregularidades. Utilizar herramientas especializadas en detección de deepfakes y confirmar la fuente del contenido son pasos claves para asegurar la autenticidad de la información.