Los deepfakes experimentaron un crecimiento explosivo, multiplicándose por diez a nivel mundial, con un incremento del 450% en Latinoamérica, según un análisis de Sumsub basado en los registros detectados entre 2022 y 2023. Este fenómeno ha afectado significativamente a sectores sensibles como el periodismo, la política, el entretenimiento y las finanzas, y su impacto seguirá escalando.
Incluso, de acuerdo con un comunicado compartido por la empresa de ciberseguridad ESET, el mercado actual de estas tecnologías, estimado en 534 millones de dólares, podría alcanzar los 5,134 millones de dólares para 2030, lo cual hace evidente la necesaria atención urgente del fenómeno.
El problema radica en la capacidad de los deepfakes para manipular videos, imágenes y audios mediante el uso de aprendizaje profundo, creando falsificaciones que pueden ser indistinguibles de la realidad para el ojo humano. Como advierte Mario Micucci, investigador de seguridad informática en ESET: “La batalla contra los deep fakes es un desafío continuo en el campo de la ciberseguridad”, destacando la urgencia de contar con herramientas de detección cada vez más avanzadas.
10 herramientas de IA contra los deepfakes
Frente a esta creciente amenaza, ESET subraya la importancia de soluciones tecnológicas especializadas en la detección de este fenómeno:
- Sentinel: Solución en la nube que ofrece detección de deepfakes en tiempo real con gran precisión. Utiliza avanzados algoritmos de IA y varias tecnologías, como el análisis de puntos de referencia faciales, la coherencia temporal y la detección de parpadeos, para identificar medios manipulados. Permite cargar videos, imágenes y audios falsificados a través de su sitio web o API, generando un informe detallado que muestra las áreas modificadas y cómo se realizó la manipulación.
- Sensity: Plataforma de monitoreo en tiempo real utilizada por gobiernos y empresas a nivel mundial. Escanea grandes volúmenes de contenido y detecta de forma eficaz deepfakes, incluyendo intercambios de rostros, audios manipulados e imágenes generadas por IA. Además, ayuda a prevenir suplantaciones de identidad y la detección de documentos fraudulentos.
- Oz Liveness: Previene ataques de suplantación de identidad con una precisión del 100 %. Certificada bajo el estricto estándar ISO 30107, ofrece transformación digital segura, combate el fraude y minimiza riesgos. Es flexible, ahorra tiempo al operar con SaaS y se integra fácilmente con iOS/Android y Web SDK.
- WeVerify: Herramienta enfocada en redes sociales y contenido web. Ofrece verificación multimodal, análisis de redes sociales y desacreditación de contenido falso, respaldada por una base de datos blockchain. Es ideal para periodistas y la industria del entretenimiento, ayudando a identificar falsificaciones.
- HyperVerge: Utiliza IA y aprendizaje automático para la verificación de identidad, reconocimiento facial y control de vida. Garantiza una detección precisa y seguridad avanzada para aplicaciones en la nube. Está certificada por iBeta y NIST, ofreciendo soluciones personalizables y una interfaz fácil de usar.
- FakeCatcher de Intel: Software que combina hardware y software de Intel para detectar deepfakes en milisegundos. Analiza pistas auténticas en videos reales con una precisión del 96 %, priorizando la velocidad y eficiencia.
- Microsoft Video AI Authenticator: Herramienta gratuita que identifica la manipulación en videos e imágenes, otorgando una puntuación de confianza en tiempo real. Detecta inconsistencias que son invisibles para el ojo humano, como la fusión de límites y detalles en escala de grises.
- Deepware: Software de fácil acceso que utiliza IA para detectar videos, imágenes y audios falsificados. Mediante su escáner dedicado, permite analizar medios deepfake ingresando enlaces, proporcionando resultados inmediatos y sencillos de interpretar.
- Phoneme-Viseme Mismatch: Desarrollada por investigadores de Stanford y la Universidad de California, esta herramienta identifica inconsistencias entre el audio y los movimientos labiales en los videos, un indicio de posible manipulación.
- DuckDuckGoose: Detecta deepfakes de manera rápida y precisa para proteger a empresas de riesgos cibernéticos y financieros. Ofrece monitoreo en tiempo real, análisis de espectro integral y una interfaz fácil de usar, explicando claramente cómo detecta las manipulaciones digitales.
“Ante las múltiples opciones para detectar deepfakes y dependiendo la necesidad del usuario, el criterio humano hará que se seleccione una u otra, en base a las características de cada una: ¿Qué tan precisa es la herramienta para identificar deepfakes? ¿Qué tan veloz es para detectar en tiempo real? ¿Qué tan fácil de usar es la interfaz de la herramienta?”
— Mario Micucci, investigador de seguridad informática en ESET
Otros recursos para combatir la desinformación y la difusión de videos o audios falsos
- Herramientas basadas en IA: Utilizan algoritmos de aprendizaje automático para detectar patrones en videos y audios, identificando inconsistencias que sugieren posibles manipulaciones.
- Herramientas basadas en análisis de metadatos: Los metadatos, como la fecha de creación o la ubicación del archivo, pueden ofrecer pistas sobre su autenticidad. Herramientas como MediaInfo y ExifTool permiten extraer y analizar estos datos para detectar posibles alteraciones.
- Herramientas basadas en detección de anomalías: Se enfocan en identificar patrones anómalos en el movimiento facial, el audio o el contenido visual que podrían indicar la presencia de deepfakes. Ejemplos incluyen FaceForensics y Audio Fingerprinting.
