Facebook lanzó nuevas actualizaciones que podrían marcar el inicio del fin de los deepfakes en su plataforma: en un intento por combatir los anuncios fraudulentos que utilizan la imagen de celebridades, comenzarán a implementar tecnología de reconocimiento facial para evitar que los estafadores engañen a los usuarios.
El uso de imágenes de figuras públicas en anuncios, una táctica conocida como “celeb-bait”, ha sido un problema recurrente. Los estafadores crean anuncios aparentemente legítimos que presentan a celebridades para atraer clics y redirigir a sitios web fraudulentos. Con esta nueva medida, Facebook espera bloquear estos anuncios antes de que lleguen a los usuarios.
Monika Bickert, vicepresidenta de políticas de contenido de Facebook, detalló que el sistema utilizará inteligencia artificial para analizar las imágenes de las celebridades en los anuncios. Si detecta una posible estafa, comparará la imagen del anuncio con las fotos de perfil de las figuras públicas en Facebook e Instagram. De esta manera, podrán determinar si se trata de un intento de engaño.
¿Podrá combatir los deepfakes hechos con IA?
Uno de los retos que enfrenta esta nueva tecnología es la posibilidad de que los deepfakes, que son imágenes o videos generados artificialmente para parecer reales, también puedan engañar al sistema. Aunque Bickert reconoce que los deepfakes extremadamente bien hechos podrían superar esta tecnología, confía en que el reconocimiento facial mejorará significativamente la detección y eliminación de estos fraudes.
“Si tienes un rostro generado por IA de una celebridad y se parece tanto que es indistinguible del rostro de la celebridad y estás utilizando eso en un anuncio con cebo de celebridad, entonces, la tecnología de reconocimiento facial puede funcionar, evaluará esa imagen. Y es posible que coincida y diga: ‘Sí, esto es una coincidencia’. No sabemos exactamente qué tan bien funcionará en imágenes sintéticamente editadas o generadas, pero sí, la tecnología puede trabajar con eso”, explicó.
Sobre este tema, la vicepresidenta aclaró la diferencia entre los celeb-fakes y los deepfakes, que ellos combaten en sus políticas de desinformación: “(En los deepfakes) trabajamos con terceros como organizaciones de verificación de hechos y socios de seguridad para decirnos cuando algo ha sido creado o editado artificialmente y se está utilizando de manera engañosa”.
Contra la creación de cuentas falsas de famosos
Este esfuerzo forma parte de un plan más amplio de Facebook para proteger tanto a las celebridades como a los usuarios de sus plataformas. Los estafadores no solo utilizan imágenes en anuncios, sino que también crean cuentas falsas de figuras públicas para interactuar con usuarios y engañarlos. En estos casos, el reconocimiento facial también jugará un papel importante, ya que ayudará a identificar cuentas apócrifas con mayor rapidez.
La seguridad de las figuras públicas es una prioridad, según Bickert: “Sabemos que para las celebridades, su imagen es vital, y queremos garantizar que no sea utilizada para estafar a sus seguidores”, afirmó. Este enfoque no solo busca detener los fraudes, sino también brindar una capa de protección adicional para quienes tienen una presencia pública significativa.
Las primeras pruebas de esta tecnología han sido prometedoras. Un grupo pequeño de celebridades ya ha comenzado a utilizar este sistema de protección, y Facebook planea expandir el acceso a más figuras públicas en las próximas semanas. Las celebridades que deseen participar en el programa podrán hacerlo a través del Centro de Cuentas, donde también tendrán la opción de desactivar esta protección si lo prefieren.
Entrevista con Meta sobre la estrategia contra celeb-bait
Publimetro México envió preguntas adicionales al equipo de Meta para tener información más precisa sobre la aplicación de esta nueva medida contra fraudes.
En el caso de los anuncios y posibles deepfakes, ¿el proceso de reconocimiento facial para su identificación se realiza antes de la aprobación del anuncio o una vez que ya está en circulación? Si es después de su aprobación, ¿cuánto tiempo tarda en detectarse?
— Estamos integrando esta tecnología de reconocimiento facial a nuestro sistema de revisión de anuncios, que se aplica antes y después de que un anuncio esté en circulación. La mayoría de los anuncios se revisan en un plazo de 24 horas, pero el proceso puede demorar más en algunos casos. Más información de nuestro sistema de revisión de anuncios aquí.
Mencionan que, para evitar la suplantación de identidad de celebridades, se compara la foto de perfil de la cuenta sospechosa con la de la celebridad en sus cuentas oficiales de Facebook e Instagram. ¿Qué ocurre si la celebridad no tiene una cuenta verificada en las plataformas de Meta?
— Por lo pronto, el uso de tecnología de reconocimiento facial para suplantación de identidad está en exploración. Es decir, no está activa aún. Para la prueba de esta tecnología en anuncios “celeb-bait”, solo incluimos figuras públicas que ya se han visto afectadas por este tipo de estafas. Más adelante esperamos ampliar el grupo y el perfil de figuras públicas protegidas, a medida que aprendamos y realicemos ajustes.
