Meta está probando una serie de nuevas herramientas de reconocimiento facial para detectar fraudes y robos de cuentas en Instagram y Facebook. Asegura que estas funciones fueron sometidas a un “sólido proceso de revisión” para garantizar la seguridad y privacidad de los usuarios.
La big tech indica que una parte de la actualización está centrada en identificar y combatir engaños de celeb-bait (cebo de celebridades). Explica que en este esquema “los estafadores intentan usar imágenes de figuras públicas para incitar a que las personas interactúen con anuncios que se dirigen a sitios web fraudulentos. El método infringe nuestras políticas y es perjudicial para quienes usan nuestros productos”.
Una investigación de WIRED encontró que existe una red coordinada de páginas de Facebook que buscan estafar a la gente mediante videos de Claudia Sheinbaum, Gael García, Eugenio Derbez o Hugo López-Gatell, alterados con inteligencia artificial.
La organización dirigida por Mark Zuckerberg reconoce el contenido nocivo con algoritmos de aprendizaje automático. Pese a ello, admite que estos son insuficientes para diferenciar con eficacia entre los casos de celeb-bait y los materiales publicitarios legítimos. El uso de tecnología biométrica promete solucionar el inconveniente. La empresa informa que, si sus sistemas de seguridad detectan un anuncio sospechoso de fraude con una figura pública, empleará tecnología de reconocimiento facial para constatar la autenticidad de la publicación. “Si confirmamos la estafa, el post será eliminado de inmediato”, subraya.
La iniciativa en fase experimental se ha comenzado a desplegar en un “grupo pequeño de celebridades”. Meta afirma que estas primeras pruebas demuestran que el enfoque incrementa “la rapidez y eficiencia con la que podemos tomar acciones en contra de este tipo de delitos”. Promete que la función estará disponible para más usuarios en las próximas semanas.
El reconocimiento facial de Meta genera inquietudes
La compañía además estudia el análisis facial como alternativa para eliminar las cuentas apócrifas que intentan robar la información personal y financiera de los suscriptores. En la actualidad, este tipo de prácticas se identifican mediante los reportes de la audiencia. Meta dice que en el futuro evaluará la aplicación de recursos de verificación fisonómica para comparar las fotos de las cuentas sospechosas con las imágenes de perfil de Instagram y Facebook de las figuras públicas.
Los usuarios de las redes sociales de Meta también podrán restaurar sus cuentas comprometidas con su información biométrica. “Estamos probando un nuevo mecanismo para que las personas comprueben su identidad y recuperen el acceso a sus cuentas bloqueadas. Los interesados podrán enviar un video selfie y usaremos tecnología de reconocimiento facial para compararlo con las fotos del perfil al que intentan acceder. Esto es similar a los métodos que se usan para desbloquear un teléfono o acceder a otras apps”.
El anuncio de Meta genera ciertas preocupaciones sobre el manejo que podría dar a los datos biométricos de sus usuarios. La corporación ha aceptado que ocupa las “publicaciones antiguas” hospedadas en Instagram y Facebook como datos de entrenamiento para sus modelos de inteligencia artificial.
La firma de Menlo Park, California, garantiza que todos los datos generados en los procesos de lectura facial se eliminarán automáticamente y no se aprovecharán para ningún otro fin. Añade que las propuestas fueron sometidas a “nuestro sólido proceso de revisión de riesgos y privacidad. Agregamos protecciones complementarias para que las personas sepan cómo operan y ofrecer controles”. Enfatiza que ha discutido sus iniciativas con reguladores, legisladores y expertos.