Bumble presenta Deception Detector™: Una herramienta basada en IA contra spam, estafas y perfiles falsos

Con motivo del Día del Internet Seguro, Bumble presentó su más reciente función, Deception Detector™, que surge como consecuencia de su prioridad, desde hace una década, de crear conexiones amables, seguras y auténticas. Deception Detector™ utiliza Inteligencia Artificial (IA) para ayudar a identificar spam, estafas y perfiles falsos, con el objetivo de tomar medidas incluso antes de que los miembros los vean. En los dos primeros meses de la introducción de esta tecnología, Bumble vio cómo las denuncias de spam, estafas y cuentas falsas se reducían en un 45%.

Un estudio de Bumble Inc. mostró que, a nivel mundial, los encuestados mencionaron a los perfiles falsos y el riesgo de estafas, como sus principales preocupaciones a la hora de tener citas online*. Y casi la mitad de las mujeres encuestadas (46%) expresaron ansiedad por la autenticidad de sus matches en las aplicaciones de citas.** Esta preocupación puede llevar a las personas a perderse conexiones significativas que podrían tener un impacto positivo en sus vidas.

Deception Detector™ presenta un modelo basado en machine learning, rápido y fiable, para evaluar la autenticidad de los perfiles y las conexiones en Bumble. De esas cuentas identificadas como spam/estafa, las pruebas de Bumble Inc. mostraron que Deception Detector™ apoyó en bloquear el 95% de estas cuentas automáticamente. Esta tecnología automatizada y basada en IA se utiliza junto con soporte humano dedicado a priorizar una comunidad segura y empoderada.

Lidiane Jones, CEO de Bumble Inc, afirma: «En los últimos años, el panorama online ha evolucionado significativamente y vemos una creciente preocupación por la autenticidad. Bumble Inc. se fundó con el objetivo de construir relaciones equitativas y empoderar a las mujeres para dar el primer paso, y Deception Detector™ es nuestra última innovación como parte del compromiso continuo con nuestra comunidad para ayudar a garantizar que las conexiones realizadas en nuestras apps sean genuinas.»

«Con un enfoque en la experiencia en línea de las mujeres, reconocemos que en la era de la IA, la confianza es más importante que nunca. Estamos siendo muy cuidadosos sobre la mejor manera de utilizar los nuevos modelos para reducir la ansiedad de hacer conexiones y apoyar a nuestra comunidad, con la IA como principal área de foco.»

Este lanzamiento es la más reciente de las innovaciones de IA de Bumble en todos sus productos, y se suma al extenso historial de la empresa en la lucha contra la misoginia, el acoso y la toxicidad en línea. Anteriormente, la compañía introdujo otras capacidades de detección como Private Detector, una función pionera en el sector que utiliza IA para detectar y difuminar imágenes de desnudos lascivos, y fue una de las primeras aplicaciones de citas en utilizar IA para la verificación de fotos. Recientemente, Bumble introdujo Best Bees, un algoritmo de IA que proporciona un mayor nivel de curaduría para los miembros, mientras que Bumble For Friends cuenta con iniciadores de conversación impulsados por IA para proporcionar a los miembros un mensaje personalizado y significativo cuando se ponen en contacto con una nueva conexión.

Bumble también ha introducido recientemente políticas para abordar el bodyshaming, el cyberflashing y, más recientemente, ha actualizado las Directrices de la Comunidad para prohibir cualquier intento de influir artificialmente en las conexiones, matches, conversaciones o interacción mediante el uso de automatización o secuencias de comandos.

Bumble también fue miembro fundador y la primera aplicación de citas en unir fuerzas con la Partnership on AI, reforzando el enfoque de la empresa en la tecnología responsable. Deception Detector™ se ha desplegado en Bumble, Badoo y Bumble For Friends.

*Bumble Inc. Informe sobre el Estado de la Nación 2023: Todos los datos fueron encargados por Bumble Inc. entre agosto y septiembre de 2023 con una muestra global de 28,000 personas.

**La investigación fue realizada por Censuswide en nombre de Badoo, entre una muestra de 8,004 encuestados mayores de 18 años que están solteros/utilizan aplicaciones de citas o han utilizado aplicaciones de citas en los últimos 6 meses en el Reino Unido, Francia, Alemania y España. Los datos se recogieron entre el 20.09.23 y el 05.10.23. Censuswide acata y emplea a miembros de la Sociedad de Investigación de Mercados y sigue el código de conducta de la MRS, que se basa en los principios de ESOMAR.