WhatsApp está probando una nueva función de seguridad diseñada para detectar posibles estafas antes de que el usuario interactúe con ellas. La herramienta, denominada Scam Alert, utiliza inteligencia artificial para analizar determinados mensajes y mostrar una advertencia cuando identifica patrones asociados con fraudes conocidos.
La función se encuentra actualmente en fase de pruebas con un grupo limitado de usuarios. Uno de sus principales elementos es que el análisis se realiza directamente en el teléfono mediante un modelo de aprendizaje automático, sin necesidad de enviar el contenido de las conversaciones a los servidores de Meta.
La inteligencia artificial analiza los mensajes en el celular
Scam Alert está diseñada principalmente para revisar mensajes procedentes de números que el usuario no tiene guardados entre sus contactos. El sistema analiza elementos como la estructura de la conversación y determinadas características del lenguaje para identificar comportamientos que puedan estar relacionados con intentos de estafa.
PUBLICIDAD
Cuando el modelo detecta suficientes señales de riesgo, WhatsApp puede mostrar una advertencia dentro de la conversación. Esta alerta solamente será visible para el usuario y busca darle una oportunidad de identificar el posible fraude antes de responder, compartir información o seguir las instrucciones del remitente.
La función está pensada para combatir una modalidad de fraude cada vez más habitual en las aplicaciones de mensajería: los contactos desconocidos que intentan ganarse la confianza de una persona para después solicitar dinero, datos personales, códigos de seguridad o acceder a determinadas cuentas.
Meta asegura que los mensajes no salen del dispositivo
Uno de los principales aspectos de Scam Alert está relacionado con la privacidad. Meta asegura que el contenido utilizado para realizar el análisis permanece en el dispositivo y que los mensajes no son enviados a sus servidores ni a los de otras compañías.
PUBLICIDAD
Para conseguirlo, WhatsApp descarga en el teléfono el modelo de inteligencia artificial encargado de identificar las señales relacionadas con posibles estafas. De esta manera, el procesamiento se realiza localmente y no requiere trasladar las conversaciones a la nube.
La compañía sostiene que este diseño permite mantener el cifrado de extremo a extremo de WhatsApp. El objetivo es incorporar una nueva capa de protección sin modificar el funcionamiento de este sistema de seguridad.
El usuario tendrá el control de la función
Scam Alert será una herramienta opcional. Los usuarios podrán activarla o desactivarla desde los ajustes de WhatsApp, mientras que una conversación identificada erróneamente como sospechosa podrá marcarse como confiable.
PUBLICIDAD
WhatsApp también contempla una opción para compartir voluntariamente los últimos cinco mensajes recibidos con el objetivo de ayudar a mejorar la precisión del sistema. Esta alternativa no será obligatoria para utilizar Scam Alert.
Meta también afirma que ha desarrollado mecanismos para evitar que la información recopilada pueda utilizarse para identificar directamente al usuario o acceder al contenido de sus conversaciones.
WhatsApp probará el modelo antes de extenderlo
La compañía asegura que el desarrollo de Scam Alert está sujeto a diferentes mecanismos de supervisión. Las versiones del modelo se registrarían previamente en un sistema público de transparencia y Meta tiene previsto publicar sus parámetros para facilitar las auditorías por parte de investigadores especializados en seguridad.
PUBLICIDAD
Por ahora, la función permanece limitada a una prueba beta con determinados usuarios y miembros de la comunidad vinculada a la detección de vulnerabilidades. WhatsApp todavía no ha anunciado una fecha para su lanzamiento general.
La compañía deberá comprobar primero que el sistema consigue identificar estafas con suficiente precisión sin generar un número elevado de falsas alarmas. También tendrá que garantizar que el procesamiento local mantiene las condiciones de privacidad prometidas. Si las pruebas son satisfactorias, Scam Alert podría convertirse en una nueva barrera para detectar fraudes antes de que el usuario caiga en ellos.
PUBLICIDAD