Cómo Amazon utiliza la IA para identificar reseñas falsas

Amazon emplea diversas tecnologías de inteligencia artificial, como el aprendizaje automático, avanzados sistemas lingüísticos y redes neuronales especializadas, con el objetivo de identificar y suprimir opiniones o f en su sitio. De esta manera, busca asegurar que los comentarios publicados sean fidedignos.

La empresa resalta la importancia de una fácil interacción en su plataforma para que los consumidores expresen sus valoraciones sobre productos y contribuyan a las decisiones informadas de futuros compradores.

“¿Qué ocurre cuando un cliente envía una reseña? Antes de ser publicada, Amazon utiliza Inteligencia Artificial para analizar dicha reseña o comentario en busca de indicadores de riesgo que ayuden a detectar que esa reseña podría ser fraudulenta”, explicó la empresa en su blog.

Amazon aseguró que la gran mayoría de las reseñas superan los más altos estándares de autenticidad y se publican de inmediato. Sin embargo, recurren a varias acciones si se detecta una posible reseña fraudulenta.

Si Amazon asegura que la reseña es falsa, actúa rápidamente para bloquearla o eliminarla y tomar, en caso de ser necesario, medidas adicionales.

Estas medidas incluyen la revocación de los “privilegios” de los clientes para publicar reseñas, el bloqueo de las cuentas de las personas infractoras, e incluso la interposición de acciones legales contra las partes involucradas.

Cómo se integra la IA

La empresa afirma que utiliza los últimos avances en el campo de la Inteligencia Artificial para detener y bloquear las reseñas falsas, las valoraciones manipuladas, las cuentas de clientes fraudulentas y otros abusos antes de que otros clientes los vean.

Los modelos de aprendizaje automático (ML, por sus siglas en inglés) analizan multitud de datos incluyendo, por ejemplo, si el vendedor ha invertido en publicidad (lo que puede ayudar a generar un número de reseñas adicionales), informes de abuso enviados por los clientes, patrones de comportamiento, o el historial de reseñas, entre otros muchos factores.

Además, los modelos lingüísticos avanzados (Large Language Model – LLM, por sus siglas en inglés) se utilizan junto con otras técnicas de procesamiento del lenguaje natural para analizar anomalías que podrían indicar que una reseña es falsa o está incentivada, por ejemplo, a través de la concesión de una tarjeta de regalo, un producto gratuito o alguna otra forma de reembolso.

También se utilizan redes neuronales de gráficos (GNN, por sus siglas en inglés) para analizar y comprender relaciones y patrones de comportamiento complejos con el fin de detectar y hacer frente a los infractores.

“La diferencia entre una reseña auténtica y una falsa no siempre es evidente”, explicó Josh Meek, responsable del equipo de Prevención contra el Fraude y Abuso en Amazon.

“Por ejemplo, un producto puede acumular varias reseñas rápidamente porque un vendedor invirtió en publicidad u ofreció un excelente producto a un precio competitivo. O bien, un cliente puede pensar que una reseña es falsa porque contiene errores gramaticales”, añadió.

Este es un punto crucial para la detección de las reseñas falsas, ya que, para poder hacer una correcta valoración sobre una reseña, hay que tener en cuenta información relacionada con el tipo de cliente que escribe la reseña, así como del tipo de producto que se reseña.

La combinación que usa Amazon de tecnología y análisis de los datos ayuda a identificar las reseñas falsas con mayor precisión, ya que va más allá de los indicadores de abuso superficiales con el fin de identificar relaciones más profundas entre los posibles comportamientos infractores.

“Las reseñas falsas engañan intencionadamente a los clientes al proporcionarles información que no es imparcial, auténtica o, en ocasiones, no está destinada al producto o servicio reseñado”, agregó el ejecutivo.

En 2022, Amazon observó y bloqueó proactivamente más de 200 millones de reseñas sospechosas de ser falsas en sus tiendas de todo el mundo.