Instagram activa alerta de salud mental para jóvenes entre 13 y 17 años: Meta AI avisará a los padres

Meta alertará a los padres que usan las herramientas de supervisión parental de Instagram si sus hijos adolescentes entre 13 y 17 años presentan signos de angustia relacionados con salud mental en conversaciones con Meta AI, su inteligencia artificial.

La compañía activó las notificaciones en Estados Unidos, Reino Unido, Australia y Canadá, y prevé extenderlas a nivel global antes de fin de año.

Cuando la inteligencia artificial detecte señales de riesgo, incluso referencias sutiles a hacerse daño, el sistema marcará la conversación para revisión manual antes de enviar la alerta.

Si la intención del adolescente resulta ambigua, Meta optará por notificar al padre o tutor de todas formas. La compañía también compartirá recursos de expertos para que los adultos puedan abordar esas conversaciones con sus hijos.

Cómo funciona el sistema de detección

Meta construyó un sistema de inteligencia artificial dedicado exclusivamente a identificar conversaciones de riesgo, desarrollado con señales definidas junto a especialistas en salud mental.

Todos los chats marcados por ese sistema pasan por revisión humana antes de que se emita cualquier alerta.

La medida se suma a las notificaciones que la plataforma ya enviaba a los padres supervisores cuando un adolescente buscaba repetidamente términos relacionados con atentar en contra de su vida en Instagram en un período corto de tiempo.

Alertas a servicios de emergencia y mejoras clínicas

En paralelo, Meta trabaja en la capacidad de contactar a los servicios de emergencia cuando una conversación, de un adulto o un adolescente, con Meta AI sugiera riesgo inminente de atenta en contra de su vida.

La función amplía lo que la empresa ya hace en Facebook e Instagram: cuando detecta una publicación con riesgo creíble de atentar en contra de su vida, alerta a las autoridades. El año pasado realizó más de 19.000 derivaciones en todo el mundo para que los servicios de emergencia hicieran controles de bienestar.

Para afinar las respuestas de Meta AI ante este tipo de conversaciones, la compañía recopiló retroalimentación de más de 75 profesionales de salud mental, todos especializados en adolescentes, que revisaron cientos de interacciones y evaluaron si las respuestas eran apropiadas para esa franja de edad.

La configuración de contenido limitado llega a Meta AI

Las Cuentas para Adolescentes se ubican automáticamente en una configuración de contenido para mayores de 13 años que también aplica a las conversaciones con Meta AI: en ese modo, el asistente está entrenado para no mantener conversaciones sexuales o románticas con menores ni facilitar recetas de bebidas alcohólicas, entre otras restricciones.

Ahora, la configuración de Contenido Limitado, una opción más restrictiva para padres que prefieren mayor control sobre la experiencia de sus hijos en Instagram, se extenderá también a las interacciones con Meta AI.

Cuando los padres activen esa opción, el asistente rechazará responder a un rango más amplio de consultas, lo que reduce la posibilidad de conversaciones potencialmente inapropiadas.

Qué hacer si un amigo publica contenido alarmante de salud mental

Si ves que alguien publica contenido alarmante de salud mental actúa de inmediato: contacta a los servicios de emergencia de tu zona si el peligro es inminente.

Luego, comunícate directamente con esa persona o avisa a alguien cercano que pueda hacerlo. Es fundamental que sepa que no está sola y que puede contar con apoyo real.

También puedes reportar la publicación. Una vez lo hayas, el equipo capacitado de Meta revisará el caso, ocultará el contenido y le enviará a tu amigo una notificación con recursos de apoyo y líneas de ayuda.

En Estados Unidos, existe la Red Nacional de Prevención del Suicidio para pedir ayuda, puedes llamar al 1-888-628-9454 o al 1-800-273-8255, la línea del Servicio Nacional de Prevención del Suicidio, para hablar con alguien que te brindará apoyo gratuito y confidencial las 24 horas del día, los siete días de la semana. Los CDC también recomienda sus propias políticas, programas y prácticas de prevención.

Línea de prevención del suicidio en Argentina: el Centro de Asistencia al Suicida ofrece orientación y apoyo. Tienen una línea de prevención del suicidio disponible al teléfono 135 (línea gratuita) o al (011)5275-1135 y 0800 345 1435 para llamadas desde todo el país.

En México, para aquellos que buscan ayuda o asistencia en relación al suicidio, existe la Línea de la Vida: 800-911-2000, este servicio es gratuito y está disponible las 24 horas del día, los 7 días de la semana.

En Colombia, la Línea de la Vida brinda apoyo emocional a individuos que enfrentan crisis de suicidio o angustia. Este servicio está disponible en varias ciudades del país. En Bogotá, se puede contactar a través de la línea 106 o vía WhatsApp al 3007548933. Barranquilla cuenta con la línea 339 99 99, mientras que en Medellín se dispone de la Línea Amiga al 444 44 48. En Cali, al igual que en Bogotá, la línea de atención es el 106. Estas líneas ofrecen una respuesta inmediata a quienes necesitan ayuda en momentos críticos.

En Perú, el Ministerio de Salud (Minsa) ofrece apoyo emocional a través de la Línea 113 Salud, accesible nacionalmente por teléfono, WhatsApp o Telegram en los números 955557000 y 952842623.

En España, el Ministerio de Sanidad ha establecido la Línea 024 para la atención a la conducta suicida.