Qué medidas de seguridad incluye ‘ChatGPT para Adolescentes’

OpenAI lanzó una versión de su chatbot diseñada específicamente para menores de edad, ChatGPT para Adolescentes, adaptada a usuarios de entre 13 y 17 años. La herramienta incorpora restricciones de contenido en torno a temas como el suicidio, las autolesiones y las conversaciones románticas o sexuales, además de un sistema de ayuda para tareas escolares pensado para orientar el aprendizaje en lugar de ofrecer respuestas directas.

La compañía, con sede en San Francisco, indicó que la primera generación que crece junto a la inteligencia artificial ya utiliza estos sistemas para trabajos escolares, consultas cotidianas e incluso como compañía. Ese uso extendido motivó el desarrollo de una versión con protecciones más sólidas que la edición estándar del chatbot.

“Queremos tratar a los adolescentes como adolescentes, lo que significa que tenemos que asegurarnos de presentarnos con la etapa de desarrollo adecuada, sin hablarles con condescendencia ni tratarlos como niños, pero también asegurándonos de que no estén expuestos a material al que no deberían estar expuestos”, señaló Ann O’Leary, vicepresidenta de política global de OpenAI.

Detección de edad y bloqueo de contenido sensible sin verificación directa

OpenAI no exige una comprobación formal de edad, pero aplica mecanismos que estiman si un usuario es menor de 18 años según el tipo de consultas que realiza. Cuando el sistema identifica a un adolescente —o cuando la persona se identifica como tal—, se le asigna de manera automática la versión adaptada del chatbot, con las restricciones de contenido sobre suicidio, autolesiones y conversaciones románticas o sexuales activadas por defecto.

El enfoque resulta similar al que utiliza Meta en las cuentas de adolescentes de Instagram, que también aplican restricciones más estrictas en contenido, chats y privacidad respecto de las cuentas regulares.

Los controles parentales permiten horas de silencio y alertas de riesgo

Para activar los controles parentales, tanto el usuario adolescente como su padre, madre o tutor deben aceptarlos de forma conjunta. Sin embargo, O’Leary remarcó que el objetivo del chatbot para adolescentes es “asegurarnos de que esto sea seguro, incluso si no usas controles parentales”. Quienes sí vinculen una cuenta parental podrán establecer horas de silencio durante las cuales el menor no tendrá acceso a la aplicación, y recibirán notificaciones de seguridad en situaciones limitadas de alto riesgo, como la posibilidad de que un usuario se cause daño a sí mismo.

OpenAI informó además que sumará avisos adicionales relacionados con los trastornos alimentarios: “Estamos agregando notificaciones adicionales relacionadas con los trastornos alimentarios, al tiempo que limitamos lo que se comparte y enfocándonos en momentos en los que el apoyo fuera de línea puede importar más”, indicó la empresa.

Bloqueo de simulación de vínculos emocionales

Uno de los ejes centrales del rediseño apunta a impedir que la herramienta desarrolle una apariencia de vínculo afectivo con los menores. En ChatGPT para Adolescentes, el sistema tiene bloqueada la posibilidad de sugerir que siente algo personal hacia el usuario o de insinuar que posee conciencia o experimenta emociones, según precisó la compañía. Esa restricción se suma al bloqueo de conversaciones de tipo romántico o sexual.

“Revisamos e identificamos cuáles son las señales hipotéticas que un modelo podría dar y que podrían hacer que un adolescente, de algún modo, desarrolle una relación con él”, explicó Allison Mishkin, jefa de desarrollo infantil en OpenAI.

El director general de la empresa, Sam Altman, había advertido previamente sobre el riesgo de “dependencia emocional excesiva” hacia la tecnología, un fenómeno que el año pasado describió como “realmente común” entre los jóvenes usuarios.

Priorizar el razonamiento sobre las respuestas directas

En el plano académico, OpenAI diseñó el chatbot para adolescentes de modo que no entregue respuestas resueltas, sino que guíe a los estudiantes hacia sus propias conclusiones. La compañía ya ofrece una versión de ChatGPT orientada a docentes, y la adaptación de un modelo para acompañar el estudio y las tareas escolares podría abrirle a la empresa nuevas vías de incorporación en instituciones educativas.

“También seguimos invirtiendo en ampliar el aprendizaje interactivo porque las investigaciones muestran que las personas aprenden de manera más efectiva cuando participan activamente y se esfuerzan con los conceptos”, señaló Mishkin.