OpenAI implementa la predicción de edad en ChatGPT para ofrecer experiencias adecuadas a los menores de 18 años

Los usuarios de ChatGPT que sean identificados como menores de 18 años ahora contarán con filtros automáticos que limitan su exposición a ciertos tipos de contenido. Según informó OpenAI en su sitio web, este sistema busca proteger a adolescentes y menores de edad frente a materiales sensibles, mientras que se prepara para el lanzamiento gradual de la medida, que iniciará en la Unión Europea en las próximas semanas.

De acuerdo con OpenAI, la función de predicción de edad ya ha sido activada para algunas cuentas del chatbot, tras un proceso de desarrollo iniciado en septiembre del año anterior. El mecanismo utiliza inteligencia artificial para estimar la edad del titular de cada cuenta, analizando factores como el historial de registro, las horas en que suele estar activa la cuenta, los patrones de uso a lo largo del tiempo y la edad declarada en el momento de la creación del perfil, publicó la compañía en un comunicado.

OpenAI detalló que, una vez que el sistema identifica que una cuenta correspondería a un menor, se habilitan de forma automática protecciones reforzadas. Estas incluyen filtros para restringir acceso a representaciones gráficas de violencia, desafíos virales que conlleven riesgos de conductas dañinas, temáticas relacionadas con juegos de roles de contenido sexual, romántico o violento, imágenes o textos sobre autolesiones y material que promueva estándares de belleza extremos o dietas poco saludables. Con estas medidas, la empresa quiere incrementar la seguridad y el bienestar de los usuarios adolescentes que interactúan con su chatbot.

Para disminuir los errores de clasificación y evitar que usuarios adultos sean tratados como menores, OpenAI integrará un proceso de verificación adicional. Si el sistema determina incorrectamente que una cuenta corresponde a un menor de 18 años, el usuario puede confirmar su edad mediante una fotografía tipo selfie a través del servicio externo Persona. Esta opción es accesible desde las configuraciones de cuenta, según consignó la tecnológica.

El medio de OpenAI explicó que, además de reforzar la protección de los menores, el nuevo sistema permitirá a los adultos utilizar ChatGPT sin restricciones particulares vinculadas a la edad, siempre respetando los límites habituales de seguridad de la plataforma. La compañía precisó que las decisiones sobre los contenidos restringidos y las medidas de control se basan en la asesoría de especialistas así como en el análisis de investigación científica y literatura sobre el desarrollo infantil.

La compañía, liderada por Sam Altman, aseguró que continuará evaluando y perfeccionando el modelo de predicción de edad con el objetivo de identificar los indicadores que aumenten la precisión del sistema. De esta forma, planea fortalecer de forma progresiva las barreras técnicas destinadas a proteger a menores frente a riesgos digitales.

Según OpenAI, la implementación del sistema de predicción de edad forma parte de una estrategia de desarrollo continuo en torno a la seguridad y protección de los menores. En el caso de la Unión Europea, la compañía confirmó que el lanzamiento respeta los requerimientos específicos de la región y se desplegará en el corto plazo para los usuarios del área. Mientras tanto, algunos usuarios ya acceden a estas funciones en etapas iniciales del proceso.

La comunicación oficial de OpenAI destaca que estas acciones buscan garantizar que las herramientas basadas en inteligencia artificial como ChatGPT se adapten a las necesidades de diferentes grupos etarios, atacando los posibles riesgos asociados a la exposición temprana de los adolescentes a ciertos tipos de contenido. La compañía promete mantener abiertas las vías de revisión y actualización de este modelo con base en nuevas evidencias y en la evolución tecnológica de sus productos, reportó OpenAI.