OpenAI presenta 'ChatGPT para adolescentes' ante la creciente preocupación por la seguridad

La "start-up" de inteligencia artificial anunció un modo de chatbot que limitará automáticamente algunas conversaciones para proteger mejor a los usuarios jóvenes.

OpenAI anunció el martes "ChatGPT para adolescentes", un nuevo modo en el que el chatbot limita automáticamente algunas conversaciones para proteger mejor a los usuarios jóvenes, a medida que aumenta el escrutinio sobre los efectos nocivos de la inteligencia artificial.

Muchas características del nuevo modo tienen que ver con la seguridad, dijo la empresa en una publicación de blog. El chatbot limitará las conversaciones de alto riesgo que involucren autolesiones, violencia, trastornos alimenticios y contenido sexual explícito y gráfico. En algunos casos, ChatGPT alertará a los adultos que hayan activado los controles parentales y las notificaciones. Además, el modo fortalecerá las protecciones que evitan que el chatbot sugiera que tiene sentimientos personales.

El modo para adolescentes de ChatGPT también contiene nuevas herramientas de estudio y límites de seguridad para los estudiantes, dijo OpenAI. Si el chatbot detecta que un adolescente está haciendo la tarea, debería responder a las indicaciones con más preguntas en lugar de limitarse a dar la respuesta, por ejemplo.

OpenAI requiere que las personas proporcionen su edad al registrarse en ChatGPT --según los términos de uso, deben tener 13 años o más--, pero algunos mienten. La empresa rastrea más de 2000 señales para detectar si un usuario es menor de 18 años, indicó, en cuyo caso el chatbot activará automáticamente el modo para adolescentes.

Un portavoz de la empresa dijo que las señales, que pueden incluir horarios típicos de inicio de sesión y la antigüedad de la cuenta, eran "mínimamente invasivas para la privacidad".

OpenAI, que requiere el consentimiento de los padres para que los adolescentes usen su chatbot, ha enfrentado una creciente presión sobre la seguridad, la salud mental y el desarrollo de sus usuarios más jóvenes. Un número cada vez mayor de familias ha demandado a la empresa, alegando que sus hijos estuvieron expuestos a contenido peligroso del chatbot y se autolesionaron o murieron por suicidio como resultado.

En junio, Florida se convirtió en el primer estado en demandar a OpenAI, acusando a la empresa de tergiversar la seguridad de su plataforma para los menores de edad.

Grupos de padres en la ciudad de Nueva York, Los Ángeles y otros lugares están presionando a las escuelas para que detengan temporalmente las implementaciones de productos de IA para los estudiantes, preocupados de que los chatbots puedan obstaculizar o disminuir el aprendizaje. Los chatbots suelen generar desinformación y pueden ayudar a los estudiantes a hacer trampa. Algunos investigadores en el ámbito educativo advierten que las herramientas de IA pueden obstruir el pensamiento crítico de los jóvenes.

OpenAI dijo que su nuevo modo de estudio era una herramienta educativa adicional para los adolescentes.

"Creemos que la IA debería ampliar las oportunidades educativas, razón por la cual diseñamos 'ChatGPT para adolescentes' para apoyar en los momentos fuera del aula cuando la ayuda no siempre está disponible, al mismo tiempo que mantiene a los adolescentes involucrados en un proceso de aprendizaje activo y colaborativo", dijo la empresa en su publicación de blog.

El enfoque de OpenAI de ajustar ChatGPT para los adolescentes sigue una estrategia similar a la utilizada por las empresas de redes sociales durante años, en la que se crean nuevos modos para jóvenes con límites de seguridad, pero se sigue fomentando el uso de la aplicación. Las nuevas funciones también suelen depender de los controles parentales y el monitoreo, algo que los defensores de la seguridad infantil y los legisladores han criticado por desplazar la responsabilidad de los daños creados en última instancia por las empresas.

Además, verificar la edad de los usuarios ha sido un problema para las empresas tecnológicas debido a la facilidad para eludir los controles.

(The New York Times ha demandado a OpenAI y Microsoft, alegando infracción de derechos de autor de contenido de noticias relacionado con los sistemas de IA. Las dos empresas han negado esas afirmaciones).

Natasha Singer colaboró con la reportería.

Cecilia Kang cubre temas de tecnología y regulación para el Times desde Washington. Ha escrito sobre tecnología por más de dos décadas.

Natasha Singer colaboró con la reportería.