OpenAI está trabajando en un nuevo sistema que ayudará a su 'chatbot' de inteligencia artificial (IA) ChatGPT a identificar automáticamente cuando está interactuando con un adolescente o menor de edad, de manera que activará una experiencia acorde a su edad y bloqueará contenido no apto.
La compañía liderada por Sam Altman ha compartido su intención de continuar mejorando la seguridad de todos los usuarios, concretamente, reforzando la protección de los adolescentes con herramientas eficaces, como los controles parentales anunciados recientemente.
Siguiendo esta línea, OpenAI ha anunciado que está desarrollando un sistema con el que podrá identificar si una persona es mayor o menor de 18 años, de manera que adaptará la experiencia en ChatGPT en base a su edad y sus necesidades, cambiando automáticamente la forma en que el 'chatbot' responde a un adolescente de 15 años o a un adulto.
Tal y como lo ha explicado en un comunicado en su blog, cuando se identifique a un usuario menor de 18 años, se le dirigirá automáticamente a "una experiencia de ChatGPT con políticas adaptadas a su edad". Esto significa que se tomarán acciones que incluyen desde bloquear el contenido sexual explícito, hasta "en casos excepcionales de angustia extrema" la posible intervención de las fuerzas del orden para garantizar la seguridad.
En caso de que ChatGPT no esté seguro de la edad del usuario o disponga de información incompleta, optará igualmente por la experiencia de menores de 18 años de cara a garantizar la seguridad en todo momento. Sin embargo, los adultos dispondrán de opciones para demostrar su edad y acceder a las capacidades para mayores de edad.
Estas medidas se unen a los controles parentales diseñados para que las familias gestionen cómo se utiliza ChatGPT en sus hogares. Así, a finales de septiembre los padres podrán vincular su cuenta con la cuenta de su hijo adolescente y establecer reglas de comportamiento para las interacciones con sus hijos.
Igualmente, los padres podrán administrar qué funciones deshabilitar, incluida la memoria y el historial de chat, y establecer horas de inactividad. Además, también recibirán notificaciones cuando el sistema detecte que su hijo se encuentra en un momento grave de angustia.
Con todo ello, cabe recordar que fue a finales del pasado mes de agosto cuando la tecnológica comenzó a realizar cambios en sus modelos de IA para identificar mejor situaciones de crisis mental y emocional durante las conversaciones con ChatGPT, añadiendo nuevas salvaguardias, bloqueos de contenido más eficaces y agilizando el contacto con servicios de ayuda y familiares.
Estos cambios, que abogan por aumentar la seguridad de los usuarios, están precedidos de un incidente que se saldó con el suicidio de un adolescente de 16 años en Estados Unidos en abril de este año.
Los padres demandaron a la compañía debido al papel que jugó ChatGPT, dado que, tras revisar las conversaciones que su hijo mantuvo con el 'chatbot' durante varios meses, se pudo ver como aunque le ofreció en numerosas ocasiones recursos para buscar ayuda, las salvaguardias acabaron fallando y la conversación comenzó a girar en torno al suicidio.
Últimas Noticias
Macron ve "decisiva" la cooperación con Xi para terminar con la guerra en Ucrania
Durante su visita oficial a Pekín, los líderes de Francia y China sellaron pactos estratégicos en sectores clave, destacando el compromiso de ambos gobiernos de impulsar soluciones diplomáticas conjuntas y reforzar el diálogo directo ante la escalada del conflicto en Ucrania
El PP reactiva hoy la comisión del Senado sobre la dana y llamará a nuevos comparecientes antes de fin de año
La Cámara Alta retoma la indagación sobre la catástrofe en Valencia, convocando a líderes nacionales y regionales ante la presión social y política por esclarecer responsabilidades y aumentar la transparencia en la gestión de la emergencia, según fuentes parlamentarias
El expresidente hondureño Juan Orlando Hernández, condenado por narcotráfico, agradece su indulto a Trump
El exmandatario planea revelar detalles sobre el proceso judicial que enfrentó, mientras el debate por su liberación genera polémica y cuestionamientos sobre el papel de Estados Unidos y el futuro político de Honduras en medio de fuertes tensiones
Indonesia ordena la suspensión temporal de la minería en las zonas inundadas de Sumatra
Israel identifica los restos del penúltimo cuerpo entregado por Hamás y Yihad Islámica
La identificación de Sudthisak Rinthalak y el inicio de su repatriación forman parte de un acuerdo internacional que impulsa la devolución de cuerpos, la liberación de cautivos y busca aliviar la crisis humanitaria en la Franja de Gaza
