OpenAI ha anunciado que reforzará las medidas de seguridad en sus modelos junto con expertos y médicos, al tiempo que incorporará un conjunto de controles parentales para supervisar la actividad de los menores con ChatGPT.
La compañía tecnología asegura que pretende acompañar el progreso en IA con "una profunda experiencia en bienestar y salud mental", y para ello ha establecido un Consejo de expertos sobre bienestar e inteligencia artificial y una Red Global de Médicos, que trabajarán conjuntamente.
El Consejo estará centrado en diseñar las directrices, prioridades y medidas de protección que permitirán descubrir "cómo la IA puede contribuir al bienestar de las personas y ayudarlas a prosperar", según explica OpenAI en un comunicado compartido en su blog oficial.
La Red Global de Médicos, por su parte, ha ayudado a definir el comportamiento de los modelos de IA "en contextos de salud mental" y en el futuro también lo hará "en áreas como trastornos alimentarios, consumo de sustancias y salud adolescente".
El trabajo con expertos se reforzará próximamente con un nuevo enrutador en tiempo real que elegirá el modelo más adecuado según el contexto de la conversación e independientemente del modeo inicialmente elegido por el usuario.
De esta forma, si detecta que la conversación vira hacia temas sensibles, que pueden enmarcarse en una depresión o sentimiento de angustia, pasará a ofrecer un modelo de pensamiento, como GPT-5.
Esto se debe a que, según sus pruebas, los modelos de pensamiento como GPT-5 y el o3, dedican más tiempo a pensar y razonar la respuesta, por lo que pueden ofrecer medidas más beneficiosas a los usuarios.
CONTROLES PARENTALES
Estas medidas se complementan con nuevos controles parentales que ayudarán a administrar el uso que hacen los adolescentes de ChatGPT. Para empezar, podrán vincular cuentas y controlar la forma en que el 'chatbot' responde con reglas de comportamientos, que estarán activadas por defecto.
Los padres también podrán gestionar las funciones que complementan la experiencia de ChatGPT, para desactivar memoria y el historial de 'chat'. Y recibirán una notificación si, a partir de la conversación el menor, el 'chatbot' detecta que "se encuentra en un momento de angustia aguda".
Recientemente, OpenAI anunció cambios en sus modelos de inteligencia artificial para que identifiquen mejor situaciones de crisis mental y emocional durante las conversaciones con ChatGPT, con nuevas salvaguardias, bloqueos de contenido más eficaces y agilizando el contacto con servicios de ayuda y de familiares.
Estas actuaciones siguieron a la denuncia presentada contra la empresa por Matt y Maria Raine, los padres de Adam Raine, un adolescente de 16 años que se quitó la vida en abril, debido al papel que jugó ChatGPT en este suceso
Últimas Noticias
EEUU levanta las sanciones al petróleo de Irán que ya está cargado en buques
Washington autoriza transacciones con crudo iraní presente en embarcaciones desde marzo, tras una escalada en Oriente Próximo que elevó el costo internacional del combustible y generó tensiones por el cierre temporal de rutas marítimas clave en la región
Irán amenaza con atacar el puerto de Ras al Jaima, en EAU, si se "reanudan" ataques desde territorio emiratí
El ejército de Teherán advierte que responderá de forma contundente ante cualquier ofensiva emiratí sobre las disputadas islas del golfo Pérsico, luego de la interceptación de misiles y drones atribuidos a la República Islámica
Trump ve bien que EEUU se retire de las bases militares de Rota y Morón
El mandatario estadounidense respalda la propuesta de retirar unidades militares tras el veto del gobierno español a su uso en conflictos con Irán, criticando además la falta de apoyo europeo en la defensa del estratégico estrecho de Ormuz
El Bournemouth rescata otro empate ante el Manchester United
El Manchester United desperdició la oportunidad de afianzarse en la clasificación tras igualar 2-2 frente a un rival que, con cinco duelos consecutivos sin vencer, sigue sumando en la mitad de la tabla de la Premier League
La pegada del Villarreal desmonta a la Real en 20 minutos
Un arranque imparable en La Cerámica le permitió al equipo de Marcelino anotar tres goles en menos de media hora ante un rival que reaccionó tarde y perdió la oportunidad de seguir peleando los puestos europeos de LaLiga
