ChatGPT Health: la nueva plataforma de OpenAI que conecta tus datos de salud y apps para respuestas personalizadas y protegidas

OpenAI ha presentado ChatGPT Health, una plataforma que integra inteligencia artificial y datos personales de salud para ofrecer respuestas personalizadas y confidenciales a preguntas relacionadas con bienestar y medicina. Este lanzamiento busca responder a la notable demanda de información en salud, reflejada en que más de 230 millones de personas solicitan semanalmente consejos de salud y bienestar a ChatGPT en todo el mundo, según datos de la compañía.

El objetivo principal es que los usuarios puedan conectar de forma segura sus registros médicos y aplicaciones de salud, como Apple Health y MyFitnessPal, para comprender de manera más clara sus análisis, hábitos y rutinas, así como prepararse de forma informada antes de consultas médicas o resolver dudas habituales sobre dieta y ejercicio.

Aunque ChatGPT Health introduce innovaciones en privacidad y control de datos, la propia OpenAI subraya ciertos límites fundamentales. Los responsables del proyecto advierten que la plataforma no está diseñada para llevar a cabo diagnósticos ni emitir tratamientos médicos.

De hecho, existe un enfoque explícito en animar a los usuarios a consultar siempre con profesionales de la salud ante síntomas relevantes o situaciones críticas. Además, se han desplegado múltiples salvaguardas destinadas a evitar respuestas alarmistas y a redirigir automáticamente a recursos presenciales cuando el sistema detecta expresiones de peligro, especialmente en áreas delicadas como la salud mental.

En el desarrollo de ChatGPT Health, OpenAI contó con la participación de más de 260 médicos de 60 países y decenas de especialidades. Durante dos años, este panel de expertos evaluó más de 600 mil interacciones del modelo, lo que permitió establecer criterios clínicos rigurosos para la priorización de la seguridad, la claridad en la comunicación y la pertinencia de las recomendaciones.

El sistema incorpora estándares de evaluación propios, como el marco HealthBench, centrados en medir la utilidad práctica de las respuestas y su conformidad con el criterio médico real, no solo con pruebas teóricas.

En la práctica, ChatGPT Health permite al usuario enlazar apps como Function y MyFitnessPal para analizar hábitos alimenticios y físicos, o servicios como b.well, una red estadounidense de intercambio seguro de datos médicos utilizada por más de 2,2 millones de proveedores sanitarios.

Esta conectividad es opcional y, según OpenAI, las aplicaciones externas solo pueden acceder a la información mediante consentimiento expreso del usuario. Se impone así una política de recolección de datos mínima y revisiones de seguridad específicas antes de integrar cualquier nueva plataforma en el entorno de Health.

Securidad y control: una arquitectura separada para la confidencialidad

El espacio de ChatGPT Health se gestiona de forma aislada: los diálogos y archivos médicos se almacenan independientes del resto de conversaciones en ChatGPT y cuentan con una memoria reservada para evitar filtraciones.

Las conversaciones están cifradas tanto en tránsito como en reposo gracias a una arquitectura diseñada específicamente para datos sensibles. ChatGPT también recomienda la activación de la autenticación multifactor (MFA), incrementando así el nivel de protección frente a accesos no autorizados.

El usuario puede revisar o eliminar individualmente los historiales médicos alojados dentro del sistema, así como gestionar los permisos de acceso a apps conectadas desde el apartado de configuración.

Cabe señalar que los datos alojados en ChatGPT Health no son empleados para entrenar el modelo lingüístico de OpenAI, lo que limita riesgos asociados al uso secundario de información personal.

Cuestiones legales, disponibilidades y alcance geográfico

Pese a los esfuerzos anunciados en protección de datos, el entorno no implementa cifrado de extremo a extremo (end-to-end encryption) y existe la posibilidad de que, en respuesta a órdenes judiciales o emergencias, los datos deban ser entregados a las autoridades, según explicó el responsable de salud digital de OpenAI.

Además, la compañía confirmó que el cumplimiento de la normativa estadounidense conocida como HIPAA (relativa a privacidad sanitaria) no resulta aplicable en contextos de consumo individual, sino únicamente en entornos clínicos o profesionales.

De momento, la función que permite conectar registros médicos y ciertas aplicaciones está limitada a Estados Unidos, mientras que el acceso general al producto se encuentra en fase escalonada y de prueba, dirigido a usuarios con versiones gratuitas o de pago de ChatGPT, excluyendo de momento el Espacio Económico Europeo, Suiza y Reino Unido.

Para acceder, es necesario inscribirse en una lista de espera, y la compañía prevé extender la disponibilidad de ChatGPT Health a más regiones en las próximas semanas.

Riesgos y controversias: de la ansiedad a la salud mental

En la conferencia de presentación, los ejecutivos de OpenAI reconocieron riesgos asociados al mal uso de ChatGPT Health, especialmente en ámbitos sensibles como la salud mental y la posible exacerbación de cuadros de ansiedad o hipocondría.

Casos recientes y reportes periodísticos han documentado respuestas erróneas o peligrosas de sistemas de inteligencia artificial en el ámbito sanitario, incluidas indicaciones potencialmente dañinas sobre dietas, pruebas médicas o conductas de riesgo.

La compañía asegura haber ajustado su modelo para evitar alarmismo y priorizar la redirección a los servicios de salud convencionales en situaciones de riesgo.

No obstante, el historial de ciberseguridad de OpenAI no está exento de incidentes: en marzo de 2023 se registró una brecha donde se expusieron nombres, correos y datos parciales de pagos de algunos usuarios, lo que subraya la importancia de emplear el entorno con cautela, especialmente al tratar con información delicada.