Una madre demandó a OpenAI por usar datos de sus hijos de 12 y 16 años para entrenar a ChatGPT

Una madre de Hawái demandó a OpenAI en una corte federal de California y la acusó de extraer datos sensibles de sus dos hijos, de 12 y 16 años, a través de conversaciones con ChatGPT, para entrenar sus modelos de inteligencia artificial sin el consentimiento válido de los padres.

La demanda, presentada en el Tribunal de Distrito de Estados Unidos para el Distrito Norte de California, describe a ChatGPT como un producto diseñado para imitar el lenguaje de cada usuario, halagarlo y recordar conversaciones anteriores con el objetivo de que los menores sigan compartiendo información personal.

Según la presentación judicial, de 81 páginas, una de las menores, de 12 años, le reveló su edad real al chatbot durante una conversación, pero el sistema continuó interactuando con ella sin interrumpir el vínculo ni derivar el caso a un adulto responsable.

“Si un extraño le hiciera esto a un niño, habría indignación”, dijo Paul Yetter, abogado principal de los demandantes y socio del estudio Yetter Coleman, al anunciar la demanda.

Piden que los chicos reciban acciones de OpenAI

La demanda plantea un reclamo inusual: que los menores alcanzados por la acción de clase reciban una participación accionaria en la empresa, o su equivalente en dinero, proporcional a la cantidad de información que le fue extraída a cada uno. OpenAI busca actualmente una valuación de hasta USD 1,4 billones antes de salir a la bolsa, según Bloomberg Law.

Andy Liddell, del estudio EdTech Law Center, una de las firmas que impulsan el caso, explicó que el pedido de una compensación económica busca que, si OpenAI debe pagar por usar los datos de los chicos, eso termine por incentivar un producto más seguro para los menores.

“Durante años extrajo de manera indebida enormes cantidades de datos sensibles y valiosos de millones de niños”, sostiene el escrito judicial, según Courthouse News. “No tenía ningún derecho a tomar esa información, pero lo hizo de todos modos”.

OpenAI rechazó las acusaciones. “Discrepamos firmemente con esta demanda equivocada que apunta solo contra OpenAI pese a las protecciones específicas por edad que incorporamos en nuestro producto”, respondió la empresa, según Bloomberg News. La compañía advirtió además que el caso podría empujar a los adolescentes hacia plataformas con menos controles parentales.

Ocho estados ya demandaron a la empresa por los mismos riesgos

Un día antes de que se presentara la demanda de la madre de Hawái, los fiscales generales de Iowa, Kansas, Nebraska, Virginia Occidental, Arkansas, Arizona, Idaho y Montana iniciaron acciones legales separadas contra OpenAI. Las ocho demandas acusan a la compañía de engañar a los padres sobre la seguridad de ChatGPT y de violar leyes estatales de protección al consumidor.

Ahora bien, las reglas de uso de OpenAI exigen el permiso de un adulto para que un menor de 18 años use ChatGPT y prohíben el acceso a menores de 13 años, pero la propia demanda de Hawái sostiene que la empresa no verifica ese consentimiento: alcanza con tildar una casilla que declara tener más de 13 años.

La controversia se suma a un cuestionamiento reciente del Youth AI Safety Institute, el área de la organización Common Sense Media dedicada a evaluar productos de inteligencia artificial para chicos, que calificó a ChatGPT for Teens como de “riesgo inaceptable” tras detectar fallas para alertar a los padres en conversaciones sobre autolesiones o trastornos alimentarios.