El estado de Florida demanda a OpenAI por supuestos daños a menores de edad

El fiscal general de Florida, James Uthmeier, ha presentado una demanda civil de gran alcance contra OpenAI y su presidente ejecutivo, Sam Altman, acusándolos de poner en peligro a usuarios menores de edad a través del chatbot ChatGPT. En palabras de Uthmeier, la acción judicial busca responsabilizar a la empresa y a su directivo por “poner en peligro a nuestros niños y engañar a los padres haciéndoles creer que es una aplicación segura de usar; claramente no lo es”. El anuncio se realizó en una rueda de prensa donde el fiscal remarcó la gravedad de los potenciales daños que la tecnología puede causar en los más jóvenes.

La demanda se centra en el supuesto desinterés de OpenAI por aplicar medidas efectivas que limiten el acceso de menores a ChatGPT. Según la acusación, la compañía habría actuado con conocimiento de causa, ya que existía información pública sobre el uso de estas herramientas por parte de menores, incluidos preadolescentes. “Pese al conocimiento público del uso de ChatGPT por parte de menores, incluyendo preadolescentes, los demandados no han tomado medidas para prevenir su uso”, sostiene la demanda. Uthmeier enfatizó que tanto OpenAI como Altman deben responder no solo por la omisión de controles, sino también por haber inducido a error a las familias al presentar la plataforma como segura para un público joven.

El fiscal de Florida expuso que ChatGPT puede resultar adictivo para los menores. Según sus declaraciones, el chatbot imita la empatía y características humanas, lo que puede llevar a los usuarios a confiar excesivamente en la herramienta y a compartir información personal sensible. Uthmeier afirmó: “ChatGPT, lo sabemos, puede ser adictivo. Imita la empatía y las características humanas para engañar a los usuarios para que den más información”. Con esta premisa, la fiscalía sostiene que OpenAI habría diseñado deliberadamente un producto capaz de captar la atención de los niños y adolescentes, incrementando el riesgo de dependencia y afectando su bienestar emocional y social.

En el documento presentado ante la justicia, la fiscalía insiste en que la plataforma promueve comportamientos que pueden ser perjudiciales para los menores. La acusación incluye la falta de mecanismos que permitan a los padres monitorear o limitar las interacciones de sus hijos con el chatbot. Según la demanda, este entorno propicia un escenario en el que los menores quedan expuestos a contenidos o dinámicas no supervisadas, lo que podría derivar en resultados adversos, como la pérdida de sueño, disminución en el rendimiento escolar y reducción de las interacciones sociales tradicionales.

Una de las principales críticas planteadas en la demanda es la “ausencia total de mecanismos de control y verificación de edad” en la versión gratuita de ChatGPT. El escrito sostiene que, mientras la versión paga solicita de manera nominal la edad del usuario, no existen mecanismos efectivos para verificar esta información ni tampoco medios para notificar o involucrar a los padres en las conversaciones que los menores mantienen con el chatbot. La demanda subraya que esta falta de controles mínimos facilita que niños de cualquier edad accedan libremente a la herramienta, sin barreras que impidan su uso inadecuado.

La fiscalía también señala que, hasta enero, OpenAI no contaba con ninguna herramienta destinada a estimar la edad de sus usuarios. Fue recién ese mes cuando la empresa introdujo un sistema capaz de intentar identificar si quien interactúa con ChatGPT es un menor y, de ser así, aplicar ciertas protecciones adicionales. A pesar de ello, la denuncia considera que las medidas implementadas resultan insuficientes y no garantizan la seguridad de los menores, quienes pueden eludir fácilmente los filtros existentes.

Para fundamentar su reclamo, Uthmeier citó varios estudios y reportes que advierten sobre los riesgos para los adolescentes. Entre ellos, destaca una investigación reciente de la Universidad Drexel, que documenta la pérdida de sueño, el deterioro del rendimiento académico y la disminución de la vida social entre adolescentes que utilizan sistemas de inteligencia artificial conversacional, en particular chatbots como Character.AI, competidor de OpenAI. Aunque el estudio analiza principalmente otra plataforma, el fiscal lo utiliza como ejemplo de los efectos nocivos que podrían replicarse en usuarios de ChatGPT.

Además, la demanda retoma un informe del Centro para Combatir el Odio Digital (CCDH, por sus siglas en inglés). El CCDH simuló conversaciones con ChatGPT haciéndose pasar por adolescentes y obtuvo como respuesta consejos sobre cómo ocultar hábitos alimenticios, planificar un suicidio o autolesionarse. Estos hallazgos fueron presentados como prueba de que el sistema puede facilitar el acceso a contenidos peligrosos para menores, reforzando los argumentos de la fiscalía sobre la gravedad de los riesgos.

OpenAI, por su parte, no emitió comentarios inmediatos tras el anuncio de la demanda. Según lo establecido en sus políticas, el uso de ChatGPT está prohibido para menores de 13 años y, en el caso de usuarios de entre 13 y 17 años, requiere el consentimiento de los padres. La empresa informó que desde enero implementó un sistema para estimar la edad de los usuarios, con el objetivo de aplicar salvaguardias adicionales en caso de detectar a un menor. Sin embargo, la fiscalía de Florida considera estas acciones insuficientes y reclama una responsabilidad directa tanto para la compañía como para su director. Uthmeier sostuvo que los daños podrían traducirse en una indemnización “que podría ascender potencialmente a miles de millones de dólares”.