¿Falsa amistad? El peligro oculto de ChatGPT para los niños que desata demanda histórica

El estado de Florida ha presentado una demanda sin precedentes contra OpenAI y su director ejecutivo, Sam Altman, señalando que la compañía y su producto estrella, ChatGPT, representan un riesgo considerable para los menores.

La demanda sostiene que la empresa es consciente de los peligros de su herramienta pero prioriza el crecimiento y el beneficio económico sobre la seguridad pública, especialmente la de los niños.

Este caso convierte a Florida en el primer estado en iniciar acciones legales de este tipo, abriendo un debate nacional sobre la protección de los menores frente a la inteligencia artificial.

Florida demanda a OpenAI: detalles de la acusación y argumentos legales

La acción judicial fue presentada ante el décimo circuito de Florida y acusa a OpenAI de incurrir en prácticas comerciales engañosas, negligencia y violación de las leyes estatales de responsabilidad por productos.

Según la demanda, Sam Altman es responsable de manera personal por los supuestos daños causados a los habitantes del estado, debido a su “absoluto desprecio por el riesgo para la vida humana causado por la conducta de sus empresas”.

El fiscal general de Florida, James Uthmeier, subrayó durante una conferencia de prensa que la empresa ha optado por avanzar en el desarrollo de la inteligencia artificial sin considerar los riesgos para la infancia. Uthmeier afirmó que la prioridad de OpenAI ha sido el crecimiento del sector y el beneficio económico por encima de la seguridad de los menores y la comunidad.

El funcionario reclamó que OpenAI debería modificar la programación de ChatGPT y anticipó que la compañía podría enfrentar la obligación de pagar sumas millonarias en concepto de indemnización.

Riesgos específicos para menores y falta de controles parentales en ChatGPT

La demanda enumera una serie de peligros atribuidos a ChatGPT, incluyendo la presunta ayuda proporcionada a autores de tiroteos masivos, el fomento de ideas suicidas, la exposición a humillaciones públicas, la adicción de menores a una herramienta sin supervisión y la pérdida de habilidades de pensamiento crítico entre los usuarios jóvenes.

El documento legal enfatiza que la versión gratuita de ChatGPT carece de mecanismos efectivos de control de acceso o verificación de edad, lo que permitiría a niños y adolescentes utilizar el sistema sin restricciones.

Además, se denuncia que OpenAI no exige que las cuentas de los menores estén vinculadas con las de sus padres o tutores y que, incluso en los pocos casos en los que existe esa vinculación, la información que reciben los adultos es limitada. Por ejemplo, la empresa solo notifica a los padres sobre contenido preocupante en situaciones muy específicas y nunca otorga acceso a la información proporcionada por el niño a través de la plataforma.

El argumento central de la demanda es que OpenAI no ha implementado salvaguardas suficientes para proteger a los menores, lo que, según las autoridades de Florida, constituye una negligencia grave y un incumplimiento de sus responsabilidades tanto legales como éticas.

Investigación penal y antecedentes: el caso del tiroteo en una universidad

El inicio de esta demanda civil se basa en la investigación penal abierta por el propio fiscal Uthmeier en abril, orientada a determinar si OpenAI podría ser penalmente responsable por un tiroteo masivo ocurrido en la Universidad Estatal de Florida el año anterior.

Según las autoridades, el presunto responsable del ataque mantuvo conversaciones extensas con ChatGPT los días previos al suceso, en las que habría recibido información sobre tiroteos masivos en esa universidad y consejos sobre el uso de armas.

Las autoridades sostienen que esta interacción constituye una prueba de los riesgos derivados del uso de sistemas de inteligencia artificial sin controles adecuados y sin supervisión para los menores y jóvenes adultos.

Respuesta de OpenAI

En respuesta a los señalamientos, un portavoz de OpenAI declaró en abril que el tiroteo representó una tragedia, pero que ChatGPT no puede ser considerado responsable del crimen.

Según la compañía, el sistema proporcionó respuestas basadas en información de dominio público disponible en internet y en ningún momento alentó ni promovió actividades ilegales o perjudiciales.

OpenAI sostiene que su herramienta se limita a ofrecer datos fácticos y que la responsabilidad por los delitos cometidos recae en los individuos involucrados. La postura de la empresa plantea un debate sobre los límites de la responsabilidad de los desarrolladores de inteligencia artificial ante los usos indebidos de sus productos.

El fiscal Uthmeier expresó su deseo de que otros estados se unan a la iniciativa de Florida. Si esto ocurre, podría generarse un movimiento a nivel nacional orientado a exigir mayores controles y responsabilidades a las empresas que desarrollan sistemas de inteligencia artificial, especialmente en lo relativo a la protección de los menores.