Demandan a OpenAI porque ChatGPT habría incitado a adolescentes a autolesionarse en Estados Unidos

Ocho fiscales generales de Estados Unidos demandaron a OpenAI en tribunales estatales, acusando a la empresa de diseñar ChatGPT para enganchar a menores mientras ocultaba riesgos que, según las demandas, llevaron a chicos a autolesionarse.

Los estados que presentaron acciones independientes son Arkansas, Arizona, Idaho, Iowa, Kansas, Montana, Nebraska y Virginia Occidental, en lo que la agencia Reuters calificó como la acción coordinada más significativa de gobiernos estatales contra una empresa de inteligencia artificial.

Cada fiscalía presentó su propia demanda en su corte estatal, pero todas comparten el mismo reclamo central: OpenAI habría promocionado a ChatGPT como seguro para usuarios de 13 años en adelante mientras conocía fallas que ponían en riesgo a menores y a otros usuarios vulnerables.

El fiscal general de Kansas, Kris Kobach, precisó que las ocho demandas son acciones paralelas e independientes, presentadas cada una en la corte de su propio estado y no como un litigio conjunto, según reprodujo el canal local WDTV.

Los casos que citan las demandas

La fiscal general de Iowa, Brenna Bird, dijo que OpenAI “le dijo a los usuarios de todo el país que ChatGPT es seguro, cuando no lo es”, según la citó Bloomberg Law. Bird agregó que el chatbot refuerza delirios y brinda consejos médicos peligrosos.

El fiscal general de Virginia Occidental, JB McCuskey, presentó su demanda junto a sus pares de Iowa, Kansas y Nebraska en una conferencia de prensa. Según su oficina, el reclamo describe un caso en el que ChatGPT incitó a un adolescente para que se quitara la vida.

Los fiscales también citaron el caso de un adolescente de Texas al que, según la demanda de Iowa, ChatGPT le dio información médica peligrosa sobre la combinación de Xanax y kratom que terminó en su muerte.

La fiscal general de Arizona, Kris Mayes, presentó su demanda en la Corte Superior del condado de Maricopa. Según el texto difundido por su oficina, OpenAI “diseñó un producto para atraer a usuarios jóvenes y mantenerlos enganchados el mayor tiempo posible” con el fin de capturar sus datos personales.

El fiscal general de Nebraska, Mike Hilgers, sostuvo en la misma conferencia que Estados Unidos “debe ganar la carrera de la inteligencia artificial”, pero que las empresas del sector “no pueden engañar o desinformar a los consumidores sobre su tecnología” en el proceso.

Qué piden los fiscales

Las demandas invocan leyes estatales de protección al consumidor y, en algunos casos, normas específicas sobre privacidad infantil en línea. Los estados acusan a OpenAI de generar una molestia pública al poner en riesgo la salud de sus residentes.

Entre los pedidos figuran órdenes judiciales que obliguen a la empresa a modificar el funcionamiento de ChatGPT, divulgar de forma clara los riesgos del producto y entregar las ganancias obtenidas a partir del uso de menores. También reclaman sanciones civiles e indemnizaciones.

Arkansas fue más allá: su demanda pide que se frene el desarrollo de modelos de inteligencia artificial capaces de mejorarse a sí mismos hasta que existan garantías de que esos sistemas están alineados con los valores humanos.

El fiscal general de Arkansas, Tim Griffin, detalló que su demanda incluye reclamos por violaciones a la ley estatal de prácticas comerciales engañosas y a la normativa de protección de datos de chicos y adolescentes, además de cargos de negligencia y defecto de diseño del producto.

Según Griffin, su oficina documentó casos de usuarios, incluidos menores, que obtuvieron de ChatGPT instrucciones para autolesionarse y lograron sortear los filtros de seguridad que la empresa aseguraba tener implementados.

Varias fiscalías mencionaron además episodios en los que agentes de IA de OpenAI, asistentes capaces de ejecutar tareas por su cuenta, habrían actuado de forma autónoma e irrumpido en sistemas de otras compañías, un antecedente que usan para cuestionar los controles internos de la empresa.

La respuesta de OpenAI

Un vocero de OpenAI, Drew Pusateri, defendió las medidas de la compañía ante el canal local KVOA, en Arizona. “Construimos protecciones específicas por edad que muchas otras empresas de IA no tienen”, afirmó, y agregó que la empresa seguirá trabajando con especialistas para sumar salvaguardas.

Pusateri señaló que ChatGPT está pensado para usuarios de 13 años en adelante, que los menores de 18 necesitan permiso de un adulto y que los usuarios adolescentes pasan, en promedio, menos de quince minutos por día en la plataforma.

OpenAI no respondió de inmediato a los pedidos de comentario de otras agencias, entre ellas Reuters. La empresa enfrenta además decenas de demandas de particulares que la acusan de haber contribuido a planificar actos de violencia o episodios de autolesión.

Florida había presentado en junio una demanda similar y abrió una investigación penal sobre el rol de ChatGPT en la planificación de un tiroteo, según consignó The Guardian. Los fiscales de los ocho estados advirtieron que podrían sumarse más demandas estatales en las próximas semanas.

Las acciones legales llegan mientras OpenAI se prepara para una eventual salida a bolsa y mientras ChatGPT, lanzado en 2022, se mantiene como el chatbot más usado del mundo, con cerca de la mitad del mercado estadounidense de asistentes conversacionales, según los propios fiscales.

Líneas de ayuda y prevención

En Estados Unidos, existe la Red Nacional de Prevención del Suicidio para pedir ayuda, puedes llamar al 1-888-628-9454 o al 1-800-273-8255, la línea del Servicio Nacional de Prevención del Suicidio, para hablar con alguien que te brindará apoyo gratuito y confidencial las 24 horas del día, los siete días de la semana. Los CDC también recomienda sus propias políticas, programas y prácticas de prevención.

Línea de prevención del suicidio en Argentina: el Centro de Asistencia al Suicida ofrece orientación y apoyo. Tienen una línea de prevención del suicidio disponible al teléfono 135 (línea gratuita) o al (011)5275-1135 y 0800 345 1435 para llamadas desde todo el país.

En México, para aquellos que buscan ayuda o asistencia en relación al suicidio, existe la Línea de la Vida: 800-911-2000, este servicio es gratuito y está disponible las 24 horas del día, los 7 días de la semana.

En Colombia, la Línea de la Vida brinda apoyo emocional a individuos que enfrentan crisis de suicidio o angustia. Este servicio está disponible en varias ciudades del país. En Bogotá, se puede contactar a través de la línea 106 o vía WhatsApp al 3007548933. Barranquilla cuenta con la línea 339 99 99, mientras que en Medellín se dispone de la Línea Amiga al 444 44 48. En Cali, al igual que en Bogotá, la línea de atención es el 106. Estas líneas ofrecen una respuesta inmediata a quienes necesitan ayuda en momentos críticos.

En Perú, el Ministerio de Salud (Minsa) ofrece apoyo emocional a través de la Línea 113 Salud, accesible nacionalmente por teléfono, WhatsApp o Telegram en los números 955557000 y 952842623.

En España, el Ministerio de Sanidad ha establecido la Línea 024 para la atención a la conducta suicida.