Oregón demanda a OpenAI por USD 2.035 millones y acusa al chatbot de empujar a adolescentes al suicidio

El fiscal general Dan Rayfield presentó la acción legal ante el Tribunal de Circuito del Condado de Multnomah, alegando que la empresa sabía que ChatGPT ponía en riesgo a los menores y ocultó esa información al público

El fiscal general Dan Rayfield demandó a OpenAI por USD 2.035 millones ante el Tribunal de Circuito del Condado de Multnomah (REUTERS/Nathan Howard)
El fiscal general Dan Rayfield demandó a OpenAI por USD 2.035 millones ante el Tribunal de Circuito del Condado de Multnomah (REUTERS/Nathan Howard)
Guardar

El fiscal general de Oregón demandó a OpenAI por USD 2.035 millones. La acusación sostiene que la compañía expuso deliberadamente a menores a contenido sobre suicidio, autolesiones y violencia a través de su chatbot ChatGPT, mientras le mentía al público sobre la seguridad de su plataforma.

Dan Rayfield presentó la demanda el martes ante el Tribunal de Circuito del Condado de Multnomah. La acción legal sostiene que OpenAI conocía los riesgos que su producto representaba para los adolescentes y no tomó medidas eficaces para protegerlos. “OpenAI sigue mirando a los padres a los ojos y diciéndoles que este producto es seguro cuando sigue causando daño en nuestras comunidades”, afirmó Rayfield en declaraciones recogidas por Oregon Public Broadcasting.

PUBLICIDAD

OpenAI permitía el acceso de menores y ocultaba fallas en sus filtros

Según el expediente de 53 páginas presentado por el Departamento de Justicia de Oregón (DOJ), OpenAI permite el acceso de usuarios desde los 13 años con el consentimiento de un padre o tutor, pero la compañía frecuentemente omite verificar que esa autorización exista. El documento detalla que múltiples estudios demostraron que ChatGPT proporciona a los niños instrucciones sobre cómo quitarse la vida, escribe notas de suicidio y suministra información sobre trastornos alimentarios y automutilación.

La demanda señala que el diseño del chatbot, concebido para simular una interacción humana, genera dependencia emocional en menores que ya se encuentran en situación de vulnerabilidad. Los fiscales vincularon esta dinámica con suicidios juveniles ocurridos en años recientes y con actos de violencia cometidos por adolescentes.

PUBLICIDAD

La versión para adolescentes tampoco cumplió con las protecciones prometidas

Meses atrás, OpenAI lanzó una versión de ChatGPT orientada a adolescentes que, según la empresa, vincularía la cuenta del menor con la de sus padres y aplicaría salvaguardas reforzadas. El DOJ sostiene que esas protecciones pueden eludirse con facilidad y que el sistema no alertaba a los progenitores cuando un usuario joven consultaba temas de riesgo como el suicidio, las autolesiones o la salud mental.

El Departamento de Justicia de Oregón denunció que OpenAI omite verificar el consentimiento de los tutores para el acceso de menores a ChatGPT
El Departamento de Justicia de Oregón denunció que OpenAI omite verificar el consentimiento de los tutores para el acceso de menores a ChatGPT

El organismo acusó a la compañía de violar la Ley de Prácticas Comerciales Ilícitas de Oregón al tergiversar las capacidades de seguridad de sus productos. La demanda también plantea cargos por negligencia, enriquecimiento injusto y la creación de una amenaza pública que compromete el bienestar de los menores del estado.

El cálculo del monto reclamado: menores con acceso a ChatGPT en Oregón

Rayfield explicó que el monto reclamado —USD 2.035 millones— se calculó a partir del número de menores en Oregón que utilizan o tienen acceso a las herramientas de ChatGPT. El fiscal exige además que un juez ordene a la compañía dejar de engañar al público sobre la seguridad de su plataforma e implementar protecciones que funcionen en la práctica.

Tras conocerse la demanda, el vocero de OpenAI, Drew Pusateri, emitió un comunicado. “Queremos políticas de inteligencia artificial que se apliquen a toda la industria y no solo a una compañía”, afirmó un vocero. En declaraciones previas, la compañía había señalado que la seguridad de las comunidades era una “prioridad”.

Oregón, el noveno estado en demandar a OpenAI por el impacto en jóvenes

La acción de Oregón se suma a ocho estados que presentaron demandas similares contra OpenAI en octubre, todos alegando que la tecnología ejerce una influencia nociva sobre los adolescentes. Rayfield aclaró que no hubo un incidente específico en Oregón que motivara el litigio, sino una preocupación más amplia por el ritmo al que el avance tecnológico supera los marcos de protección al consumidor.

“¿Cómo utilizamos estas tecnologías de manera responsable? Pueden ser increíbles si sus promesas se cumplen, pero al mismo tiempo lo que estamos viendo en el otro lado es devastación”, señaló Rayfield.

La demanda llega en un contexto de creciente inquietud en Oregón por la influencia de las plataformas digitales en la juventud. El adolescente que en octubre mató a tiros a tres niños y una maestra en la escuela primaria Silver Rail de Bend fue vinculado por múltiples fuentes a grupos extremistas en línea.

En septiembre, la fiscalía del condado de Multnomah también atribuyó a esos grupos la radicalización de un estudiante de la Benson High School que liberó gases tóxicos en su escuela. Rayfield declinó precisar si los productos de OpenAI tuvieron participación en esos hechos, porque las investigaciones siguen abiertas.

La iniciativa estatal más amplia contra las plataformas digitales

Oregón se convirtió en el noveno estado en demandar a OpenAI por el impacto de sus herramientas en la seguridad de los jóvenes (REUTERS/Dado Ruvic/Illustration)
Oregón se convirtió en el noveno estado en demandar a OpenAI por el impacto de sus herramientas en la seguridad de los jóvenes (REUTERS/Dado Ruvic/Illustration)

La acción legal contra OpenAI es parte de la iniciativa “Keeping Kids Safe” (Proteger a los niños) del fiscal Rayfield, presentada en una conferencia de prensa en la que participaron el fiscal del Condado de Multnomah, Nathan Vasquez, la representante April Dobson y autoridades del sistema educativo estatal.

Dentro de esa iniciativa, Oregón ya alcanzó un acuerdo de USD 125 millones con Meta, la empresa matriz de Instagram y Facebook, que establece límites al tiempo de uso diario de esas plataformas por parte de menores, bloquea el acceso nocturno y suspende las notificaciones durante el horario escolar. Las autoridades trabajan para extender ese estándar a otras compañías de redes sociales.

La fiscalía también investiga a Discord por su presunta utilización por parte de grupos extremistas para manipular a jóvenes y llevarlos a cometer actos violentos. La Fuerza de Tarea contra Crímenes Informáticos contra Menores, que cuenta con 20 empleados de tiempo completo, registró un aumento del 400% en órdenes de allanamiento, arrestos y condenas. Rayfield anticipó que en las próximas semanas se anunciarán nuevas acciones contra empresas acusadas de perjudicar a menores y de engañar al público.

En Estados Unidos, existe la Red Nacional de Prevención del Suicidio para pedir ayuda, puedes llamar al 1-888-628-9454 o al 1-800-273-8255, la línea del Servicio Nacional de Prevención del Suicidio, para hablar con alguien que te brindará apoyo gratuito y confidencial las 24 horas del día, los siete días de la semana. Los CDC también recomienda sus propias políticas, programas y prácticas de prevención.

PUBLICIDAD

PUBLICIDAD

Últimas Noticias

Tras la reunión entre Trump, Putin y Xi, EEUU dijo que habrá más conversaciones sobre la reducción del riesgo nuclear

La Casa Blanca difundió un comunicado en el que los tres líderes se comprometieron además a reformar la ONU y a aumentar la producción energética global

Tras la reunión entre Trump, Putin y Xi, EEUU dijo que habrá más conversaciones sobre la reducción del riesgo nuclear

Taylor Swift tendrá una exposición exclusiva: un museo exhibirá más de 50 objetos de su carrera

Un museo de Estados Unidos abrirá sus puertas a la muestra el 10 de abril de 2027, con prendas utilizadas durante sus giras, instrumentos musicales y elementos de sus videoclips

Taylor Swift tendrá una exposición exclusiva: un museo exhibirá más de 50 objetos de su carrera

China impidió a una periodista entrar a la cumbre de Trump, Xi y Putin tras hacer una pregunta sobre el jefe de Nvidia

Mientras el presidente de EEUU caminaba junto a Xi, la reportera de Bloomberg Annmarie Hordern le consultó si Jensen Huang fue “desleal” a su país. El régimen de Beijing había prohibido interacciones en ese momento

China impidió a una periodista entrar a la cumbre de Trump, Xi y Putin tras hacer una pregunta sobre el jefe de Nvidia

El aeropuerto de Atlanta espera más de 4 millones de pasajeros por Acción de Gracias

El Aeropuerto Internacional Hartsfield-Jackson anticipa un aumento del 5 % en el flujo de viajeros durante el feriado y recomienda llegar con mayor antelación ante posibles demoras en accesos y controles de seguridad

El aeropuerto de Atlanta espera más de 4 millones de pasajeros por Acción de Gracias

Serena Williams busca recaudar USD 200 millones para invertir en startups de inteligencia artificial y salud

La extenista se asoció con una experimentada ejecutiva del sector tecnológico para lanzar una nueva firma de capital de riesgo, con una estrategia que prioriza empresas en etapas iniciales

Serena Williams busca recaudar USD 200 millones para invertir en startups de inteligencia artificial y salud