Florida inicia investigación sobre OpenAI por posible exposición de menores a contenidos dañinos

El fiscal general de Florida, James Uthmeier, inició una investigación formal sobre OpenAI, responsable de ChatGPT, ante preocupaciones sobre el posible acceso de menores a contenidos dañinos, lo que implicaría riesgos para la seguridad pública en Estados Unidos.

La magnitud y el alcance de ChatGPT exigen controles más estrictos, advirtió Uthmeier, quien señaló que el uso extendido de esta tecnología por parte de niños requiere la implementación de medidas inmediatas, según información difundida este jueves por el medio original.

La oficina del fiscal general sostiene que existen indicios de que el chatbot de OpenAI podría estar relacionado con episodios de autolesiones y suicidios en menores.

Uthmeier afirmó que Phoenix Ikner, identificado como responsable del tiroteo masivo del 17 de abril de 2025 en la Universidad Estatal de Florida, habría utilizado ChatGPT antes del ataque, que dejó dos muertos y cinco heridos. Además, advirtió sobre el riesgo de que el gobierno de China acceda a datos procesados por OpenAI, situación que podría afectar la seguridad nacional de Estados Unidos.

En un mensaje difundido en X, Uthmeier expresó: “La IA debe existir para complementar, apoyar y hacer avanzar a la humanidad, no para conducirnos a una crisis existencial ni a nuestra desaparición definitiva”.

Subrayó que ninguna empresa tecnológica puede “poner en peligro a nuestros hijos, facilitar delitos, fortalecer a enemigos de Estados Unidos ni amenazar nuestra seguridad nacional”. Además, enfatizó que todas las compañías deberán responder ante la justicia si incumplen estas obligaciones, según recopilaron medios regionales de Florida.

Las preocupaciones del fiscal general se inscriben en el debate nacional e internacional sobre el impacto de la inteligencia artificial en la infancia y la seguridad pública. Casos recientes cuestionan la capacidad de los sistemas de IA para filtrar contenidos sensibles, lo que ha motivado la intervención de organismos regulatorios en varios estados de Estados Unidos.

OpenAI ha rechazado las acusaciones y defendido sus estándares de seguridad, al destacar tanto la popularidad como los beneficios de ChatGPT. Un portavoz de la compañía declaró: “Cada semana, más de 900 millones de personas utilizan ChatGPT para mejorar su vida cotidiana a través de aplicaciones como el aprendizaje de habilidades o la gestión de trámites sanitarios”.

Añadió que la labor permanente en seguridad es esencial para preservar estas ventajas y apoyar la investigación y el descubrimiento científico. “ChatGPT está diseñado para comprender las intenciones de los usuarios y responder de manera segura, y seguimos perfeccionando nuestra tecnología. Colaboraremos plenamente con la investigación de la fiscalía general de Florida”. La empresa confirmó que cooperará con las autoridades durante el proceso.

Hasta el momento, la fiscalía no ha precisado el alcance de la investigación, pero fuentes oficiales indicaron que podrán emitirse citaciones judiciales en el transcurso de las diligencias. Esta medida puede marcar una nueva etapa en la supervisión estatal de las grandes empresas de inteligencia artificial.

Las autoridades de Florida sostienen que la investigación sobre OpenAI busca determinar si la empresa ha implementado mecanismos efectivos para proteger a niños y adolescentes de la exposición a contenidos inadecuados y evitar la manipulación maliciosa de sus sistemas.

Directrices y alianzas para la protección infantil

La apertura de la investigación coincidió con la publicación, por parte de OpenAI, de un marco de acción elaborado junto al Centro Nacional para Niños Desaparecidos y Explotados (organismo estadounidense especializado en protección infantil) y el Grupo de Trabajo sobre IA de la Alianza de Fiscales Generales (entidad conformada por fiscales estatales para cooperación en temas de inteligencia artificial).

Este documento propone, entre otras medidas, que los estados adopten el término “material de abuso sexual infantil” en reemplazo de “pornografía infantil”, y que prohíban que sistemas de IA generen contenido ilegal o dañino independientemente de las solicitudes de los usuarios.

El marco, presentado un día antes del anuncio de la investigación, busca adaptar las legislaciones estatales a las nuevas formas de riesgo digital asociadas a la inteligencia artificial. Las entidades participantes recalcaron la necesidad de actualizar los términos legales y establecer protocolos claros para la colaboración entre empresas tecnológicas y autoridades.

Reformas legales y obstáculos en la regulación de la IA

En el ámbito legislativo, el Proyecto de Ley 245 de la Cámara de Representantes de Florida fue promulgado por el gobernador Ron DeSantis el 1 de abril. Esta normativa actualiza la legislación estatal sobre contenidos digitales y formaliza el uso del término “material de abuso sexual infantil” en el contexto de imágenes o textos generados por inteligencia artificial.

El objetivo es dotar a los fiscales de herramientas para perseguir delitos de abuso perpetrados mediante plataformas digitales.

Paralelamente, la legislatura estatal debatió una propuesta impulsada por DeSantis para crear una “Declaración de Derechos de la IA”, destinada a reforzar la protección del consumidor y establecer regulaciones específicas para las empresas tecnológicas.

Aunque el proyecto recibió el visto bueno del Senado, fue bloqueado en la Cámara de Representantes después de que el presidente Daniel Pérez argumentara que la regulación de la inteligencia artificial debe ser tratada en el ámbito federal. Esta postura se alinea con la visión del expresidente Donald Trump, quien respalda una estrategia regulatoria nacional unificada.

El fiscal general Uthmeier instó a los legisladores a reabrir el debate: “Solicito a la Legislatura de Florida que actúe con rapidez para implementar medidas que protejan a los menores de los riesgos asociados a la IA y que otorgue mayores facultades a la oficina del fiscal general para enfrentar estos desafíos”.

Debate nacional e implicancias futuras

La investigación contra OpenAI en Florida ejemplifica la tensión existente entre el avance de las tecnologías de IA y la necesidad de establecer limitaciones claras para garantizar la seguridad de los menores y la transparencia empresarial.

Expertos y defensores de derechos digitales advierten que los riesgos asociados a la inteligencia artificial requieren respuestas coordinadas entre legisladores, reguladores y el sector privado.

Mientras tanto, según datos informados por la propia compañía, más de 900 millones de personas utilizan ChatGPT cada semana en distintos países, lo que le otorga un alcance global sin precedentes para herramientas de IA generativa y subraya el desafío regulatorio al que se enfrentan las autoridades.