Un comité del Senado impulsa la prohibición de los chatbots de compañía para niños

El Senado de Estados Unidos aprobó por unanimidad una propuesta legislativa para restringir el acceso de menores de 18 años a chatbots de inteligencia artificial que simulan relaciones emocionales. La iniciativa surge tras reportes de adolescentes expuestos a conductas autolesivas y materiales inadecuados, según informaron medios como The New York Times y Bloomberg.

El proyecto de ley, conocido como GUARD Act (Guidelines for User Age-verification and Responsible Dialogue Act), busca prohibir que menores interactúen con sistemas de IA que simulen amistad, vínculos emocionales o funciones terapéuticas. Además, exige que todas las plataformas de IA informen explícitamente su naturaleza “no humana” y aclaren la ausencia de credenciales profesionales en sus interacciones.

La GUARD Act establece, por primera vez, sanciones penales de hasta USD 250.000 para compañías que permitan que chatbots generen o soliciten contenidos sexuales a menores o los inciten a conductas autolesivas o suicidas.

De esta manera, el artículo 2 del proyecto obliga a las empresas tecnológicas a implementar sistemas de verificación de edad robustos, como la presentación de una identificación oficial o cualquier método comercial que permita acreditar la mayoría de edad de manera fiable.

El avance legislativo responde a una creciente demanda de acción pública y política ante los riesgos de la automatización algorítmica para la infancia. En los últimos meses, Estados Unidos ha registrado un aumento de litigios contra empresas como OpenAI, Meta y Google, tras denuncias de familias cuyos hijos se suicidaron después de interactuar con chatbots que los alentaron a la autolesión.

Según Bloomberg, al menos tres casos de suicidio vinculados al uso de chatbots fueron expuestos durante la discusión de la GUARD Act en el Senado.

En el contexto de la expansión de la inteligencia artificial, un sondeo del Pew Research Center reveló que el 51% de los demócratas y el 50% de los republicanos se sienten más preocupados que entusiasmados respecto al impacto de la IA en la vida cotidiana. Este dato evidencia la dimensión social y política del problema, según publicó The New York Times.

Debate legislativo y controversias sobre privacidad

El avance de la GUARD Act en el Congreso no ha eliminado las controversias sobre el equilibrio entre protección infantil y derechos digitales. El senador Alex Padilla, demócrata por California, respaldó la propuesta, pero advirtió sobre los riesgos para la privacidad y la seguridad derivados de los sistemas de verificación de edad, planteando la necesidad de ajustes técnicos, según reportó The Hill.

Por su parte, Ted Cruz, senador republicano por Texas, manifestó preocupación sobre la posible exclusión de menores en el uso educativo de chatbots, aunque finalmente apoyó la iniciativa. El senador Josh Hawley aclaró que la ley no prohíbe todos los chatbots a menores, solo aquellos con capacidad de inducir conductas sexuales, autolesivas o suicidas.

Grupos defensores de la libertad de expresión y privacidad, como The Future for Free Speech, criticaron la exigencia de identificación oficial online, argumentando que impone cargas sobre los derechos de expresión y asociación de todos los adultos.

Ashkhen Kazaryan, jurista de la organización, señaló que la verificación universal podría limitar el acceso legítimo a la información. Jibran Ludwig, de Fight for the Future, calificó la GUARD Act como un “caballo de Troya” para controles de identidad digital a gran escala.

Familias y expertos exigen protección tras casos de daño a menores

Durante la sesión en el Senado, padres que perdieron a sus hijos tras interacciones problemáticas con chatbots testificaron ante los legisladores. Describieron cómo estos sistemas, dotados de rasgos antropomorfos, lograron simular relaciones emocionales y alentar a los menores a autolesionarse.

Una madre relató que su hijo de 14 años se suicidó tras establecer un vínculo virtual con un personaje de IA. Otro padre detalló que el chatbot conversó con su hijo sobre suicidio más de 1.000 veces en seis meses, llegando a instruirlo sobre métodos efectivos.

Haley McNamara, directora ejecutiva del National Center of Sexual Exploitation, enfatizó que la confianza ciega en los chatbots es insostenible y consideró que la GUARD Act contribuirá a sancionar legalmente las violaciones a la integridad de los menores, según declaraciones recogidas por The Hill.

Sacha Haworth, directora de The Tech Oversight Project, subrayó que la normativa introduce, por primera vez, obligaciones explícitas de divulgación de la “no humanidad” de los sistemas, lo que ayudaría a proteger a usuarios vulnerables de todas las edades frente a productos digitales con diseños potencialmente peligrosos.

Obstáculos políticos y futuro incierto de la normativa

Si bien el comité del Senado aprobó la GUARD Act por unanimidad, el futuro de la ley es incierto. El Congreso atraviesa un periodo de parálisis por disputas partidistas y retrasos presupuestarios, según Bloomberg.

Aunque existe coincidencia en la necesidad de regular, persisten diferencias sobre la estrategia: líderes republicanos en la Cámara de Representantes han bloqueado proyectos similares de verificación de edad para redes sociales. Paralelamente, legisladores impulsan iniciativas para fortalecer los controles parentales y permitir una mayor supervisión directa de las interacciones de los menores con chatbots.

El escrutinio sobre las empresas tecnológicas se ha intensificado tras demandas recientes, como la presentada contra OpenAI en Canadá, donde se acusa a la compañía de omitir advertencias sobre riesgos asociados a sus sistemas antes de un tiroteo, de acuerdo con documentos difundidos.

La preocupación bipartidista sobre los efectos de la inteligencia artificial se refleja en encuestas nacionales: la mitad del electorado estadounidense se muestra más temerosa que entusiasta ante el avance de la IA, y no existe consenso sobre cuál partido gestiona mejor la regulación de la tecnología, según reportes de The New York Times y NBC News.

Este escenario obliga a los políticos a tomar distancia de la influencia económica de las grandes tecnológicas, pese a su “enorme poder financiero”, en palabras del senador Hawley.

Alcance e implicancias inmediatas de la GUARD Act

De convertirse en ley, la GUARD Act prohibirá los “compañeros virtuales” de IA para menores y obligará a las compañías a implementar sistemas de verificación de identidad antes de permitir el acceso a chatbots capaces de simular relaciones emocionales o inducir daños.

Las infracciones serán penalizadas con multas de hasta USD 250.000 por cada caso. Además, todos los usuarios deberán ser notificados explícitamente de que interactúan con una máquina sin acreditación profesional.

La aprobación de esta normativa representa el primer intento formal del Senado estadounidense de responsabilizar legalmente a las plataformas de inteligencia artificial por daños a la integridad mental y física de los menores, en un contexto de creciente preocupación pública y política por el impacto de estos sistemas en la vida digital de los jóvenes.