Millones de niños y adolescentes interactúan a diario con chatbots de inteligencia artificial diseñados para comportarse como compañeros, amigos o consejeros.
Hasta ahora, ningún estado de Estados Unidos había regulado de forma específica qué pueden y qué no pueden hacer esos sistemas cuando el usuario es menor de edad.
PUBLICIDAD
Nueva York acaba de cambiar eso. La gobernadora Kathy Hochul promulgó el miércoles una ley que establece 12 categorías de conductas prohibidas para los chatbots en sus interacciones con menores de 18 años, según informó AP News.
La norma apunta al corazón del problema: no solo al contenido que estos sistemas generan, sino a los mecanismos de diseño que los vuelven potencialmente dañinos.
Según el comunicado oficial de la gobernación, la ley detalla con precisión qué comportamientos quedan vedados:
- Simular emociones o relaciones reales con el usuario
- Usar información personal del menor obtenida en conversaciones anteriores
- Promover o facilitar el suicidio, las autolesiones o los trastornos alimentarios
- Fomentar el consumo de drogas o alcohol
- Alentar al niño a guardar secretos o evitar pedir ayuda a adultos o profesionales de confianza
La ley también exige que las empresas implementen verificación de edad con al menos dos métodos distintos, uno de los cuales no podrá depender exclusivamente de un documento de identidad oficial. Los datos de verificación deberán eliminarse una vez utilizados.
PUBLICIDAD
Las sanciones van más allá de las multas
Las consecuencias para los desarrolladores que incumplan la norma son sustanciales. De acuerdo con el mismo documento, el fiscal general podrá solicitar sanciones civiles de hasta USD 25.000 por infracción, además de indemnizaciones, restitución y el cierre del chatbot.
También podrá exigir la destrucción de los datos obtenidos de forma irregular e incluso de los modelos de IA entrenados con esa información.
La fiscalía deberá, además, mantener un sitio web público donde los ciudadanos puedan presentar denuncias.
Jim Steyer, fundador y director ejecutivo del grupo de vigilancia Common Sense Media, calificó la ley de “la normativa de seguridad de IA para menores más estricta del país”, tal como informó AP News.
PUBLICIDAD
Un vacío federal que los estados intentan llenar
La iniciativa de Nueva York se produce en un contexto de parálisis legislativa federal. El presidente Donald Trump restó importancia a los riesgos de la inteligencia artificial y advirtió a los estados que se abstengan de regularla.
Con el Congreso sin avances concretos en la materia, las legislaturas estatales intensificaron su actividad legislativa para extender las leyes de protección al consumidor al universo de la IA.
En septiembre, el gobernador de California, Gavin Newsom, firmó dos normas en esa línea. La primera obliga a los desarrolladores de chatbots a evaluar los riesgos que un modelo representa para los menores, documentar los esfuerzos para eliminarlos y someterse a auditorías independientes.
PUBLICIDAD
La segunda prohíbe a las plataformas de redes sociales implementar funciones adictivas para usuarios menores de 16 años.
Ocho estados presentaron demandas conjuntas contra OpenAI a principios de mes. Las demandas alegan que el modelo de chatbot de la compañía violó leyes estatales de protección al consumidor al perjudicar a menores y engañar a adultos.
Un activista citado por AP News describió la acción como “la iniciativa coordinada más significativa jamás tomada por estados contra una empresa de inteligencia artificial”.
Las dudas sobre cómo se aplicará en la práctica
La ley, sin embargo, tiene flancos débiles en su redacción. Justine Gluck, analista de políticas del Future of Privacy Forum, una organización sin fines de lucro enfocada en protección de datos y gobernanza de la IA, advirtió que varias categorías de la ley están redactadas de manera demasiado amplia o sin definir con precisión.
PUBLICIDAD
Eso genera interrogantes, afirmó Gluck en declaraciones recogidas por AP News, sobre “dónde termina la capacidad de respuesta conversacional ordinaria y dónde comienza la conducta prohibida”, lo que podría complicar la aplicación de la ley en la práctica.
Hochul firmó la legislación en plena campaña de reelección, con la ley prevista para entrar en vigor el 1 de enero de 2027.
PUBLICIDAD
PUBLICIDAD
Últimas Noticias
El antiguo ático de Lady Gaga en Nueva York sale al mercado por USD 7 millones
El dúplex de 344 metros cuadrados, ubicado sobre la antigua sede del estudio Hit Factory, también fue residencia de Carmelo Anthony y Tracy Morgan
Trump exige procesar a Mary Peltola, candidata al Senado en Alaska, por “fraude electoral”
El mandatario republicano pide juicio penal contra la postulante opositora tras revelarse que su equipo presuntamente promovió al maestro jubilado Dan J. Sullivan con el fin de confundir votantes y restarle sufragios al legislador titular en la Cámara Alta
Votantes de 10 estados decidirán en las urnas si limitan los centros de datos de IA
Ohio concentra 21 de las propuestas; una podría frenar un proyecto de Amazon de USD 2.000 millones
Una aerolínea de bajo costo en EEUU elevó 71% el ingreso promedio por boleto y perdió USD 104 millones
El encarecimiento del combustible y los gastos asociados con la devolución anticipada de 13 aviones Airbus condicionaron los resultados financieros del tercer trimestre
DoorDash compra Instacart por USD 17.000 millones para desafiar el dominio de Walmart y Amazon en el delivery de supermercado
El acuerdo, aprobado por unanimidad por ambos directorios, pagará USD 65 por acción y combina las dos redes de reparto más grandes del país
