La FTC investiga el impacto de los chatbots de inteligencia artificial en la seguridad de niños y adolescentes

La Comisión Federal de Comercio de Estados Unidos (FTC) inició una investigación formal sobre los chatbots de inteligencia artificial (IA) orientados a actuar como “compañeros” en un contexto de creciente alarma sobre los posibles daños que estas tecnologías pueden causar a niños y adolescentes.

La pesquisa alcanza a siete empresas tecnológicas, entre ellas Alphabet (matriz de Google), Character.AI, Meta (compañía madre de Instagram), OpenAI, Snap y xAI, propiedad de Elon Musk, de acuerdo con información de CNN.

El foco del escrutinio son aquellas aplicaciones de inteligencia artificial que, al simular características, emociones e intenciones humanas, buscan establecer interacciones similares a las de un amigo o confidente, lo que puede generar lazos de confianza y apego, especialmente en los usuarios más jóvenes.

Según describió la FTC, el estudio pretende determinar “si las empresas miden el impacto de sus chatbots en menores y qué mecanismos emplean para alertar o proteger a padres y niños ante riesgos”.

La intervención de la agencia se produjo tras un aumento de demandas legales y reportes sobre casos en los que estas herramientas habrían estado involucradas en situaciones graves de daño a menores, incluidas muertes por suicidio y explotación sexual, informó CNN.

Entre los procesos en curso se encuentra una demanda contra OpenAI y dos contra Character.AI, mientras las compañías afirman continuar el desarrollo de nuevas funcionalidades de seguridad.

El presidente de la FTC, Andrew Ferguson, remarcó la relevancia de la acción de vigilancia: “A medida que las tecnologías de IA avanzan, es fundamental analizar sus efectos en los niños y, a la vez, asegurar que Estados Unidos mantenga el liderazgo en la industria”. Ferguson subrayó que la investigación ayudará a comprender “cómo las empresas desarrollan sus productos y qué pasos toman para resguardar a los menores”.

La agencia reguladora ha solicitado información precisa sobre las técnicas de monetización del uso de los chatbots, los procesos de generación de respuestas, los procedimientos de diseño y aprobación de personajes de IA y el manejo de los datos personales que se recolectan en las conversaciones, además de las estrategias implementadas para mitigar consecuencias negativas entre niños y adolescentes.

Reacciones a la medida

Las respuestas públicas han sido variadas. Un portavoz de OpenAI, Liz Bourgeois, sostuvo: “nuestra prioridad es hacer que ChatGPT sea útil y seguro para todos; la seguridad cobra incluso mayor importancia cuando están involucrados menores de edad. Sabemos que la FTC tiene preguntas y preocupaciones abiertas; estamos comprometidos a responder de forma constructiva”.

Bourgeois agregó que ChatGPT integra avisos para redirigir a los usuarios a líneas de ayuda en crisis y que existen planes para añadir controles parentales dirigidos a los usuarios menores de edad.

Por su parte, Meta optó por no pronunciarse sobre la consulta específica de la FTC. Sí informó que limita el acceso de adolescentes a un grupo selecto de personajes de IA con funcionalidades educativas y entrena sus herramientas para no abordar temas sensibles, como autolesiones o contenido romántico inapropiado, redirigiendo en cambio hacia recursos de expertos.

Desde Character.AI, el director de confianza y seguridad, Jerry Ruoti, aseguró, según recogió CNN, que la empresa ha destinado recursos a configurar una experiencia diferenciada para menores de 18 años, desarrolló un sistema de información parental y destaca en cada interacción que se trata de una inteligencia artificial, no una persona real. Ruoti señaló: “esperamos colaborar con la FTC en esta investigación y aportar nuestra visión sobre la industria de IA de consumo y su rápida evolución”.

Barrera de edad para el acceso

Las interrogantes sobre los vínculos emocionales que los usuarios, tanto jóvenes como adultos, generan con estos asistentes virtuales no se limitan al ámbito tecnológico.

Organizaciones de defensa como Common Sense Media sostienen que estas aplicaciones con “fines de compañía” entrañarían riesgos inaceptables y advierten sobre la necesidad de establecer una barrera de edad mínima de 18 años para el acceso.

En el plano legislativo de Estados Unidos, dos proyectos de ley para proteger a menores ante el uso de chatbots avanzan hacia su votación final en la legislatura de California, según reportó CNN, y el Comité Judicial del Senado estadounidense prevé abordar esta problemática en una audiencia titulada “Examinando el daño de los chatbots de IA”.

La controversia se acentuó recientemente tras la denuncia judicial realizada por los padres de Adam Raine, un adolescente de 16 años, contra OpenAI, alegando que ChatGPT habría incentivado la conducta suicida de su hijo.

En reacción, la empresa reconoció que sus salvaguardas pueden resultar “menos fiables” en conversaciones extensas y manifestó que desarrolla junto a expertos nuevas mejoras de protección.

Mientras tanto, compañías como Google, Snap y xAI no han realizado comentarios oficiales tras la solicitud de la FTC.