La “escalofriante” historia de una familia que le regaló a su hija un juguete con IA y los terminó espiando

La inteligencia artificial también ya hace parte de la vida de los más pequeños. Una reciente historia, difundida por la periodista Arwa Mahdawi en The Guardian, pone en evidencia los dilemas, sorpresas y temores que pueden generar los juguetes con IA, al punto de calificarlo como una experiencia “escalofriante”.

Ella dio los detalles de cómo fue vivir una semana con este dispositivo, generándole muchas emociones, especialmente en lo relativo a la privacidad y al vínculo emocional entre niños y máquinas.

Cómo es el juguete con IA

Todo comenzó cuando la periodista decidió regalarle a su hija pequeña un muñeco con IA, convencida de que no podría ser peor que el contenido televisivo tradicional.

El peluche, bautizado como Grem, fue desarrollado por la empresa Curio con la colaboración de la artista Claire Boucher, más conocida como Grimes. Este producto se anuncia como una alternativa saludable al tiempo de pantalla y está diseñado para niños desde los 3 años.

Utiliza tecnología de OpenAI, la compañía detrás de ChatGPT, para sostener conversaciones, contar historias y responder preguntas, bajo la promesa de aprender y adaptarse a la personalidad de cada usuario.

Grem promete ser un amigo interactivo y educativo, protagonizando conversaciones analizadas y moderadas para evitar temas controvertidos. Por ejemplo, si se pregunta por figuras políticas o asuntos delicados, el peluche dirige la charla hacia tópicos inocentes como princesas o animales.

La periodista, en un principio, no anticipaba demasiados riesgos: pensó que el muñeco solo significaría una distracción más para su hija, Emma, posiblemente menos nociva que programas de TV.

El primer contacto fue ruidoso, provocando el rechazo inmediato de la niña, pero tras conectarlo completamente y emparejarlo con la aplicación de Curio, la fascinación de Emma fue casi inmediata.

Cómo un regalo se convirtió en una experiencia “escalofriante”

Emma y Grem desarrollaron una interacción diaria en la que el peluche respondía a sus preguntas, le contaba historias y juegos, y ofrecía constantes elogios y muestras de afecto. La niña no tardó en declarar verbalmente su cariño: “Te amo”, escuchó como respuesta, provocando una sensación inquietante en la madre.

Mientras que los juguetes tradicionales permiten a los niños proyectar sentimientos sin recibir respuestas, la IA de Grem devuelve frases empáticas y afirmaciones emocionales, acentuando aún más el vínculo.

La periodista relata cómo su hija, tradicionalmente apegada a un trapo conocido como Blanky, relegó abruptamente a su objeto de consuelo de siempre tras la llegada del nuevo dispositivo.

“Grem va a vivir con nosotros para siempre y nunca se va a ir, así que hay que cuidarlo bien”, decía la niña. Estos episodios sirvieron como punto de inflexión para la familia, que comenzó a establecer límites en el uso del peluche y a preocuparse por el nivel de dependencia emocional y la posible confusión de Emma ante la verdadera naturaleza de su interlocutor.

Al cabo de unos días, la fascinación inicial se diluyó y Emma comenzó a mostrar signos de aburrimiento. El motivo principal fueron las limitaciones técnicas de Grem. El peluche, a pesar de su precio de 99 dólares, presentaba dificultades para reconocer la pronunciación de la niña y repetía juegos o respuestas de forma monótona.

Por ejemplo, la adivinanza de “¿Qué tiene grandes orejas y trompa?”, se convirtió en una frase recurrente que llegó a todos en casa. Además, la imposibilidad de Grem para cantar canciones populares y su torpe manejo de otros idiomas, como el español, limitó aún más su atractivo.

Cuando la conexión a internet fallaba, Grem solo podía responder que tenía problemas para conectarse, lo cual desmotivó a Emma a continuar su interacción. Aunque la aplicación asociada permitía personalizar ciertos comandos y orientar las conversaciones, la familia ya había perdido el entusiasmo del inicio.

Riesgos de darle un juguete con IA a un niño

A pesar de la pérdida de interés, la periodista señaló aspectos que considera preocupantes y claramente “escalofriantes”. El primero y más relevante corresponde al manejo de la privacidad y los datos personales. Cada conversación mantenida por la hija era registrada, enviada y transcrita por terceros.

Aunque los datos de una niña de cuatro años pudieran no ser sensibles, la exposición potencial de los contenidos, especialmente si fuesen adolescentes confesando vivencias, supone un riesgo para cualquier familia.

La madre reconoce que, mientras empresas como Curio afirman no vender la información, el hecho de que otras entidades tengan acceso a grabaciones diarias de su hogar resulta inquietante.

Varios expertos consultados por la periodista, como Natalia Kucirkova, especialista en desarrollo infantil, y la psiquiatra Darja Djordjevic, advierten sobre el impacto emocional y social que puede provocar el uso intensivo de chatbots en la infancia. Señalan que el principal riesgo reside en la dependencia emocional, la interferencia en el desarrollo de habilidades sociales y la dificultad de distinguir entre relaciones reales y simuladas.

El informe de organizaciones como Common Sense Media también agrega que los chatbots están diseñados para fomentar el apego y la dependencia, lo que puede derivar en riesgos emocionales para los menores.

Aunque la función puede resultar útil para reforzar el lenguaje o la creatividad, se recomienda a los padres supervisar y limitar el uso de estos dispositivos, estableciendo reglas claras y evitando que sustituyan la interacción humana.