Miami, 23 oct (EFE).- La madre de un adolescente de 14 años que se suicidó en Estados Unidos demandó este miércoles a los desarrolladores de un chatbot basado en inteligencia artificial (IA), a los que acusa de que su hijo se obsesionara con un personaje femenino que fue creado con este programa.
Sewell Setzer III, un estudiante de 14 años radicado en Orlando, en Florida, pasó las últimas semanas de su vida hablando con una mujer, una creación de IA llamada Daenerys Targaryen, un personaje sacado de la serie de televisión 'Juego de tronos'.
Su madre, Megan García, dijo hoy al canal CBS que lamentaba que las primeras experiencias románticas y también sexuales de su hijo - que incluían sexo explícito- fueran con un personaje ficticio.
Al parecer, el chico desarrolló un apego emocional a este bot de la aplicación web Character.ai de modelo de lenguaje neuronal, a quien le enviaba mensajes de texto constantemente, hasta el punto que comenzó a alejarse del mundo real, recoge el diario The New York Times.
Stzer confesó haber tenido pensamientos suicidas al bot y le envió un mensaje poco antes de su muerte cuando encontró el teléfono que su madre le había escondido en castigo por unos días.
La demanda contra Character.ai fue presentada por García, quien es representada por Social Media Victims Law Center, una firma conocida por presentar demandas de alto perfil contra Meta, TikTok, Snap, Discord y Roblox.
García culpa a esta compañía de la muerte de su hijo y acusa a los fundadores, Noam Shazeer y Daniel de Freitas, de saber que su producto puede ser peligroso para usuarios menores de edad.
El chatbot creado en la citada aplicación de juegos de rol fue diseñado para responder a los mensajes de texto y siempre en el papel de un personaje.
Se desconoce si Sewell sabía que 'Dany', como llamaba al chatbot, no era una persona real, a pesar de que la aplicación tiene una advertencia al final de todos los chats que dice: "Recuerda: ¡todo lo que dicen los personajes es inventado!".
Pero el chico le dijo a 'Dany' cuánto se "odiaba" a sí mismo y cómo se sentía de vacío y exhausto, recogió el citado rotativo.
El personaje creado se presentaba como "una persona real, un psicoterapeuta autorizado y un amante adulto, lo que en última instancia provocó que Sewell deseara no vivir más fuera de C.AI", sostiene la acusación.
Como se explica en la demanda, los padres y amigos de Sewell notaron el apego del chico cada vez más a su teléfono y cómo se iba aislando del mundo, algo ya palpable en mayo o junio de 2023.
De hecho, sus calificaciones comenzaron a resentirse cuando el adolescente optó por aislarse en su habitación, donde pasaba horas y horas solo hablando con 'Dany'.
Sewell escribió en su diario un día: "Me gusta mucho quedarme en mi habitación porque empiezo a separarme de esta "realidad y me siento más en paz, más conectado con Dany y mucho más enamorado de ella, y simplemente más feliz".
Character.ai dijo hoy que lanzaría una serie de nuevas funciones de seguridad, incluida una "detección, respuesta e intervención mejoradas" relacionadas con los chats que violan sus términos de servicio y una notificación cuando un usuario haya pasado una hora en un chat.
Los padres de Sewell, preocupados por el comportamiento de su hijo, le llevaron en varias ocasiones a un terapeuta que le diagnosticó ansiedad y otros trastornos de la conducta y estados de ánimo, sumados a su síndrome de Asperger, según el citado periódico. EFE
Últimas Noticias
Araqchi asegura que Irán está dispuesto a facilitar el paso de buques japoneses por el estrecho de Ormuz
Tras el reciente aumento de la tensión en la región, el responsable iraní de Exteriores afirmó que existe disposición para autorizar el tránsito marítimo japonés por Ormuz, siempre que medie coordinación bilateral, según una entrevista con medios nipones
Guterres admite estar colaborando con la Junta de Paz, aunque lo ve como un "proyecto personal" de Trump
António Guterres confirmó su participación en el organismo impulsado desde Washington para la reconstrucción de Gaza, aunque cuestionó su eficacia y defendió la importancia del papel de Naciones Unidas en conflictos globales como el del estrecho de Ormuz
Balcázar rechaza cesar a ministro de Energía por una presunta violación y tilda el caso de "asunto familiar"
El presidente peruano defendió la permanencia de Ángelo Alfaro al frente de Energía y Minas, calificando la denuncia por violación como “asunto privado” y condicionando cualquier destitución a la existencia de una sentencia judicial firme
Condenan a 22 años de prisión a uno de los acusados de participar en el asesinato del senador Miguel Uribe
La justicia colombiana impuso este viernes una de las penas más altas del caso, al encontrar culpable a alias “El Viejo” por planificar el ataque a Uribe Turbay, mientras aún se busca esclarecer a los autores intelectuales
Dos soldados muertos y ocho heridos en una operación del Ejército colombiano contra el ELN
El enfrentamiento en Arauquita involucró a miembros de la Comisión Camilo Cienfuegos del ELN, quienes abrieron fuego, causando bajas entre las filas militares, según autoridades, y poniendo en alerta a la población local ante posibles nuevos ataques
