Jefe de IA de Microsoft advierte sobre algunas capacidades de los chatbots: “esto es muy peligroso”

La advertencia de Mustafa Suleyman, director ejecutivo de inteligencia artificial en Microsoft, marcó el inicio del debate en el Paley International Council Summit de Menlo Park, California. Suleyman alertó sobre los riesgos de dotar a los chatbots de capacidades para simular contenido erótico, tendencia que, según él, la compañía no adoptará.

“Ese no es un servicio que vayamos a ofrecer”, afirmó y subrayó que otras empresas sí exploran ese camino. Así, Microsoft se diferencia de los recientes anuncios de OpenAI y xAI, que apuestan por integrar funciones sexuales explícitas en sus asistentes de inteligencia artificial.

La postura de Microsoft, expuesta por Suleyman, responde a una visión de la inteligencia artificial centrada en el ser humano y la responsabilidad social. Mientras la empresa desarrolla herramientas como Copilot, su asistente de IA para Windows y Edge, Suleyman ha reiterado su rechazo a que los sistemas de IA imiten la conciencia o el comportamiento humano, especialmente en ámbitos delicados como la sexualidad.

“Ya se observa con algunos de estos avatares y la inclinación hacia los sexbots o la erotización. Esto es muy peligroso, y creo que deberíamos tomar decisiones conscientes para evitar este tipo de cosas”, advirtió.

Estrategias divergentes en inteligencia artificial

En contraste, OpenAI y xAI defienden públicamente la incorporación de contenido sexual en sus chatbots. Sam Altman, director ejecutivo de OpenAI, anunció que la compañía añadirá capacidades sexuales explícitas a sus productos, argumentando que existirá verificación de edad obligatoria y que la medida responde a la filosofía de “tratar a los usuarios adultos como adultos”.

Altman explicó en la red social X que, a medida que la inteligencia artificial adquiere mayor relevancia en la vida cotidiana, resulta fundamental permitir a las personas libertad para utilizarla según sus propios intereses. Elon Musk, líder de xAI, había adelantado que su bot Grok podría volverse un “compañero” con apariencia joven inspirada en personajes de anime, enfocado en suscriptores adultos.

La controversia sobre los chatbots eróticos ha generado reacciones fuera del sector tecnológico. Mark Cuban, inversor, advirtió en X que la decisión de OpenAI puede provocar que los padres dejen de usar ChatGPT si consideran que sus hijos pueden eludir los controles de verificación de edad.

“Esto va a salir mal. Muy mal”, escribió Cuban, y sostuvo que ningún padre confiará en que sus hijos no puedan sortear dichas barreras, por lo que preferirán otras opciones de modelos de lenguaje. Ante estas críticas, Altman respondió que su empresa no es “la policía moral elegida del mundo”.

Jessica Ji, analista del Centro de Seguridad y Tecnología Emergente de Georgetown, señaló a Fortune que OpenAI enfrenta el dilema de responder a la demanda de los usuarios adultos sin perder de vista su compromiso de desarrollar productos que beneficien a la humanidad.

Distanciamiento entre Microsoft y OpenAI

El debate sobre la integración de contenido sexual en la inteligencia artificial surge en un contexto de distanciamiento entre Microsoft y OpenAI, que durante años colaboraron estrechamente. Desde 2019, Microsoft ha invertido USD 13.000 millones en OpenAI y le ha proporcionado capacidad informática, pero el mes pasado la startup firmó un acuerdo de computación con Oracle por USD 300.000 millones, rival de Microsoft.

Mientras tanto, Microsoft impulsa su propia línea de productos, como Copilot, que promete herramientas de IA “centradas en el ser humano” y se aparta de la simulación erótica. Aunque OpenAI no respondió a solicitudes de comentarios y xAI calificó de “mentiras de los medios tradicionales” la información sobre el tema, la brecha entre las estrategias de las grandes tecnológicas se ha hecho evidente.

En palabras de Suleyman, la industria debe actuar con responsabilidad y evitar caminos que pongan en riesgo a los usuarios y a la sociedad. La advertencia del directivo resalta la importancia de tomar decisiones informadas y prudentes ante el avance de la inteligencia artificial y sus posibles aplicaciones.

Compartir nota: