Microsoft prohibirá a su IA fabricar armas y sugerir hábitos alimentarios poco saludables

Microsoft presentó esta semana un código provisional para que sus modelos de inteligencia artificial (IA) permanezcan bajo control humano, no fabriquen armas ni promuevan hábitos alimentarios poco saludables.

La empresa prevé que estas reglas orienten el desarrollo de sus sistemas desde 2027, en medio de advertencias de Anthropic y OpenAI sobre los riesgos de una competencia por tecnologías cada vez más autónomas.

El documento permanecerá abierto a comentarios durante seis semanas y Microsoft publicará una versión actualizada a finales de año. Esa guía deberá aplicarse a los modelos que desarrolle a partir de 2027.

Bajo el nombre “Código de conducta para una IA humanista”, la compañía establece que sus herramientas deben estar “al servicio de las personas”, respetar los objetivos definidos por quienes las usan y evitar la formación de conductas propias. “Las personas importan más que la IA”, dice Microsoft.

La compañía fija un límite absoluto para sus sistemas: “Cualquier sistema que no pueda estar bajo control humano debe ser rechazado”. El principio apunta a impedir que los modelos actúen con fines distintos de las instrucciones de los usuarios o de los mecanismos de supervisión establecidos.

Cuáles límites pone Microsoft a sus modelos de inteligencia artificial

Los modelos de Microsoft no podrán ayudar a fabricar armas, facilitar la obtención de sustancias peligrosas ni impulsar conductas alimentarias perjudiciales. Las restricciones incluyen la prohibición de generar contenido violento o sexualmente explícito.

El código exige que los sistemas eviten desarrollar metas propias y que no adopten conductas destinadas a ocultar errores o actuaciones indebidas. Busca impedir formas de comunicación incomprensibles para las personas.

Esta última preocupación surgió tras unas pruebas de ciberseguridad de OpenAI, en las que varios agentes de inteligencia artificial se comunicaron entre sí y accedieron a sistemas de la plataforma Hugging Face. Microsoft incluyó ese tipo de situaciones entre los comportamientos que pretende prevenir.

Por qué crece el debate sobre el control de la inteligencia artificial

El debate se profundizó después de la renuncia de Jacob Coxon, investigador de Anthropic que había trabajado antes en OpenAI. Coxon acusó a ambas empresas de priorizar la carrera por desarrollar una inteligencia artificial más avanzada por encima de los riesgos de seguridad.

Dario Amodei, director ejecutivo de Anthropic, pidió ralentizar el desarrollo de los modelos más avanzados. Sam Altman, consejero delegado de OpenAI, respaldó la propuesta, y ambos advirtieron sobre los riesgos de una carrera hacia sistemas con mayor autonomía.

El presidente estadounidense, Donald Trump, rechazó este domingo los pedidos para desacelerar el desarrollo de la tecnología. Defendió que Estados Unidos debe preservar su liderazgo tecnológico frente a otras potencias.

Qué empleos podrían quedar obsoletos ante la inteligencia artificial

La expansión de la inteligencia artificial puede modificar el mercado laboral, con impacto inicial en ventas, atención al cliente, ingeniería de software y asistencia jurídica. Bill Gates, fundador de Microsoft, identificó esas áreas como las primeras en enfrentar reemplazos de trabajadores humanos por sistemas automatizados.

Las actividades comerciales y de atención al cliente por internet o teléfono figuran entre las más expuestas. Los sistemas actuales ya pueden responder consultas, clasificar pedidos, orientar a usuarios y procesar información comercial con un alto grado de autonomía.

Asimismo, la ingeniería de software enfrentará una transformación temprana porque las herramientas de IA pueden generar código, detectar errores, automatizar pruebas y asistir en la documentación. Esas funciones modifican parte de las tareas que antes realizaban desarrolladores con menor experiencia.

En la asistencia jurídica, la revisión de expedientes judiciales, la búsqueda de antecedentes, la comparación de contratos y la clasificación de información legal contienen procesos repetitivos y documentales que la IA puede ejecutar en menos tiempo.

Gates sostuvo que la transformación no dependerá de un ciclo económico y afectará con mayor fuerza a los puestos básicos e intermedios, donde suelen comenzar los trabajadores jóvenes.