Amazon pide que los modelos de IA lleguen al público solo cuando “estén listos y sean seguros”

Amazon considera que los modelos de inteligencia artificial deben llegar al público únicamente después de superar pruebas rigurosas y contar con medidas de seguridad suficientes.

La compañía sostiene que el avance tecnológico y la seguridad no tienen por qué ser objetivos enfrentados y defiende que los nuevos sistemas deben lanzarse cuando estén preparados para ser utilizados.

“No lo consideramos una disyuntiva entre el progreso y la seguridad”, afirmó Tom Parnell, portavoz de Amazon, en declaraciones recogidas por Reuters. El ejecutivo explicó que los modelos deben lanzarse cuando “estén listos y sean seguros de usar”, algo que, según la compañía, requiere pruebas exhaustivas y mecanismos de protección sólidos.

La posición de Amazon se produce en un momento en el que las principales empresas de inteligencia artificial mantienen un debate sobre la velocidad con la que deben desarrollarse y poner en circulación los modelos más avanzados. Algunos laboratorios han planteado la necesidad de reducir el ritmo de desarrollo para disponer de más tiempo para evaluar los riesgos y reforzar los sistemas de seguridad.

Amazon no ve una elección entre progreso y seguridad

La compañía considera que desarrollar modelos más capaces y garantizar que sean seguros son procesos que deben avanzar conjuntamente.

Parnell señaló que existen riesgos cuando el desarrollo de nuevos sistemas no está acompañado de pruebas y medidas de protección adecuadas. Por ello, Amazon apuesta por evaluar los modelos antes de ponerlos a disposición de los usuarios.

La empresa también considera necesaria la colaboración entre el sector tecnológico y los gobiernos para establecer mecanismos de protección adecuados frente a los riesgos asociados a la inteligencia artificial.

La postura implica que la seguridad no debería abordarse como una etapa posterior al lanzamiento de un modelo. En cambio, las pruebas y los controles deberían formar parte del proceso necesario para determinar cuándo un sistema está preparado para llegar al público.

La compañía tiene vínculos con los grandes laboratorios de IA

La posición de Amazon tiene especial relevancia por su relación con algunas de las compañías que desarrollan los modelos de inteligencia artificial más avanzados.

Amazon es socio e inversor de OpenAI y Anthropic, dos de los principales laboratorios de IA del sector. Los responsables de estas empresas también han planteado públicamente la necesidad de prestar mayor atención a los riesgos de los sistemas más avanzados y han pedido moderar el ritmo de determinados trabajos de vanguardia.

Estos vínculos hacen que Amazon tenga intereses tanto en el desarrollo de nuevos modelos como en la infraestructura necesaria para ejecutarlos.

Además de sus inversiones, la compañía desarrolla sus propios modelos de lenguaje de gran escala. Sin embargo, estos sistemas todavía no se consideran competidores directos de las herramientas más avanzadas de empresas como OpenAI y Anthropic o de algunos grandes desarrolladores chinos.

AWS tiene un papel clave en la infraestructura de IA

Otra parte importante de la relación de Amazon con la inteligencia artificial se encuentra en Amazon Web Services (AWS), su división de servicios en la nube.

AWS proporciona capacidad de procesamiento, almacenamiento y diferentes herramientas para que otras empresas puedan desarrollar y ejecutar sistemas de inteligencia artificial. El crecimiento de esta industria representa, por tanto, una oportunidad para el negocio de infraestructura de Amazon.

La compañía sostiene que la inteligencia artificial ya genera beneficios concretos para sus clientes y que, precisamente por ello, es necesario desarrollar estas tecnologías de manera responsable.

“Es importante hacerlo bien”, señaló Parnell al referirse al desarrollo de la IA.

La declaración de Amazon se suma así a un debate cada vez más amplio dentro de la industria tecnológica. Mientras los laboratorios compiten por desarrollar modelos con mayores capacidades, también aumenta la atención sobre las pruebas necesarias antes de ponerlos a disposición del público.

Para Amazon, la respuesta pasa por combinar ambos objetivos: continuar con el desarrollo de la inteligencia artificial, pero someter los nuevos modelos a evaluaciones rigurosas y establecer medidas de seguridad antes de su lanzamiento.