El proyecto de ley SB 1047, conocida como la Ley de Innovación Segura y Protegida para Modelos de Inteligencia Artificial de Frontera de California, diseñado por el senador estatal Scott Wiener del partido demócrata, ha generado controversia en la industria tecnológica de la ciudad. La legislación busca proteger a los californianos frente a posibles catástrofes derivadas de la inteligencia artificial (IA).
La legislación, que todavía debe ser aprobada tanto por la Asamblea estatal como por el Senado antes de convertirse en ley, ha sido objeto de fuertes críticas y apoyo. Entre sus defensores se encuentran destacados expertos en IA como Geoffrey Hinton, quien declaró al periódico estadounidense, Los Angeles Times, que la ley “protegerá al público”. Por otro lado, opositores como Meta han expresado sus preocupaciones. Kevin McKinley, gerente de políticas estatales de Meta, afirmó que aunque “comparten los objetivos del proyecto de ley, temen que perjudique la innovación en California“.
El medio de tecnología, TechCrunch, destacó las modificaciones significativas que sufrió para aplacar las críticas. Uno de los cambios más destacados es la eliminación de la pena por perjurio y la creación de una nueva entidad gubernamental, inicialmente prevista como la División de Modelos Fronterizos. Ahora, los desarrolladores deberán enviar sus medidas de seguridad directamente al fiscal general.
“Enmiendas recientes parecen ser más sobre apariencia que sustancia”, dijo Russell Wald de la Universidad de Stanford, sugiriendo que los cambios no afectan al proyecto central como tal.
Qué es el proyecto de ley SB 1047
La ley busca establecer regulaciones para los grandes modelos de inteligencia artificial (IA) desarrollados en el estado. Su objetivo principal es prevenir que estos poderosos sistemas de IA causen daños críticos, como ciberataques que provoquen pérdidas millonarias o el desarrollo de armas letales.
Las principales medidas que plantea son:
- Obligar a las empresas que desarrollan grandes modelos de IA (que cuestan más de USD100 millones en entrenar) a implementar protocolos de seguridad para evitar usos indebidos.
- Exigir que estos sistemas tengan un “botón de apagado de emergencia” que permita desactivarlos por completo si se salen de control.
- Prohibir la distribución de modelos de IA que puedan causar “daños críticos” según los define la ley.
- Requerir auditorías externas anuales para verificar el cumplimiento de los protocolos de seguridad.
- Crear un consejo supervisor de estos modelos avanzados de IA dentro de una nueva agencia estatal.
- Permitir multas millonarias a las empresas que infringen la ley.
El proyecto de ley SB 1047 pretende evitar “daños críticos” por el mal uso de grandes modelos de IA, como la creación de armas o ciberataques que causan pérdidas significativas. Estos daños podrían incluir “el uso por parte de un actor maligno de un modelo de IA para crear un arma que cause muchas víctimas” o ciberataques que generen más de 500 millones de dólares en daños.
Aunque el proyecto ha sido criticado por su enfoque en escenarios distópicos, también tiene su cuota de apoyo. Dan Hendrycks, del Centro para la Seguridad de la IA, declaró a TechCrunch que estas salvaguardas son necesarias para evitar incidentes graves que podrían obstaculizar futuros avances en la industria.
A pesar de estos apoyos, una carta firmada por ocho miembros de la Cámara de Representantes de California instó al gobernador Gavin Newsom a vetar el proyecto si llega a su escritorio. Argumentan que este proyecto de ley podría frenar la innovación tecnológica y emprendedora en el estado.
Algunas voces prominentes, como Andrew Ng de Stanford, han señalado que la ley es “un ataque al código abierto”. Un artículo de la revista de negocios estadounidenses, Fortune, también destacó la opinión de Fei-Fei Li, quien argumentó que la ley perjudicaría el ecosistema naciente de IA en California.
Mientras tanto, el senador Wiener sostiene que, aunque la ley ha recibido cambios importantes, sigue siendo una medida crucial para adelantarse a posibles daños tecnológicos. El senador dijo que “no debemos esperar a que suceda algo malo. Simplemente, adelantémonos a ello”.
La industria tecnológica observan de cerca cómo se desarrollarán los eventos. Si se aprueba, la ley podría establecer un marco regulador que obligue a las empresas a implementar protocolos de seguridad y contar con auditorías externas anuales para evaluar sus prácticas.
El equilibrio entre regulación e innovación sigue siendo un tema importante. Buffy Wicks, Miembro de la Asamblea Estatal de California, afirmó tras la reunión del comité: “El objetivo es lograr una regulación que brinde protecciones, pero sin frenar la innovación ni el desarrollo económico impulsado por la inteligencia artificial”.
Últimas Noticias
Milagro en el choque del avión Air Canada Express y el camión de bomberos: así sobrevivió una de las azafatas
Un accidente en el aeropuerto de Nueva York dejó a una tripulante herida fuera de la aeronave y causó la muerte de los pilotos, mientras expertos atribuyen la supervivencia al uso de un arnés especial de seguridad
El senador Markwayne Mullin juró como nuevo secretario de Seguridad Nacional de Estados Unidos
La confirmación fue respaldada por el Senado con 54 votos a favor y 45 en contra
Nuevo hallazgo: la sangre de pitón impulsa estudio en Estados Unidos para tratamientos contra obesidad
Un equipo científico examinó un metabolito presente en reptiles, detectando que su administración en ratones logra disminuir el peso sin los efectos reportados por las terapias actuales dirigidas al control metabólico
El Departamento de Estado advierte a viajeros estadounidenses por posibles ataques globales y cierres de espacio aéreo
Las autoridades recomiendan máxima precaución y seguimiento de las embajadas, tras incidentes recientes que obligaron a evacuar a decenas de miles de ciudadanos y endurecieron los controles en aeropuertos
Así serán los nuevos asientos que presentó United Airlines para abril del 2026
La compañía estadounidense impulsa un cambio en la distribución de asientos que prioriza productos de alta gama, ampliando las prestaciones para aquellos que buscan mayor confort en vuelos nacionales e internacionales y desplazando la modalidad económica tradicional
