El proyecto de ley SB 1047, conocida como la Ley de Innovación Segura y Protegida para Modelos de Inteligencia Artificial de Frontera de California, diseñado por el senador estatal Scott Wiener del partido demócrata, ha generado controversia en la industria tecnológica de la ciudad. La legislación busca proteger a los californianos frente a posibles catástrofes derivadas de la inteligencia artificial (IA).
La legislación, que todavía debe ser aprobada tanto por la Asamblea estatal como por el Senado antes de convertirse en ley, ha sido objeto de fuertes críticas y apoyo. Entre sus defensores se encuentran destacados expertos en IA como Geoffrey Hinton, quien declaró al periódico estadounidense, Los Angeles Times, que la ley “protegerá al público”. Por otro lado, opositores como Meta han expresado sus preocupaciones. Kevin McKinley, gerente de políticas estatales de Meta, afirmó que aunque “comparten los objetivos del proyecto de ley, temen que perjudique la innovación en California“.
El medio de tecnología, TechCrunch, destacó las modificaciones significativas que sufrió para aplacar las críticas. Uno de los cambios más destacados es la eliminación de la pena por perjurio y la creación de una nueva entidad gubernamental, inicialmente prevista como la División de Modelos Fronterizos. Ahora, los desarrolladores deberán enviar sus medidas de seguridad directamente al fiscal general.
“Enmiendas recientes parecen ser más sobre apariencia que sustancia”, dijo Russell Wald de la Universidad de Stanford, sugiriendo que los cambios no afectan al proyecto central como tal.
Qué es el proyecto de ley SB 1047
La ley busca establecer regulaciones para los grandes modelos de inteligencia artificial (IA) desarrollados en el estado. Su objetivo principal es prevenir que estos poderosos sistemas de IA causen daños críticos, como ciberataques que provoquen pérdidas millonarias o el desarrollo de armas letales.
Las principales medidas que plantea son:
- Obligar a las empresas que desarrollan grandes modelos de IA (que cuestan más de USD100 millones en entrenar) a implementar protocolos de seguridad para evitar usos indebidos.
- Exigir que estos sistemas tengan un “botón de apagado de emergencia” que permita desactivarlos por completo si se salen de control.
- Prohibir la distribución de modelos de IA que puedan causar “daños críticos” según los define la ley.
- Requerir auditorías externas anuales para verificar el cumplimiento de los protocolos de seguridad.
- Crear un consejo supervisor de estos modelos avanzados de IA dentro de una nueva agencia estatal.
- Permitir multas millonarias a las empresas que infringen la ley.
El proyecto de ley SB 1047 pretende evitar “daños críticos” por el mal uso de grandes modelos de IA, como la creación de armas o ciberataques que causan pérdidas significativas. Estos daños podrían incluir “el uso por parte de un actor maligno de un modelo de IA para crear un arma que cause muchas víctimas” o ciberataques que generen más de 500 millones de dólares en daños.
Aunque el proyecto ha sido criticado por su enfoque en escenarios distópicos, también tiene su cuota de apoyo. Dan Hendrycks, del Centro para la Seguridad de la IA, declaró a TechCrunch que estas salvaguardas son necesarias para evitar incidentes graves que podrían obstaculizar futuros avances en la industria.
A pesar de estos apoyos, una carta firmada por ocho miembros de la Cámara de Representantes de California instó al gobernador Gavin Newsom a vetar el proyecto si llega a su escritorio. Argumentan que este proyecto de ley podría frenar la innovación tecnológica y emprendedora en el estado.
Algunas voces prominentes, como Andrew Ng de Stanford, han señalado que la ley es “un ataque al código abierto”. Un artículo de la revista de negocios estadounidenses, Fortune, también destacó la opinión de Fei-Fei Li, quien argumentó que la ley perjudicaría el ecosistema naciente de IA en California.
Mientras tanto, el senador Wiener sostiene que, aunque la ley ha recibido cambios importantes, sigue siendo una medida crucial para adelantarse a posibles daños tecnológicos. El senador dijo que “no debemos esperar a que suceda algo malo. Simplemente, adelantémonos a ello”.
La industria tecnológica observan de cerca cómo se desarrollarán los eventos. Si se aprueba, la ley podría establecer un marco regulador que obligue a las empresas a implementar protocolos de seguridad y contar con auditorías externas anuales para evaluar sus prácticas.
El equilibrio entre regulación e innovación sigue siendo un tema importante. Buffy Wicks, Miembro de la Asamblea Estatal de California, afirmó tras la reunión del comité: “El objetivo es lograr una regulación que brinde protecciones, pero sin frenar la innovación ni el desarrollo económico impulsado por la inteligencia artificial”.
Últimas Noticias
Se revelaron las identidades de los dos estudiantes muertos durante el tiroteo en Brown University
El tirador sigue sin ser identificado y la policía solicita colaboración ciudadana para obtener grabaciones que ayuden a esclarecer los hechos ocurridos en el campus universitario
Mientras la ONU prepara una misión de seguridad apoyada por Estados Unidos, las bandas en Haití multiplican sus operaciones de narcotráfico y piratería
Un exhaustivo informe de Crisis Group alerta sobre las dificultades que enfrentará las Naciones Unidas para derrotar a las pandillas que ejercen el control de la isla caribeña
Estados Unidos y Canadá emiten advertencia de viaje para Sudáfrica por delitos violentos, terrorismo y secuestros
El Departamento de Estado recomendó a los viajeros adoptar medidas adicionales de protección, especialmente en zonas urbanas y durante la noche
Elon Musk se convirtió en la primera persona en la historia en alcanzar un patrimonio de 600 mil millones de dólares
Impulsado por la nueva valuación de SpaceX, el empresario estadounidense rompe un récord histórico y refuerza su liderazgo como el multimillonario más rico del planeta
Nick Reiner, hijo del cineasta Rob Reiner, había hablado abiertamente sobre su adicción a las drogas
Nick, de 32 años, había mantenido en los últimos años una postura abierta respecto a sus problemas de adicción y periodos de personas sin hogar, asuntos que exploró públicamente en entrevistas
