En California, Estados Unidos, se está avanzando en un proyecto de ley que busca implementar un control humano sobre los sistemas de inteligencia artificial.
El objetivo de la ley es mitigar el riesgo de que la IA se utilice para crear nuevas amenazas a la seguridad pública. Esto incluye la posibilidad de desarrollar armas de destrucción masiva, como armas biológicas, químicas y nucleares, así como armas con capacidades cibernéticas ofensivas.
El borrador de la “ley de innovación segura para modelos de inteligencia artificial de frontera” y presentado por el senador Scott Wiener, clasifica a la IA como una posible “amenaza persistente avanzada”.
Esta designación se refiere a adversarios altamente sofisticados que poseen recursos significativos y pueden utilizar diversos métodos de ataque, como cibernéticos, físicos y de engaño, para poner en peligro la seguridad.
Qué busca este proyecto de ley
El proyecto de ley propone requisitos para que los desarrolladores implementen protocolos de seguridad y la capacidad de apagar por completo los modelos si representan un riesgo crítico.
También se crea una nueva división dentro de la Agencia de Operaciones Gubernamentales, encargada de supervisar el cumplimiento y emitir orientaciones. Además, se establecen sanciones civiles y protecciones para los denunciantes.
El proyecto de ley SB 1047 propone varias sanciones para los desarrolladores de modelos de inteligencia artificial que no cumplan con sus disposiciones. Estas incluyen:
- Multas civiles: Hasta el 10% del costo de la potencia de cálculo utilizada para entrenar el modelo en la primera infracción, y hasta el 30% para infracciones posteriores.
- Acciones civiles: Se pueden imponer medidas como la eliminación del modelo y la suspensión de su uso si representa una amenaza.
- Daños monetarios y punitivos: Para personas afectadas por incumplimientos.
Además, se establecen protecciones para los empleados denunciantes y se prevé la posibilidad de intervención judicial para garantizar el cumplimiento de las normas.
Cabe señalar que un proyecto de ley es una propuesta formal de legislación que se presenta ante una entidad legislativa con el objetivo de convertirse en ley.
Aunque sugiere nuevas reglas o modificaciones, aún no es una ley en sí misma. El proyecto debe pasar por un proceso de revisión, debate y aprobación por parte de los legisladores. Solo después de este proceso, y si recibe el visto bueno final, el proyecto se convierte en ley y entra en vigor.
Cuál es el siguiente paso para este proyecto de ley
El proyecto de ley SB 1047 está ahora listo para ser votado por toda la Asamblea de California. Si recibe la aprobación allí, deberá regresar al Senado de California para otra votación. Si el proyecto es aprobado en ambas cámaras, se enviará al gobernador de California, Gavin Newsom, quien decidirá si lo firma y lo convierte en ley o si lo veta.
Apple, Google y más empresas se comprometen a crear IAs seguras
Apple, Amazon, Anthropic, Google, Inflection, Meta, Microsoft y OpenAI han firmado un compromiso voluntario para promover el desarrollo de modelos de inteligencia artificial seguros para la humanidad. Los puntos clave del acuerdo incluyen:
- Realizar evaluaciones internas y externas de los modelos y sistemas, abordando el uso indebido, los riesgos sociales y las preocupaciones de seguridad nacional, como la bioseguridad y la ciberseguridad.
- Prohibir la creación de modelos con la capacidad de autorreplicarse o hacer copias de sí mismos.
- Desarrollar mecanismos que permitan a los usuarios identificar si el contenido de audio o visual ha sido generado por IA.
- Informar públicamente sobre las capacidades de los modelos o sistemas.
Este acuerdo voluntario es parte de una orden ejecutiva emitida por el presidente de Estados Unidos, Joe Biden. El documento establece medidas para mitigar los riesgos de seguridad asociados con la inteligencia artificial, proteger la privacidad de los estadounidenses, promover la equidad y los derechos civiles, defender a los consumidores y trabajadores, y fomentar la innovación y la competencia.
Últimas Noticias
El 65% de los usuarios de apps de citas a nivel mundial teme ser víctima de una estafa romántica
A propósito del Día del Amor y la Amistad en Colombia, las estafas románticas encienden las alertas en plataformas digitales, donde el 31% de los usuarios ya fue contactado por perfiles falsos
Microsoft lanza parche de emergencia en Windows 11 para solucionar problemas de su última actualización
Las correcciones llegan solo seis días después de una actualización que había resuelto casi 1.000 vulnerabilidades
“No estamos preparados”: Bill Gates alerta sobre la velocidad de la IA y pide ralentizar su desarrollo
Uno de los argumentos centrales de Gates para justificar su postura tiene que ver con episodios de pérdida de control detectados durante el entrenamiento de algoritmos
Nuevas funciones de teléfonos Pixel de Google: desde acceso directo a contactos hasta alerta de estafa
La actualización también incluye una serie de correcciones de errores
James Rodríguez se despide de la selección Colombia: este es su documental en Netflix
La docuserie consta de tres capítulos y aborda la vida personal y trayectoria profesional del mediocampista colombiano
