Nació el 9 de septiembre de 1937 en la ciudad de Ejido, en el andino y noroccidental estado de Mérida, y se graduó como abogado en 1961, a los 24 años de edad. Durante los años sesenta y setenta, bajo el nombre clandestino de "Comandante Fausto", Rodríguez lideró diversos frentes guerrilleros como experto en explosivos del ilegal Partido de la Revolución Venezolana (PRV), de tendencia marxista.
Se alzó en armas contra los gobiernos surgidos del llamado "Pacto de Punto Fijo", que durante medio siglo permitió a socialdemócratas y democristianos alternarse en el poder. Fue perseguido por el entonces oficial del Ejército Hugo Chávez, quien así lo reconoció varias veces desde que es presidente.
Rodríguez abandonó la lucha armada en 1983 y pasó al partido Causa R, una agrupación disidente del Partido Comunista, donde se mostró como férreo crítico a la privatización del sector petrolero. De esa fuerza surgió Patria Para Todos (PPT), que apoyó el fallido intento de golpe de Estado de Chávez en 1992.
Ejerció la abogacía y paralelamente integró diversos grupos de estudio en economía petrolera, actividad que alternó con sus responsabilidades como legislador, entre 1983 y 1999. Presidió en esos años la Comisión de Energía y Minas del Congreso y fue miembro del Consejo Nacional de Energía, de la Comisión de Energía y Minas del Parlamento Latinoamericano, Asistió, entre 1994 y 1997, a las reuniones del Energy Council de los Estados Unidos.
En diciembre de 1998, como asesor del ya electo Chávez, el nuevo secretario de Unasur participó en Madrid en la reunión en la que Arabia Saudí, México y Venezuela acordaron reducir la producción de crudo para hacer subir el precio del barril, que por entonces rondaba los 10 dólares.
Al comenzar formalmente el gobierno bolivariano, en febrero de 1999, asumió como ministro de Energía y Minas. Dejó ese cargo en 2000, cuando fue elegido secretario general de la Organización de Países Exportadores de Petróleo (OPEP). Se mantuvo en el carg hasta junio de 2002, dos meses después del golpe de Estado que en abril de ese año se intentó orquestar contra Chávez.
En la OPEP defendió políticas que permitieron al cártel una mayor incidencia en el mercado petrolero mundial, con decisiones orientadas a impedir tanto el desplome como las subidas excesivas en los precios. En 2002 fue relevado en el cargo internacional por el también venezolano Álvaro Silva, ya que Chávez lo nombró presidente de la estatal Petróleos de Venezuela (PDVSA).
Al frente de la compañía, Rodríguez ejecutó la orden presidencial de despedir a quienes respaldaron el llamado "paro petrolero" que durante 63 días, entre diciembre de 2002 y febrero de 2003, presionó infructuosamente por la renuncia de Chávez. Casi la mitad de los 40 mil empleados de PDVSA fueron despedidos por paralizar la producción y exportación de crudo y derivados, acusados de participar de un sabotaje.
Rodríguez dejó la petrolera en noviembre de 2004, cuando Chávez lo designó ministro de Relaciones Exteriores. Desde la Cancillería, se concentró en garantizar a los Estados Unidos el suministro de petróleo venezolano y en minar el empeño de Washington por crear el Área de Libre Comercio de las Américas (ALCA).
Por el contrario, promovió el acuerdo de integración regional Alternativa Bolivariana para los Pueblos de América (ALBA) y consiguió que Venezuela fuera aceptado como miembro de pleno derecho del Mercado Común del Sur (Mercosur), algo que aún requiere la confirmación del Parlamento de Paraguay.
Por problemas de salud, Rodríguez dejó la Cancillería a inicios de 2006 y a mediados de ese año fue nombrado embajador en Cuba. En junio de 2008, regresó al gabinete ministerial de Chávez, entonces como titular del Ministerio de Finanzas. De allí pasó en 2010 al frente del Ministerio de Energía Eléctrica, donde enfrentó una aguda crisis energética iniciada en 2009 por una severa sequía.