Nació en Buenos Aires el 4 de junio de 1754. Cursó sus estudios en España. En 1773, a su regreso a Buenos Aires que por entonces pertenecía al Virreinato del Perú, se incorporó al ejército como subteniente de artillería.
En 1777, Azcuénaga fue nombrado regidor del Cabildo de Buenos Aires. En 1802 alcanzó el grado de coronel y fue designado comandante del Batallón de Voluntarios de Infantería de Buenos Aires. En 1806 y 1807 tuvo un papel activo en las dos Invasiones inglesas.
En 1810 participó en la Revolución de Mayo, siendo elegido vocal de la Primera Junta el 25 de mayo. A raíz de la revolución del 5 y 6 de abril de 1811 fue desterrado a la provincia de San Juan.
El 13 de enero de 1812 el Primer Triunvirato lo nombró por primer Gobernador intendente de la Intendencia de Buenos Aires, luego de la Revolución de Mayo.
En 1818 fue nombrado Jefe de Estado Mayor y en 1819 participó en el Congreso.En 1828 representó a la Argentina en las negociaciones que siguieron a la Guerra del Brasil.
Al año siguiente fue expulsado de Buenos Aires por orden del general unitario Juan Lavalle. Murió el 19 de diciembre de 1833