Creador de una prestigiosa familia de hacendados y potentado comerciante vasco, destacado miembro del Cabildo, destacada figura pública durante los acontecimientos de 1807 a 1812 en Buenos Aires. 
En 1785 llegó a ser miembro del Cabildo y fue alcalde diez años después.
En el Consulado (1799) fue el primer portavoz de las protestas de los comerciantes peninsulares contra la liberalización de las regulaciones comerciales exigidas por los hacendados criollos con el apoyo del virrey.
En 1806-1807 se unió a Liniers y a Pueyrredón en el rechazo de las invasiones inglesas, se convirtió en el héroe de la exitosa defensa porteña contra las tropas del general Whitelocke (5 de julio de 1807).
En 1808 como cabeza del Cabildo de Buenos Aires controló los acontecimientos sin mucha oposición hasta que Liniers recibió su designación como virrey.
Álzaga y el Cabildo se resintieron de las demandas de Liniers en el sentido de que los poderes virreinales debían serie devueltos y el Cabildo limitarse a cumplir sus propias funciones.
El alejamiento entre el grupo de Álzaga y Liniers se incrementó cuando los españoles comenzaron a sospechar de las actividades del francés Liniers en relación con los acontecimientos de España.
El desenlace en la lucha por el poder sobrevino en enero de 1809 cuando el Cabildo (probablemente por sugerencia de Álzaga) convocó a un cabildo abierto para forzar la renuncia del virrey y formar una junta de gobierno.
Liniers carecía de fuerzas para resistir pero, en un dramático movimiento de último momento, Cornelio Saavedra, comandante del regimiento de patricios, y otros oficiales criollos colocaron sus fuerzas militares y a la opinión pública detrás de Liniers.
La revolución se disolvió y Álzaga junto a otros líderes fue deportado a la Patagonia por un tiempo; la revolución dibujó claramente las líneas del conflicto por el poder entre los peninsulares y los criollos y produjo un modelo a partir del cual pudo ser acometida la exitosa revolución del 25 de mayo de 1810. 
En 1812 Álzaga, junto a su partido republicano (que bregaba por la independencia bajo control peninsular), estaba decidido a arrebatar el control del gobierno patrio de las manos del Primer Triunvirato criollo.
Contando con el hecho de que Buenos Aires estaba prácticamente desprovista de guarnición (las tropas habían sido enviadas al Ejército del Norte), de que la princesa Carlota había prometido el envío de hombres, armas y suministros del Brasil en su esperanza de ser coronada en el Plata y de que otros refuerzos eran esperados desde Montevideo, la "conspiración de Alzaga" (como fue conocida) estaba lista para la acción hacia el 10 de julio de 1812, con el éxito aparentemente asegurado. La revolución fue abortada; los cabecillas, incluido Alzaga, fueron capturados, juzgados y ejecutados y sus cuerpos exhibidos en la plaza de la Victoria durante tres días.