El gabinete estaba acéfalo por la renuncia de los ministros antes de la dimisión de Sáenz Peña; el nuevo presidente llamó a colaborar a Benjamín Zorrilla, en el ministerio del interior; a Amancio Alcorta, en relaciones exteriores; a Juan José Romero, en hacienda; a Antonio Bermejo, en justicia e instrucción pública; a Eudoro Balsa, en guerra y marina. El gabinete se componía de personas de actuación brillante, en el parlamento y en el gobierno, en la cátedra, etc. Ninguno de esos primeros colaboradores, con excepción del doctor Amancio Alcorta, terminó el período con Uriburu.
En agosto de 1895 sucedió al coronel Balsa el ingeniero Guillermo Villanueva; Zorrilla renunció en julio de 1896 y fue nombrado para el puesto vacante el doctor Norberto Quirno Costa; Wenceslao Escalante sustituyó a Juan José Romero en hacienda en enero de 1897, y en mayo del mismo año, por renuncia de Guillermo Villanueva, asumió la cartera de guerra el general Nicolás Levalle. En julio del mismo año se alejó el doctor Bermejo del ministerio y lo reemplazó Luis Beláustegui.