Sarmiento no había tenido simpatías por la guerra del Paraguay y al hacerse cargo de la presidencia de la Nación la situación se había vuelto insostenible para el mariscal López, aunque la contienda se prolongó todavía un año.
Las provincias no entendían la razón de esa guerra de Buenos Aires y hubo quienes creyeron que Sarmiento alteraría la política nacional y retiraría el ejército de operaciones de su escenario de lucha.
Pero ya en los primeros días de su gobierno declaró que la guerra seguiría y juzgó la alianza como necesaria, legítima y honorable. Para él la continuación de la guerra se justificaba como lucha contra la barbarie; el mariscal López era como Rosas y el Chacho, representante de la barbarie, y había que libertar a los paraguayos de la esclavitud. Ofreció el comando del ejército de operaciones a Mitre en una entrevista cordial, y como éste no la aceptase, fue designado Gelly y Obes.
Sin embargo, no ignoraba que los intereses argentinos, una vez cumplidos los objetivos de la alianza, no eran los del Brasil, sobre cuyos avances territoriales quería estar alerta. El Brasil envió a Buenos Aires y a Asunción a un diplomático hábil, José María Silva Paranhos, barón de Rio Branco.
Sarmiento y su ministro Mariano Varela querían que se estableciese en Asunción un gobierno militar provisional, formado por paraguayos, pero con el cual no tratarían la paz los aliados, sino con el gobierno definitivo. Paranhos en cambio quería tratar la paz con el gobierno provisional,. y Mitre coincidía con su criterio.
Finalmente, Sarmiento y Varela aceptaron la constitución inmediata de un gobierno; siempre que eso no impidiese continuar la guerra hasta el fin.
Los aliados entraron en Asunción el 5 de enero de 1869, después de la rendición de Espinillo.
Continuó, pues, la guerra del Paraguay, aunque los contingentes militares argentinos nuevos no fueron posibles, a causa de la intranquilidad y la hostilidad de varias provincias; pero las tropas que actuaron en el frente de operaciones, cumplieron ampliamente con su deber en las batallas decisivas, como las de Itá Ibaté o Lomas Valentinas.
El presidente Sarmiento lo nombró comandante del ejército argentino en el Paraguay, participando en la Campaña de Pikysyry, aunque renunció por un fuerte altercado con el presidente poco antes del saqueo de Asunción.
Ya en el mensaje al Congreso, el 1º de mayo de 1869, pudo declarar el presidente que muy en breve se daría por definitivamente terminada la lucha iniciada en 1865.
Reselló Sarmiento en esa oportunidad la labor desarrollada en los primeros meses de su gobierno: la iniciativa de la construcción del puerto de Buenos Aires; la idea de la exposición de Córdoba, que se realizó más tarde; la prolongación del ferrocarril Central a Córdoba; el primer censo nacional; el afianzamiento del crédito exterior y el fomento de la instrucción pública, de la educación popular. "Si no la promoviera —dijo—, los antecedentes de mi vida quedarían como vana ostentación de las aspiraciones que la posesión del poder y la ocasión de realizarla dejo en descubierto. Quedaría establecido que en nuestro país el influjo del gobierno es impotente para romper con la tradición de ignorancia que nos ha legado la colonización".