Quirno Costa nació en Buenos Aires, hijo de Fernanda Costa y Gregorio Quirno. Estudió derecho en la Universidad de Buenos Aires, y se casó con Alcira Albarracín Pacheco, con quien tuvo cuatro hijos.
Ingresó en el servicio público como funcionario en la legación argentina en Brasil en 1868, y fue nombrado al año siguiente como Subsecretario de Relaciones Exteriores. Al final de la guerra de la Triple Alianza, representó a la Argentina en el tratado de 1870 que puso fin a las hostilidades con Paraguay y obtuvo la concesión de lo que hoy es la provincia de Formosa.
Formó parte de una comisión sobre la reforma de la Constitución de la Provincia de Buenos Aires en 1871 y fue elegido como Diputado de la Nación Argentina en 1878 por el recién formado Partido Autonomista Nacional (PAN). La elección del candidato de ese partido, Miguel Juárez Celman, a la presidencia en 1886 resultó en su nombramiento como Ministro de Relaciones Exteriores, durante el cual celebró acuerdos regionales de derecho internacional y negoció un tratado con Chile para ayudar a resolver el litigio de la Puna de Atacama. Las reclamaciones argentinas sobre Tarija, Bolivia, fueron abandonadas a cambio de ganar mayor territorio en la región de la Puna de Atacama (apreciada por sus depósitos de cobre).
Fue nombrado embajador en Chile en 1892. Allí intentó, sin éxito, resolver el conflicto por el canal Beagle. El antiguo dirigente del PAN, Julio Argentino Roca, volvió a postularse a la presidencia en 1897 (había sido elegido en 1880) y eligió a Quirno Costa como su candidato a vicepresidente. Presidió la convención constituyente de enero de 1898 (que reformó la Constitución de la Nación Argentina) y fue elegido con Roca en abril de ese mismo año, desempeñándose como Vicepresidente durante la totalidad del segundo mandato de Roca.
Regresó brevemente al gobierno como ministro del Interior del presidente José Figueroa Alcorta en 1906, pero se retiró poco después.
Falleció en 1915 a los 70 años de edad.
Una pequeña calle del barrio de Recoleta de la ciudad de Buenos Aires lleva su nombre. Previamente por cerca de 20 años la actual avenida Eva Perón llevó el nombre de Quirno Costa.