Estudió en la Facultad de Ciencias Económicas de la Universidad Nacional de Córdoba, donde fue miembro del claustro estudiantil (1965-1966). Se recibió con honores de contador público en 1967 y de economista en 1968, doctorándose en Economía en solo dos años, en 1970, a la edad de veinticuatro años. Fue profesor de Estadística, Econometría y Economía Argentina en la Universidad Nacional de Córdoba desde 1968 hasta 1974 y desde 1978 hasta 1980.
También fue profesor en la Universidad Católica de Córdoba. En 1970, a los veinticuatro años fue nombrado Director del Banco de Córdoba y posteriormente vicepresidente del mismo banco. En 1977 logró un segundo doctorado, esta vez por la Universidad Harvard (Estados Unidos). Ha sido galardonado con numerosos doctorados honoris causa de universidades como la Università di Bologna, la Universidad de París I Panthéon-Sorbonne (1999),la Universidad de Turín, la Universidad Ben Gurion y la Universidad de Génova. Es miembro correspondiente de la Real Academia de Ciencias Morales y Políticas. Es miembro del G30.
En su actividad política, se desempeñó como Subsecretario de Desarrollo de Córdoba (1969-1970), director y posteriormente vicepresidente del Banco Provincia de Córdoba (1971-1972), subsecretario del Ministerio del Interior (1981), presidente del Banco Central de la República Argentina durante julio y agosto de 1982, diputado nacional (1987-1989) y ministro de Relaciones Exteriores (1989-1991).
Fue ministro de Economía de la Nación bajo la tutela de Carlos Menem durante el periodo 1991-1996. Reconocido por su plan económico de estabilidad cambiaria, que Cavallo impulsó en Argentina durante el gobierno de Menem basado en la Ley de Convertibilidad del Austral.2 Este plan logró detener la inflación que en 1990 estuvo arriba de 2.000% anual. La inflación disminuyó hasta llegar a valores de entre 0%-2% anual y se mantuvo estable hasta la salida de la convertibilidad.
En 1992 fue elegido «Ministro de Finanzas del Año» por la revista Euromoney y "Hombre del Año" por LatinFinance. En 1995, siendo ministro denunció corrupción en el gobierno de Menem y tuvo que renunciar.
Fue diputado nacional por la Capital Federal (1997-1999). Fue candidato a presidente en 1999 obteniendo el tercer puesto con 10% de los votos, y candidato a Jefe de Gobierno en el 2000, obteniendo el segundo lugar con 33% y pasando a un balotaje contra Aníbal Ibarra, del que finalmente se retiró.
En 2001, bajo la presidencia de Fernando de la Rúa, ante una corrida bancaria instauró una medida conocida como Corralito, que consistió en limitar las retiradas en efectivo.