Juan Pablo Cafiero fue el cuarto hijo de los 10 que tuvo el histórico dirigente peronista Antonio Cafiero (1922-2014). El político y economista Mario Cafiero es uno de sus hermanos. Juan Pablo está casado y tiene cuatro hijos.
En su juventud, Juan Pablo Cafiero militó en la Juventud Peronista y presidió el Partido Justicialista de San Isidro.
En 1989 fue elegido diputado nacional. En 1990 integró el Grupo de los 8, que opuestos a las políticas neoliberales del presidente Carlos Menem, se separaron del PJ para dar origen al Frente Grande y luego al FREPASO y La Alianza.
En marzo de 2001 fue designado Ministro de Desarrollo Social por el presidente Fernando de la Rúa, en reemplazo del contador público Pedro Makon, quien se desempeñaba como interino tras la salida de Graciela Fernández Meijide quién se vio envuelta en un caso de supuesta corrupción por haber designado a su cuñado, Ángel Tonietto, como interventor en el PAMI quien beneficio a geriatricos propiedad de la hermanad de Meijide. Cafiero renunciaría en octubre de ese mismo año.
En 2003, adhirió a la corriente kirchnerista que encarnó el presidente Néstor Kirchner y fue designado Ministro de Justicia y Seguridad de la Provincia de Buenos Aires, bajo la gobernación de Felipe Solá.
En diciembre de 2007, Cristina Fernández de Kirchner y el Senado de la Nación designaron a Alberto Iribarne como embajador ante la Santa Sede, pero el mismo no fue aceptado por la Santa Sede dando a entender que la razón se debía a la condición de persona divorciada del embajador. El gobierno argentino cuestionó extraoficialmente la no concesión del placet, argumentando que la Iglesia Católica carece de derecho imponer requisitos personales a los embajadores.
Iribarne anunció en cambio que estaría dispuesto a renunciar a su postulación para mejorar las relaciones diplomáticas de Argentina con la Santa Sede.
Finalmente, luego de varios meses sin embajador, el 22 de octubre de 2008, la Presidenta Cristina Fernández de Kirchner con acuerdo del Senado, designó en el cargo a Juan Pablo Cafiero, cuyo placet fue inmediatamente aprobado por la Santa Sede.