Juan de Dios Filiberto nació con el nombre de Oscar Juan de Dios Filiberti, en el barrio de inmigrantes italianos, mayoritariamente genoveses, de La Boca de la Ciudad de Buenos Aires en 1885, en momentos en se desarrollaba la gran ola inmigratoria europea que influyó decisivamente en las características de la población argentina.

Nació en una casa sencilla ubicada en Necochea al 200. Desde 1932 se mantuvo residiendo en La Boca, en una casa ubicada en la calle Magallanes 1140, pintada en su frente por el pintor Benito Quinquela Martín, amigo personal de Filiberto, y expropiada como patrimonio cultural de la ciudad en 2007.

Su padre era hijo de genoveses. Su madre era nieta del brigadier Martín Rodríguez y una integrante de la nación ranquel. Su hijo fue bautizado Nahuel, que significa "tigre", en mapundungun, idioma del pueblo ranquel.

Abandonó la escuela a los nueve años y trabajó desde niño, como albañil, estibador y oficial tornero en los astilleros que la empresa Mianovich poseía en La Boca. Siendo trabajador portuario ingresó al sindicato, adhiriendo a las ideas del anarquismo, participando en las huelgas portuarias de 1907

Siendo aún un joven, sin conocimientos musicales, organizó un grupo musical llamado Orfeón Los del Futuro. Su interés por la música lo llevó a buscar trabajo en el Teatro Colón, al que ingresó como maquinista. Allí oyó por primera vez la música de Ludwig van Beethoven, al que desde entonces consideró su "Dios musical".

A los 24 años ingresó al Conservatorio de Música, para estudiar violín y teoría musical, destacándose hasta conseguir una beca para estudiar con el maestro Alberto Williams. Por razones de salud se radicó en Mendoza, y fue allí que compuso su primer tango, "Guaymallén", en homenaje a la ciudad en la que se radicó.

En 1932 organizó su propia orquesta, la "Orquesta Porteña", a la que le agregó instrumentos que no solían utilizarse en el tango, como el clarinete, la flauta y el armonio. En 1933, apareció en la película ¡Tango!, la primera del cine sonoro argentino. Los cantantes de su orquesta fueron Patrocinio Díaz y más tarde se suma Jorge Alonso.

En 1938 fue designado director de la recién creada Orquesta Popular Municipal de Arte Folklórico, financiada por la Municipalidad de la Ciudad de Buenos Aires, manteniéndose al frente de la misma hasta su muerte, luego de sucesivos cambios de nombre; en 1973 la misma fue nombrada en su honor como Orquesta Nacional de Música Argentina Juan de Dios Filiberto, dirigida por renombrados directores, como Osvaldo Requena y Osvaldo Piro, éste último al comando de la misma en 2008.

Filiberto demostró también gran preocupación por defender los derechos intelectuales de los músicos, siendo socio fundador de la Sociedad Argentina de Autores y Compositores de Música (SADAIC), en 1936.

Entre sus canciones se destaca "Caminito", con letra de Gabino Coria Peñaloza, uno de los tangos más famosos, pero los especialistas han considerado que "Malevaje", con letra de Enrique Santos Discépolo es su mejor tango. También son ampliamente conocidos tangos como "El Pañuelito", "Quejas de bandoneón" y "Clavel del aire".