Era apodado Pirincho porque al nacer la partera exclamó al ver la forma de su pelo: "¡Parece un pirincho!", aludiendo a un pájaro encrestado común del Río de la Plata.
Desde muy temprana edad la familia de Canaro se instaló en Buenos Aires, donde vivieron en casas de inquilinato (llamadas conventillos), en condiciones de extrema pobreza. Antes de cumplir los diez años trabajaba en las calles. Su hermano menor fue el también músico y director de orquesta Rafael Canaro.
Se destaca el hecho que construyó su primer violín empleando envases de aceite de la fábrica donde trabajaba. Dicho violín de lata le serviría para iniciar su carrera y ganar dinero suficiente para comprar uno de madera. Su hazaña pudo haber inspirado al grupo musical argentino Les Luthiers, quienes emplean violines de lata con frecuencia.
El primer tango que saqué de oído fue "El llorón", de autor anónimo -recordaría muchos años después-. El estuche me lo fabricó mi vieja; en realidad una funda de género, y ya salí a ganar algo de plata en bailes de la vecindad.
Fue vecino del bandoneonista Vicente Greco. Canaro reconocería tiempo después lo que influyeron en él los conocimientos de Greco.
En 1908 empezó a actuar de forma continua en varios lugares de La Boca, y luego, conjuntamente con Greco en diversas giras.
En 1912 comenzó Canaro su trascendental labor de compositor con los tangos "Pinta brava" y "Matasanos".
Comenzaba 1925 cuando el director de una agencia de contratación de artistas Amadeo Garesio, que años después fue el titular del cabaré Chantecler, impulsó a Canaro a presentarse en París, ciudad donde el tango tenía amplia difusión y en la que actuaban con éxito la orquesta de Manuel Pizarro y el conjunto encabezado por Genaro Espósito y Eduardo Blanco. Canaro viajó con sus hermanos, el bandoneonista Juan y el contrabajista Rafael, el bandoneonista Carlos Marcucci, el pianista Fioraventi Di Cicco, el violinista Agesilao Ferrazzano y el baterista Romualdo Lo Moro.
Canaro salió con su esposa el 10 de marzo de 1925 en el vapor Alsina en tanto los músicos viajaron después en el Lutetia. La orquesta debutó el 23 de abril de 1925 en el dancing Florida, que se encontraba en el vestíbulo del teatro Apollo, con sus integrantes con vestimenta gauchesca –blusa y chiripá floreados, pañolón, botas y hasta puñal en el cinto- porque la actuación de orquestas íntegramente formada por músicos extranjeros sólo estaba permitido si constituía un “número de atracción” justificando una característica especial; a mayor abundamiento Canaro había sumado en París a la cancionista Teresa Asprela que se dedicaba al género de la música nativa y había viajado con uno de los músicos,1 e incorporó al espectáculo la percusión del serrucho a cargo de Rafael Canaro, los canturreos y silbos del conjunto y los recitados del Martín Fierropor el propio Canaro para beneficio de los inspectores que fueron a controlar el carácter de “número de atracción” del conjunto. El éxito fue total, las reservas de mesa debían hacerse con gran anticipación y fue invitada a tocar en calificadas reuniones. Las noticias del éxito fueron llegando a la Argentina principalmente por las crónicas del periodista Fernando Ortiz Echagüe, que era el representante del diario La Nación.
En 1918 luchó por los derechos autorales, no reconocidos en esos tiempos, hasta culminar en la creación de la actual SADAIC (Sociedad Argentina de Autores y Compositores de Música), fundada en 1935 y cuyo edificio fue construido sobre terrenos adquiridos por Canaro.
En diciembre de 1932 graba el "Himno al Club Atlético River Plate", junto a su Orquesta Típica. El Himno, compuesto en 1918, lleva la melodía de It's a Long Way to Tipperary, mientras que la letra fue creada por Arturo Antelo.
En 1940 se nacionalizó argentino.
Fue uno de los que más contribuyó a la extensión y popularidad del tango en Europa
Francisco Canaro falleció a las 15 hs del lunes 14 de diciembre de 1964 de manera sorpresiva en su casa a los 76 años de edad.