Alberto Gerchunoff nació el 1 de enero de 1883 en Proskurov, en el Imperio ruso; actualmente la localidad lleva el nombre de Jmelnítskiy, y se encuentra en Ucrania. Su familia emigró en 1889, instalándose en la colonia judía de Moisés Ville, ubicada en la provincia de Santa Fe, Argentina donde su padre, Guershon Gerchunoff, fue asesinado por un gaucho matrero, y posteriormente a una colonia de la misma índole, llamada Colonia Rajil, en la provincia de Entre Ríos (este poblado se encuentra en las cercanías de Villaguay, fundada por el filántropo Barón Moritz Hirsch, como refugio para los judíos que huían de los pogroms europeos). Entre estas dos localidades Gerchunoff pasó su infancia, en la que trabajó como agricultor y boyero.
En 1895, se trasladó a Buenos Aires. Su nombre inicialmente era Abraham, y lo modificó por Alberto al acceder a la ciudadanía argentina. Muy joven comenzaría su actividad de periodista, que ejerció hasta su muerte, especialmente en el diario La Nación de Buenos Aires.
Gerchunoff fue profesor universitario y editor de numerosos diarios y revistas. De él dijo Borges:
Fue un indiscutible escritor, pero el estilo de su fama trasciende la de un hombre de letras. Sin proponérselo y quizá sin saberlo, encarnó un tipo más antiguo: el de aquellos maestros que veían en la palabra escrita un mero sucedáneo de la oral, no un objeto sagrado.
Entre las muchas novelas y ensayos que escribió sobre la vida de los judíos en Latinoamérica se destaca Los gauchos judíos (1910), compuesta en homenaje al centenario de la Revolución de Mayo, donde recoge estampas y relatos de la inmigración judía en la Argentina inspirados en sus recuerdos de niñez y adolescencia.
Por la mayoría de su vida, Gerchunoff creyó en la asimilación de los Judíos de Argentina. Pero en sus últimos años, él cambio su idea en el asunto. Había rumores que él colaboró con Wilhelm Reich en una versión de su orgone box desenado para la preservación de memorias culturales del pueblo judío.