Estudió derecho en la Universidad de Buenos Aires, pero no terminó sus estudios y se entregó a la política. En 1839 fue detenido seis días, por el gobierno de Juan Manuel de Rosas. Temiendo por su vida, poco después partió como secretario del ministro plenipotenciario ante el Imperio del Brasil, general Tomás Guido.23
Una infidencia por documentos que envió al ministro inglés en Río de Janeiro, causó la separación de su cargo de secretario. Se instaló en Montevideo, donde se reencontró con varios miembros de la Asociación de Mayo, como Juan Bautista Alberdi, Florencio Varela, Esteban Echeverría, Juan María Gutiérrez y Miguel Cané. Dado que todos estos habían sido perseguidos por el gobierno de Juan Manuel de Rosas, decidió dar a conocer sus sufrimientos —reales o supuestos— durante los días que había estado en la comandancia de policía, publicando un poema dedicado a Rosas, que incluía la dramática frase que habría escrito con carbón en las paredes de su celda:3
Como hombre te perdono
mi cárcel y cadenas...
Escribió en periódicos como "El Nacional", de Andrés Lamas, y "El Comercio del Plata", de Florencio Varela. Publicó dos dramas de inspiración política y escribió una multitud de poemas y novelas panfletarias contra Rosas.
A partir de 1844 inició la publicación en formato de folletos de Amalia, una novela de costumbres y autobiográfica que por entonces no alcanzó a terminar.
En 1845 se embarcó hacia Chile, pero una tempestad desvió tanto el buque que lo llevaba que terminó en Río de Janeiro. No logró ser nuevamente aceptado por Guido, por lo que hizo un viaje a Colombia, donde residió algún tiempo en Medellín, donde contrajo una enfermedad venérea.
De regreso en Montevideo publicó sucesivamente tres periódicos, siendo el más importante La Semana, y colaboró en muchos otros. Se destacó por la vehemencia y pasión con la que atacaba a Rosas. En 1847 publicó en Montevideo seis cantos (aunque debió haber tenido doce) del poema Cantos del peregrino, autobiográfico y compuesto al compás de sus andanzas, aunque inspirado por Childe Harold, de Lord Byron.
En 1847 publicó un drama, El poeta, que fue seguido por otro único drama, El cruzado, del año 1851. Ese mismo año publicó su agrupación de poemas líricos, titulada Armonías. Destacan en él su sensibilidad descriptiva y sus pasajes amorosos. Contiene también imprecaciones políticas, nunca ausentes en la obra de Mármol, cualquiera sea su género, pero el conjunto resulta algo irregular. En Mármol se vislumbran influjos de —aparte del ya citado Byron— Chateaubriand, José de Espronceda y José Zorrilla.
En 1852, tras la caída de Rosas, regresó a Buenos Aires, donde el presidente interino Justo José de Urquiza lo nombró ministro plenipotenciario en Chile. La separación del Estado de Buenos Aires de la Confederación Argentina frustró ese segundo proyecto de viajar a Chile.
Detalle de su tumba en el cementerio de la Recoleta
Terminó de publicar en Buenos Aires su novela Amalia, que editó también en forma de libro en 1855, y que es considerada la primera novela conocida en la Argentina.
Fue senador provincial, y más tarde diputado a la Convención Constituyente del año 1860. En 1865 fue enviado al Brasil por el presidente Bartolomé Mitre, donde ajustó la Triple Alianza y las primeras operaciones de la Guerra del Paraguay.
Desde 1868 dirigió la Biblioteca Nacional, hasta que enfermó de un grave mal en la vista y se retiró de toda actividad.
Falleció en Buenos Aires en agosto de 1871, en plena epidemia de fiebre amarilla. Sus restos yacen en el Cementerio de la Recoleta.
Mármol es un poeta romántico influido en parte por Byron y Espronceda, pero sobre todo por Zorrilla. De pobre formación cultural (Groussac lo analiza despiadadamente), es el cantor lírico de la emigración argentina durante la dictadura de Rosas, con gran vigor poético y un intenso sentido emocional de la Naturaleza, aunque descuidado e incorrecto, como él mismo reconoce con ironía al decir que la única regla que poseía es la que arreglaba su vida y sus poemas sin regla alguna. Fue poeta de juventud que no siguió cultivando la poesía después de la emigración; recogió sus versos en un volumen (Armonías, 1851); pero lo más interesante de su producción lírica se encuentra en su poema incompleto titulado Cantos del peregrino.
Concebido originariamente en doce cantos, cuatro de los cuales nunca escribió el autor (VII a X), Cantos del peregrino reelabora libremente un tema byroniano, el de La peregrinación de Childe-Harold, grato a los hombres de su generación, pero dándole localización americana a través del paisaje descrito y acento genuinamente argentino al expresar el dolor de la juventud, desterrada del país durante la tiranía rosista. Se conocen, pues, ocho cantos y también un fragmento episódico, "Las Nubes", de aquellos que quedaron sólo en proyecto. Fueron escritos entre 1844 y 1846 y aparecieron a partir de este último año. El peregrino se llama Carlos y no es sino directa transfiguración confesional del propio autor y, por extensión, de los camaradas coetáneos, también proscritos de su tierra y errantes por América.
Los respectivos temas dan idea de las diversas cuerdas que el autor pulsa: en el I canta a América; en el III, a Buenos Aires; en el XI, al Janeiro; en el XII, al Río de la Plata. El II, en cambio, lo dirige a una mujer idealizada, María, quizá símbolo de la añorada patria. El IV, ligero y travieso, ofrece retratos de la gente de a bordo y pasajes epigramáticos en las referencias al oficio de escribir y al manejo del idioma, del estilo y del verso, cerrándose con un canto "A la noche oscura", reflejo de sus lecturas románticas. Los del V se titulan "Crepúsculo", "Desencanto" y "A Emilia", himno éste de amor fraternal. El del VI, "Súplica". Hay, consiguientemente, heterogeneidad en la materia poética y mucho desorden en su acomodación interna. Pese a esto, Mármol logra aciertos parciales en la descripción de la naturaleza, en la expresión del sentimiento amoroso, en los arrebatos de patriótica angustia ante la situación de la Argentina.
Sus dos dramas románticos en verso, El poeta y El cruzado (1842), el primero, de tema moderno, y el segundo, de tema medieval, no añaden gran cosa a su gloria literaria. Tampoco significan gran cosa folletos como El puñal, en el que sienta la doctrina de que el tiranicidio es un deber patriótico, ni monografías como Manuela Rosas.
Es su novela Amalia (1851) la que convierte a Mármol en un clásico de la literatura argentina. La novela cuenta la historia del encuentro sentimental entre el joven unitario Eduardo Belgrano y Amalia. Belgrano, con un grupo de fugitivos, pretende huir de Buenos Aires a Montevideo, pero es herido durante el intento. La bella Amalia, prima de su amigo Daniel Bello (personaje en el que suele verse la proyección del autor), le da asilo.
La novela se sitúa en el año 1840, y a pesar del cariz sentimental de su asunto central, la perspectiva histórica, marcada por una visión crítica del régimen rosista, está siempre presente. Ambos planos coinciden al final de la novela, cuando Amalia y Belgrano, en la noche de su boda secreta, son sorprendidos por los sicarios rosistas, y Belgrano es asesinado. Amalia fue la novela argentina de mayor repercusión en el país y en el extranjero durante el siglo XIX, como lo demuestran las innumerables ediciones de que fue objeto, tanto en castellano como en otras lenguas.