De 1904 a 1908 publicó sus poemas en periódicos y revistas y apareció su primer y único libro en vida, Misas Herejes, de aparente realismo y opuesto a las corrientes simbolistas que la poesía argentina de ese momento. Borges lo rescató en oposición a la poesía modernista y como recuperación de una Argentina en desaparición, Poemas de arrabal, de versos sencillos que cantan lo cotidiano del porteño barrio de Palermo, donde vivió Carriego.