É daí que vem seu apelido: usa sempre um chapéu para evitar que o cimento lhe suje os cabelos. Em 1928 funda, junto com um amigo, o sambista Carlos Cachaça, o Bloco dos Arengueiros, que no ano seguinte se transforma na escola de samba Estação Primeira de Mangueira - nome e cores, verde e rosa, escolhidos por Cartola, que também compõe o primeiro samba-enredo da escola, Chega de Demanda. Nos anos 30, fica conhecido ao vender os direitos de gravação de vários sambas, como Divina Dama e Qual Foi o Mal Que Eu Te Fiz?, comprados por cantores como Francisco Alves e Mário Reis.
Depois de uma fase de sucesso, em que é gravado por Carmem Miranda Araci de Almeida, desaparece do meio artístico em meados da década de 40. Só é reencontrado em 1959, pelo jornalista Sérgio Porto, que o descobre lavando carros e trabalhando à noite como vigia.
Cartola volta às rádios e, em 1964, abre no Rio com a mulher, Zica, o restaurante Zicartola, que se torna ponto de encontro de sambistas e músicos da geração bossa nova. Só grava o primeiro disco aos 66 anos. Compôs, entre outros, Quem Me Vê Sorrindo (com Carlos Cachaça) e Tive Sim. Morre no Rio de Janeiro.