Dois anos mais tarde, com 19, choca a família ao se casar sua tia Julia, 13 anos mais velha. O casamento dura pouco, mas rende o elogiado romance Tia Julia e o Escrevinhador (1978). O internato militar fornece-lhe a matéria-prima para o romance de estréia, A Cidade e os Cachorros (1963), em que discute a luta dos adolescentes para sobreviver à violência e à corrupção que impera no colégio militar.
O livro é traduzido para doze línguas e confere-lhe reconhecimento internacional. É autor de A Casa Verde (1966), ambientado na selva peruana, Conversa na Catedral (1969), sobre o regime de Manuel Odria (1948-1956) e de A Guerra do Fim do Mundo (1981), inspirado na Guerra de Canudos (1896-1897), um dos episódios mais sangrentos da história brasileira.
Em 1990 disputa a Presidência de seu país por uma coligação conservadora e perde no segundo turno para Alberto Fujimori. Em 1994 publica o livro O Peixe na Água: Memórias, em que analisa momentos de sua vida, da infância à derrota nas eleições presidenciais.