Ali, cinco anos depois, torna-se um dos 70 membros do Comitê Central do partido. Em 1939 entra para o Parlamento soviético e é nomeado presidente do conselho denominado Soviete Supremo. Depois da morte de Josef Stálin, em 1953, assume o posto de primeiro-secretário do Comitê Central do partido, tornando-se o dirigente supremo do país.
Em 1955 viaja pela primeira vez para fora da União Soviética (URSS) - para a Iugoslávia. Em seguida vai à Suíça, ao Afeganistão e à Índia, onde começa a mostrar o estilo diplomático que marca o início da política de coexistência pacífica da URSS com o Ocidente.
Três anos mais tarde, durante o XX Congresso do Partido Comunista, denuncia os crimes do governo anterior e inicia o processo de desestalinização. Ao mesmo tempo, mantém rígido controle sobre os países do Leste Europeu, ordenando, em 1956, a invasão da Hungria para reprimir a tentativa de abertura política no país.
Em 1962 decide instalar bases de lançamento de mísseis nucleares em Cuba, mas recua quando os Estados Unidos concordam em não mais tentar derrubar o regime comunista cubano. Dois anos depois abdica da posição de primeiro-secretário do partido. Morre em Moscou.