Em 1919 abandona o curso para fazer política e funda o jornal de esquerda L''Ordine Nuovo. Ele prega a participação do proletariado na política e faz propaganda a favor da organização de conselhos de trabalhadores fabris. Em 1921, com outros militantes e intelectuais de esquerda, funda o Partido Comunista Italiano.
No ano seguinte, representa o PCI na reunião da 3ª Internacional, em Moscou. Retorna à Itália depois de ficar dois anos em Moscou e é eleito para uma vaga na Câmara dos Deputados, tornando-se em seguida líder da bancada comunista. Quando Benito Mussolini dissolve o partido, Gramsci é detido (1926) e condenado a mais de 20 anos de prisão.
Durante o tempo em que cumpre a pena, escreve seus 32 cadernos de reflexão, publicados postumamente com o título de Lettere del Carcere (Cartas do Cárcere, 1947). O conjunto da obra é considerado um dos mais importantes documentos políticos deste século. Gramsci passa os dois últimos anos de vida hospitalizado em Roma, com tuberculose. Morre em 1937, no hospital, quatro dias depois de obter a liberdade.