Ocupa vários cargos no governo: em 1979 é ministro das Minas e Energia; em 1982, ministro das Finanças; e, em 1985, ministro da Educação. Em 1989 é eleito presidente da África do Sul e procura soluções para os problemas raciais enfrentados no país, onde a política de segregação racial, o apartheid, existe oficialmente desde 1948.
Os negros não têm direito à propriedade de terra nem à participação política. De Klerk condena a discriminação racial e liberta importantes prisioneiros políticos, como Nelson Mandela, em 1990.
Dois anos depois, negocia com líderes negros uma nova Constituição, que reconhece os direitos da maioria negra. Isso resulta na primeira eleição nacional sem restrições de cor ou de classe social, pelo que De Klerk e Mandela ganham o Prêmio Nobel da Paz em 1993.
Em 1994, Mandela torna-se presidente do país, com De Klerk como vice. Três anos depois, De Klerk deixa a vida política. Em 1998, a Comissão de Verdade e Reconciliação - órgão responsável, desde 1997, pelo relatório de violação dos direitos humanos durante o apartheid - faz acusações contra De Klerk, que protesta na justiça e ganha a causa.