Com o final do mandato do primeiro governador-geral do Brasil, Tomé de Sousa, é nomeado seu substituto. Chega ao Brasil em 1553, acompanhado pelo filho Álvaro e por uma comitiva de 260 pessoas, que incluía o jesuíta José de Anchieta.
Traz também dezenas de órfãs, para servir de esposas aos colonos portugueses, que reclamam da falta de mulheres brancas na colônia. Durante seu governo se iniciam as expedições oficiais de desbravamento do interior do país, conhecidas como entradas.
Em 1555 enfrenta ataques franceses no Rio de Janeiro. Sem recursos suficientes, não consegue expulsar os invasores, que contam com o auxílio dos tamoios. Entra em conflito com o bispo dom Pero Fernandes Sardinha por questões ligadas à escravização indígena, que os colonizadores praticavam e os jesuítas reprovavam.
O incidente só não atinge proporções maiores porque dom João III, receoso de disputas entre os poderes civil e eclesiástico, exige o retorno de dom Pero a Portugal. Na viagem, a nau do bispo naufraga no litoral de Alagoas e os sobreviventes são devorados pelos índios caetés. Duarte da Costa volta a Portugal em 1557, onde reassume o posto de armeiro-mor.