Aprende a tocar trompete com o pai e estuda teoria musical no Laurinburg Institute, na Carolina do Norte. Compõe, arranja e sola com as bandas de Teddy Hill e Cab Calloway, no final dos anos 30, e com as bandas de Benny Carter e Earl Hines, no início dos anos 40. Participa das jam sessions do Minton''s Playhouse, no bairro nova-iorquino do Harlem, onde músicos como o pianista Thelonius Monk, o baterista Kenny Clarke e o saxofonista Charlie Parker experimentavam um novo estilo de jazz, de ritmo sincopado e rápido.
Quando Gillespie e Parker se juntam à banda de Billy Eckstine, em 1944, esta se torna a primeira grande banda do novo estilo, o bebop. Gillespie monta a própria banda e se destaca como solista entre 1946 e 1950.
É reconhecido pelo modo incomum de tocar o trompete, entortado depois que alguém se senta sobre o instrumento, o que cria um som de qualidade diferente. Suas composições Night in Tunisia e Birks Works se transformam em standards do jazz. Publica em 1979 o livro de memórias To Be or Not to Bop. Morre em Englewood, Nova Jersey.