Planeja especializar-se na elaboração de instrumentos matemáticos, como compassos, esquadros e escalas. Em menos de um ano, com problemas de saúde, é obrigado a voltar para a Escócia. Em 1757 trabalha na Universidade de Glasgow, onde fabrica e conserta instrumentos de precisão utilizados nos laboratórios.
Dois anos depois, pesquisa o vapor como força motriz. Em 1763 recebe a máquina com motor a vapor de Thomas Newcomen para reparos. É o equipamento mais avançado da época, e ele começa a investigar suas deficiências. Entre outras modificações, acopla um aparelho condensador de vapor à máquina de Newcomen, o que dá origem ao primeiro motor a vapor de uso universal.
Obtém a primeira patente do invento em 1769 e nos anos seguintes aperfeiçoa o protótipo. Associado ao industrial Matthew Boulton, constrói suas primeiras máquinas no início de 1770. Em 1784 desenha a locomotiva a vapor e utiliza pela primeira vez o termo cavalo-de-força (horse power). A unidade watt de potência deriva de seu nome. Morre em Heartfield Hall, perto de Birmingham, Reino Unido.