Em 1902, entra na Universidade de Viena. De 1904 a 1908, torna-se pupilo de Arnold Schoenberg, que também dá aulas a Alban Berg. O trio inova a música erudita, abandonando o princípio de tonalidade. No início, a proposta não é bem aceita pelo público.
Obras como a orquestral Passacaglia (1908) ainda seguem o tonalismo tradicional. Entre 1908 e 1909, Webern faz canções atonais sobre versos de Stefan George. Uma de suas características é a concisão - algumas peças duram poucos minutos e sua obra inteira tem cerca de três horas. Schoenberg formula o dodecafonismo em 1924, e seu antigo aluno adota o sistema.
A execução desse tipo de música é proibida pelos nazistas, que acreditam tratar-se de um bolchevismo cultural por derrubar as hierarquias sonoras. Na II Guerra Mundial, quando o Exército russo se aproxima de Viena, Webern foge para Mittersill, próximo de Salzburg, onde é morto acidentalmente por um soldado das forças de ocupação norte-americanas.