À Gand, sa ville natale, Philippe Herreweghe se consacre tout d'abord à des études de médecine et de psychiatrie. C'est durant ces années universitaires qu'il fonde le Collegium Vocale, entièrement consacré à Bach et à ses précurseurs, et se fait remarquer par Nikolaus Harnoncourt et Gustav Leonhardt qui l'associent à la gravure de l'intégrale des Cantates de Bach.
Afin de servir de façon adéquate un répertoire s'étendant de la Renaissance à la musique moderne et contemporaine, il crée ensuite La Chapelle Royale, tournée vers la musique française baroque et les oeuvres vocales classiques ou romantiques. Les deux formations s'associent régulièrement à l'Orchestre des Champs-Élysées.
Philippe Herreweghe est souvent invité à diriger de grands orchestres européens, tel le Concertgebouw d'Amsterdam. Ses étés sont consacrés à deux festivals : celui de Saintes et celui de Toscane.