La iglesia fue construida en la primera mitad. Siglo 17. La primera parte del nombre es un recuerdo de la iglesia destruida durante el dominio francés en 1799.
S t. Peter fue erigido en el sitio de un templo románico que probablemente existió aquí desde la fundación de la abadía de St. Peter en el siglo VII, y fue destruida en la época de la iconoclasia alrededor de 1580.
El diseño de la iglesia actual, impresionante en tamaño y forma, se atribuye al arquitecto jesuita Pieter Huyssens (1577-1637), el creador de las iglesias de St. Charles Borromeo en Amberes y St. Walburga en Brujas. El arquitecto, fascinado por la arquitectura de los templos italianos, se inspiró en la Iglesia de St. Peter en Roma.
Durante el dominio francés en la iglesia de St. Peter, se estableció un museo de pintura. A día de hoy, en la iglesia se conservan numerosas obras de los siglos XVII y XVIII, otros elementos destacables del interior son, sobre todo, numerosas decoraciones escultóricas.