Au Moyen Âge, l'étang de la localité, arrosé par les eaux de la Horn, venant de l'étang de Hasselfurth et se dirigeant vers le moulin de Ramstein et l'Allemagne, s'étend au pied de l'ancien mur d'enceinte du village de Kaltenhausen, qui prendra le nom de Bitche après la guerre de Trente Ans (1618-1648). Au début du XIXe siècle, la grande pièce d'eau est asséchée en 1820, tandis que le ruisseau de la Horn est canalisé et la vallée comblée. Par suite des différents travaux de voirie entrepris pour aménager le réseau routier, la chapelle se retrouve de ce fait en contrebas de la route.
Jardin municipal
Dans les années 1980, la municipalité bitchoise décide l'installation d'un « jardin des sculptures » dans le parc du Stadtweiher, véritable poumon vert de la petite cité. Au cœur même de la cité fortifiée, quatre sculptures modernes y ont déjà trouvé place : les trois oeuvres d'art de Laurent Amat, Pierre Tual et Lovato, ainsi qu'une fontaine publique (la fontaine de l'Europe) réalisée par Amado et située place Robert-Schuman. Une cinquième sculpture, oeuvre monumentale, accueille le visiteur près de la porte de Strasbourg. Près de l'église catholique Sainte-Catherine, le « Candélabre » éclaire les badauds le soir et se transforme en une gigantesque flêche dressée vers le ciel dans la journée.