Questo villaggio di pianura si trova ai margini di basse colline boscose, proprio nel cuore della valle dello Zinsel. Le testimonianze dell'esistenza del villaggio risalgono a tempi antichi. Gli scavi rivelano che, in epoca romana, il villaggio si trovava su una via di comunicazione che collegava Mittelhausen, nel Kochersberg, a Gundershoffen.
Nel XIX secolo, il villaggio, allora tipicamente agricolo e boschivo, divenne una città industriale con l'installazione di fucine, poi acquistate dalla famiglia De Dietrich.
I conflitti franco-tedeschi del 1870 e del 1914-18 risparmiarono relativamente il villaggio. Tuttavia, fu in gran parte distrutto durante la Seconda guerra mondiale. Grazie alla sua posizione strategica sullo Zinsel, Mertzwiller divenne una sfida importante e un punto di passaggio obbligato. Questo portò a pesanti combattimenti, rendendolo il comune più colpito del cantone di Niederbronn-les-Bains.
Segnalata dal Club Vosgien, la passeggiata dei 5 villaggi si snoda nella zona rurale di Mertzwiller. È anche possibile fermarsi qui per un tour in bicicletta, grazie alla rete di piste ciclabili che attraversano il villaggio.