Trop à l’étroit dans ses locaux à l’hôtel de l’abbaye de Pairis (actuel hôtel de ville), où elle était installé depuis son origine en 1800, la préfecture du Haut-Rhin commença la construction de son nouveau bâtiment en 1862. Celui-ci, bâti sur le même modèle que la préfecture de la Haute-Marne, fut inauguré en 1866. De style Louis XIII, l’édifice est constitué d’un bâtiment central encadré par deux ailes latérales.
Il accueillit l’administration allemande lors de l’annexion de la région par l’Allemagne, avant que la préfecture du Haut-Rhin ne s’y réinstalle en 1918. Détruit par un incendie en 1938, l’hôtel de la préfecture fut bombardé en 1940, puis subit à nouveau des dommages lors des combats pour la libération de Colmar. La préfecture fait face au parc d’agrément du Champ de Mars, dont l’agencement rappelle la croix de la Légion d’honneur.
