La localité, chef-lieu du canton de même nom, fait partie d'un ensemble de villages s'étirant le long de la bordure orientale du Sundgau, de Hegenheim à Riedisheim. Encadré à l'Ouest par les premiers contreforts du Bas-Sundgau oriental, à l'Est, par la forêt domaniale de la Hardt, le village se situe à la limite de deux régions naturelles fort diverses: le Bas-Sundgau oriental aux sols de loess et la Hardt rouge aux terrains graveleux.
Sis à 240 m d'altitude sur le bord du «Fossé de Sierentz», effondrement de l'ère tertiaire limité par les failles le séparant à l'Est de la Forêt-Noire, à l'Ouest du «Horst de Mulhouse», le territoire de Habsheim est à cheval sur ces deux ensembles et les terrains qui le constituent sont donc essentiellement tertiaires et quaternaires.
Les roches caractéristiques des collines sont le calcaire lithographique (Haustein) et le calcaire molassique (Sandstein). Des marnes mélangées au lehm ont longtemps alimenté la tuilerie locale. Le gypse rencontré entre Habsheim et Zimmersheim était utilisé pour la fabrication du plâtre. Dans la plaine, au-dessus des calcaires et argiles tertiaires, sables et graviers alternent sur une épaisseur de 15 à 17 m.
Le point culminant des coteaux est à 315 m. De nombreuses sources jaillissent au pied des collines. Deux ruisseaux traversent le ban: le Mühlbach issu du vallon d'Eschentzwiller, et le Weyerbach, provenant du val de Dietwiller