Do Sparty přišel Sundermann v září 1994, ale na lavičce vydržel jen deset ligových zápasů a v březnu 1995 kvůli neshodám s vedením odešel. S letenským celkem měl bilanci osm výher a dvě prohry.

Ve Stuttgartu působil poprvé v letech 1976 až 1979 a klubu pomohl k postupu do nejvyšší německé soutěže. Poté se do VfB ještě vrátil v letech 1980 až 1982 a 1995. S týmem má na kontě tři umístění v nejlepší bundesligové čtyřce.

Vedle Sparty a Stuttgartu trénoval Sundermann mimo jiné i Schalke, Štrasburk nebo Grasshopper Curych. Jako hráč získal dva švýcarské tituly s Basilejí, jednou si zahrál za reprezentaci tehdejšího Západního Německa.