Smith koučoval Rangers v období od roku 1991 do 1998 a potom znovu v letech 2007 až 2011. Vedle desítky ligových prvenství ovládli jeho svěřenci pětkrát Skotský pohár a šestkrát jeho ligovou obdobu. V roce 2008 s Rangers prohrál až ve finále tehdejšího Poháru UEFA se Zenitem Petrohrad (0:2). Dvakrát byl ve své zemi zvolen trenérem roku.

"Je prakticky nemožné vyjádřit, co Walter pro každého v Rangers znamenal. Ztělesňoval vše, čím by každý Ranger měl být," uvedl klub v prohlášení.

Na přelomu tisíciletí Smith působil v Evertonu, krátce se pak stal asistentem Alexe Fergusona v Manchesteru United a následně byl v letech 2004 až 2007 koučem skotského národního týmu. S reprezentační osmnáctkou vyhrál už v roce 1982 evropský šampionát po finálovém vítězství nad Československem (3:1).