Největších klubových úspěchů dosáhl Zimin se Spartakem Moskva, s nímž vybojoval dva ligové tituly. V nejvyšší soutěži nastřílel dohromady 185 gólů, v reprezentaci jich přidal 27 v 71 zápasech. Olympijské zlato slavil v letech 1968 a 1972.
Po ukončení hráčské kariéry v roce 1977 přešel na trenérskou dráhu, vedl Spartak Moskva či juniorskou reprezentaci. Později působil jako skaut v NHL, věnoval se i komentování pro televizi.