Přesun na Všesporťák, postupy i pády: 1964 – 1989

První zápas na Všesportovním stadionu sehráli hradečtí fotbalisté již v srpnu roku 1960, k jeho slavnostnímu otevření však došlo téměř o šest let později. Votroci se v průběhu těchto let neustále vraceli na hřiště U nemocnice, kde také získali svůj dosud jediný titul. Když v sezóně 1966/67 spadli z nejvyšší soutěže, na další utkání mezi tuzemskou elitou si museli počkat až do 12. srpna 1972, kdy přivítali pražskou Spartu. Utkání tehdy v Malšovicích přihlíželo zhruba 35 000 diváků.

V nejvyšší soutěži se však Votroci ohřáli jen jednu sezónu. Následoval pád do druhé a následně i třetí ligy. V roce 1975 se přitom na stadionu poprvé rozsvítila slavná Lízátka, pod kterými však Hradečtí hráli soutěž, ve které rozhodně nechtěli být. V ročníku 1976/77 vybojovali návrat do 2. ligy a o dva roky později slavili postup do té nejvyšší.

Mezi elitou se však Votroci opět zdrželi jen na jeden ročník. Znovu následoval pád až do třetí nejvyšší soutěže, ve které hradečtí fotbalisté strávili jednu sezónu. Na podzim 1985 se definitivně rozloučili s hřištěm U nemocnice, na kterém sehráli poslední zápas 2. listopadu tohoto roku. Jablonec zde tehdy porazili 5:0. O rok později se dorostenci Východočechů stali mistry republiky. Před pádem komunistického režimu stihli Votroci ještě jeden postup i pád z nejvyšší soutěže.