府山東南坡現(xiàn)存兩段越子城城墻遺址，一段在越王殿后側(cè)，長約6米，下部石條上部磚砌，另一段在東側(cè)，長約60米，青磚平砌，最高處有3.5米。由于風(fēng)化很嚴(yán)重，有的地方已完全看不出墻磚了。

越子城城墻始建于唐代，歸鎮(zhèn)東軍節(jié)度，南宋嘉定十五至十六年（1222-1223）知府汪綱主持修城時(shí)保留了這幾段唐代遺址。

鎮(zhèn)東節(jié)度使始于唐乾元元年（758）設(shè)置，治所在越州，此后一百三十余年間數(shù)次與鎮(zhèn)西節(jié)度使分分合合，后又改名為義勝軍、威勝軍、鎮(zhèn)東軍，直至五代被吳越國王錢镠兼并。