東山書院始建于光緒二十一年（1895年），書院初建時曰東山精舍，光緒二十六年（1900年）改稱東山書院，光緒三十一年（1905年）建產湘鄉縣公立東山高等小學堂。民國二十九年（1940年）改辦中學，名曰湖南省私立東山初級中學，直至全國解放。1951年，私立東山初級中學與湘鄉市一女子職業學校合并為湘鄉市一初級中學。1952年，中南軍政委員會教育部決定在書院舊址恢復東山學校，定名為“湖南省立東山小學”。1958年9月10日，毛澤東給師生寫信并題寫校名后稱東山學校。