学校原址位于滁河岸边的巢北小黄山脚下的龙华寺。学校由最初的“龙华小学堂（1899年）”，先后历经“合肥梁乡高等小学堂（1908年）”、“合肥县东北三镇区高等第一小学校（1911年）”、“巢县龙华寺完全小学（1950年）”、“皖北区巢县私立黄山初级中学（1951年）”等。1953年迁至巢县（现巢湖二中前身），1958年在原址龙华寺成立“巢县黄山初级中学”，1970年设高中部，更名“巢县黄山中学”，1985年改名为“巢湖市黄山中学”。1998年学校迁址居巢区苏湾镇。2009年5月学校晋升为巢湖市市级示范高中。