八公山区位于华东能源基地、工业粮仓——淮南市的西部，西北与寿县、凤台相邻，南与谢家集区接壤，东与潘集区隔淮相望。相传因汉淮南王刘安门客苏非、李尚、毛被等“八公”在山中炼丹成仙而得名。境内发现的淮南虫化石被誉为“蓝色星球”上的生命之源，鸿篇巨制《淮南子》“牢笼天地，博极古今”。豆腐文化、楚汉文化源远流长，影响深远。

历史上，西周时期区境属州来国，汉初属淮南国，清时由寿县划归凤台。1949年1月解放后，凤台县政府在淮河之南设置八公山、蔡家岗两个区。同年5月，八公山区、蔡家岗区由凤台县划归淮南矿区，两区合并成立淮南区。1949年11月，淮南矿区设立八公山镇，管理西部的城镇工作。1955年2月，建立县级的八公山区。1961年10月，从中划分出谢家集区。

目前，全区户籍人口约15万，下辖2个国家AAAA级风景区，以及八公山镇、山王镇2个镇，新庄孜、土坝孜、毕家岗3个街道和妙山林场。全区共有城市社区21个，农村社区（村民委员会）21个。

早在原始社会末期和奴隶社会，淮夷部族就生活在淮河流域，后被夏、商征服。西周时建立州来诸侯国，都邑在凤台县古城。春秋末期，改州来为下蔡。西汉时区境属淮南国和九江郡，东汉属九江郡，汉末及魏、晋、隋时属淮南郡，唐时属淮南道，宋时属淮南路，元时属下蔡县，明、清初时属寿州，清雍正十一年（1733年）后及民国时期属凤台县。

1949年5月前，区境属凤台县芦孔乡。1949年1月12日凤台县解放后，县政府在淮河南设置八公山区和蔡家岗区。5月，两区划入淮南矿区并合并成立淮南区，驻地蔡家岗。区境东至姚湾，南到寿县北门，西、北以淮河为界和凤台县相望，辖孔集、山王、蔡岗、连岗、安城、鸭铺、八公7个乡。1949年11月，设置八公山镇，管理市政工作，驻地土坝孜。1953年5月22日，撤销八公山镇，建立八公山区（科级），驻地土坝孜。1955年2月，撤销八公山、蔡家岗两个科级区，建立县级建制的八公山区，辖新庄孜、新市场（土坝孜）、蔡家岗、夏郢孜、李郢孜等地，驻地蔡家岗。1960年秋，建立八公山城市人民公社，但未设立实体机构。1961年10月，八公山区划分为八公山和谢家集两个区，新八公山区驻地新庄孜，辖城市人民公社和山王人民公社。1966年9月，八公山区改称红旗区。1968年5月，成立红旗区革命委员会。1972年9月，改称为八公山区革命委员会。1980年10月，恢复八公山区人民政府名称。