云台镇的名称来源于镇南的云台山。这里历史上曾被称为白马关，南宋嘉定十二年（1219年）设置关隘。民国十八年（1929年），康县在白马关设立县治，至民国三十五年（1946年）县治迁往岸门口后，此地改名为云台。

云台镇位于万家大梁北麓，地处康县城东北部13公里处。全镇总土地面积17.44万亩，其中耕地面积2.3万亩。平均海拔1125米，年平均降雨量750毫米，年平均气温13°C，全年无霜期185天。这样的自然条件适宜多种农作物和经济林果生长。

云台镇现辖19个村民委员会。全镇总户数2851户，总人口12299人，其中从业人员6180人。基础设施方面，19个村已全部通电、通邮、通公路，18个村通电话，8个村通自来水，1个村通有线电视。教育医疗方面，全镇有各类学校15所，教师99人，在校学生1981人；有医院或卫生院1所，医生8人，病床17张。

在经济方面，以2004年数据为例，云台镇国内生产总值1428万元，粮食播种面积2213公顷，粮食总产量4731吨，农民人均纯收入1248元。地方财政收入与财政支出均为68万元。当地名优特产包括核桃、板栗、花椒和蚕茧。

云台镇历史底蕴深厚，清雍正七年（1729年）阶州直隶州在此设白马关州判，乾隆元年（1736年）改设阶州直隶白马关分州。民国二年（1913年）改设白马关警察所。1958年改为云台公社，1983年10月改设为云台镇。镇内保存有白马关城址，该城建于清光绪三年（1877年），是重要的历史文化遗存。此外，云泰山也是当地的一处旅游景点。

2021年12月，甘肃省爱卫会命名云台镇为2021年度甘肃省卫生乡镇，体现了当地在人居环境和卫生工作方面的成果。