据说青云亭是首任华人甲必丹郑启基（亦名郑芳扬，福建漳州人）於1673年创建，为马来西亚历史最悠久的华人寺庙，庙里正中供奉着观世音菩萨，古庙原名观音亭，建材和工匠全部来自中国。
多年后蔡士章在任期内目睹日久失修的青云亭有倾倒之危，积极与海关诸同人商议募款重建青云亭，蔡士章出资数目排首位。
青云亭经过几次修建，目前所看到的建筑则是1801年（清嘉庆六年）由蔡士章加造重建，把青云亭由最初的一座开放式建筑（亭子）扩修成一幢庙宇，还增设医施药所，惠及贫困人士。
嘉庆六年重修青云亭的石碑上写着：“ 吾想夫通货积财，应自始有，而臻富有莫大之崇高，有凌霄直上之势，如青云之得路焉，获利故无慊於得名也，故额斯亭曰青云亭。” 青云亭之名是取平步青云之意。
2007年，青云亭被列入联合国世界文化遗产名录，曾於2002年获得联合国教科文组织亚太区文物古迹保护奖，被认为是杰出古建筑修复工程典范。
青云亭占地四万九千五百二十平方尺，庙宇雄伟庄严，大殿正座供奉观音大士，左右为关帝和天后圣母神座。
数百年来，在葡萄牙以及荷兰统治马六甲时代，除了负载着祭祀和乡谊的责任，青云亭是华人甲必丹的办事所和解决纠纷的仲裁处，亦是华人会议中心。后来英国殖民者废除甲必丹制度，青云亭仍然扮演着法制的角色，直到1911年英国在马来亚实施华民政务公署制度才停止，从此转向调停信仰分歧等争论。
1914年，福建莆田龟山福清禅寺的平章上人在青云亭主持法务，日据时期，日寇对华文教育下禁令，金明法师在青云亭里以办佛学班为名，教授佛学与华文，在一片战火中维系了一条中华文化的命脉。
1949年9月28日，马来亚联合邦钦差大臣（英殖民地官员）Henry Lovell Goldsworthy Gurney联同森美兰严端阿都拉曼及雪兰莪苏丹东姑阿林莎签署，在宪法上颁布名为“ 1949年青云亭（组织）法令 ” ，将具有3百多年历史的青云亭正式列入受法律保护的机构。该法令下的青云亭组织与一般社团组织有差别：普通社团只须会员表决赞成，便可通知社团注册官执行一切会务，甚至包括售卖资产或解散该团体；在联邦立法会议里通过的”1949年青云亭（组织）法令” 则不同，经宪报公布后成了独特的法律，此后若有任何变更，就必须重新带进目前的国会讨论。立法会议提出青云亭作为维护华社信仰者的权益和地位，从此受到有关法律的保护。
在甲必丹与亭主掌权期间，青云亭一再扩建，正殿中央供奉观世音菩萨，左边是天后圣母，右边是关公、保生大帝、太岁爷。庙的侧面则祭拜文昌帝、制字先师仓颉、伏魔大帝、伽蓝菩萨及福德正神。周围的墙垣柱梁檐顶，皆为中国工匠所设计雕刻彩绘，栩栩如生的壁画，反映着许多的中国民间神话故事。
根据一篇文章《青云亭轶事》所述：其实蕴藏在青云亭背后，还有数百年来许多信徒善士捐献出来，如今价值数以千万的产业和土地、3百多英亩义山、多间神庙，还有未向外界公布的巨额存款，由此反映出青云亭历任甲必丹亭主以及信托人的尽责努力作出了巨大贡献。
青云亭的财富可能招来了国阵政客的暗中垂涎，掠夺一方把三宝山作为“开刀” 的对象。1976年2月，马六甲干冬巫统首先开腔，认为三宝山阻碍马六甲市区的发展，应该改为工业区。干冬马华公会支会主席陈如英随即响应，同意铲平三宝山，不过建议可以保存宝山亭。此事虽在不久后告一段落，却在8年后引爆另一场更大规模的铲山风暴。
1984年6月23日，马六甲中央县署致函青云亭，追收从1967年算起的土地税，总额高达2百18万马币。1个月后，时任首席部长拉欣淡比芝在马六甲州议会里宣布，政府要铲掉三宝山用那些泥土填海；2个月后，州政府再发信给青云亭正式提出铲山计划。
此时马华公会梁维泮和陈群川恶斗，11月23日，陈派代表陈德泉和黄炳火向首席部长呈交发展大蓝图，要将三宝山75%土地铲平，图中的建设包括：5千间廉价组屋和公园、中华大会堂、明朝古墓、音乐中心、多元室内体育馆、手工艺与土产中心、儿童狄斯尼公园、郑和陵、三宝殿等等。
华社怨声载道，梁陈两派互出暗招，行动党发起保山行运动。马六甲中华总商会、雪兰莪中华大会堂、教总等25个团体在英文报联署刊登大幅广告，把呈交给马六甲州政府反对铲平三宝山的备忘录公诸於世。
此时，青云亭主席余有邻律师交给政府一封信，证明马六甲中央县署早在1968年11月已确认三宝山无须缴交地税，但首席部长驳斥说是县署低级官员之误。此事终於带上法庭，青云亭与政府争论的重点是2百多万的土地税，对铲平三宝山的问题未提诉讼。眼看全国华社闹得沸沸腾腾之际，执政党信誉一泻万里，最终双方庭外和解，州政府同意修改土地税，每年只征收象征性100马币，三宝山事件方告落幕。
还有一件重大事件发生於1974-1975年：土地屋业发展商张武易一伙人，手中竟然持有第二任甲必丹李为经夫妇合葬在邓普隆山脚墓地的“ 合法地契”，还穿过繁文缛节，从土地局警察以及市议会取得挖坟准证，打算铲平李为经夫妇墓地来兴建房屋。（特别受人尊敬的厦门人李为经向荷兰殖民者买下三宝山及邓普隆山(Bukit Tempurong)献给青云亭作为华人坟场。）
1975年2月8日，张武易的代表律师许金龙致信青云亭铲坟即将开始行动，青云亭理事立刻通报马六甲历史协会、国家博物院及国阵政要，最终经陈芝兰律师与马六甲州行政议员熊秧宝多方调解，允许发展商在三宝山脚下的培风第三小学扩建蓝球场，换取发展商放弃挖坟计划。
幸亏有了“ 1949年青云亭（组织）法令” 的通过，有如一把铁伞将青云亭的一切财产，特别是三宝山如此具有崇高历史价值的义山坟地层层保护。谁动了歪念，就必须带上国会检讨该法令，到时肯定闹个天翻地复，掠夺者亦必定会付出沉重的政治代价，由是起到阻吓的作用，让那些孬种政棍有所忌惮，三宝山那些经历了好几个世纪的古墓始得保存至今。
