青云亭為首任華人甲必丹鄭啟基（又名鄭芳揚）于1673年創建，取平步青云之意。

青云亭原名觀音亭，規模宏大，整座建筑全部用楠木建成，山門上書“南海飛來”四字。

殿內以生漆涂飾，黑紅閃亮，屋檐上有由碎玻璃及瓷造成的神話及動物雕像，在陽光下閃閃發亮華麗奪目。廟內上漆的木雕更加引人入勝。廟里的主神明有觀世音菩薩，左壇是航海者的保佑神天后娘娘。壇上的欄桿描繪了佛祖的生平。庭院里可看到佛教、儒家和道家的教義。這座廟宇的建筑材料都是來自中國。

300多年來，該亭經歷了6次重修和3次擴建。亭內的各種碑文、匾額、楹聯和華人祖先牌位等，是研究馬來西亞華人社會的重要歷史資料。至今仍有不少僧侶居住其中，是馬來西亞最古老的一間華人寺廟。