金台寺是六祖惠能闻经悟道的地方。这座千年古刹建于公元650年以前,原址在新兴县城南外村坛背(今新兴县人民医院内),历史悠久,佛缘深远,是新兴县较早兴建的寺庙之一。如今矗立人前的金台寺,是2000年初由新兴的佛教信众出资重建,位置在南外村狮子岗山上,距离原址约200米远。
金台寺经历了一千多年的沧海桑田,其间多次重建和修缮。明嘉靖年间(1522~1566年),金台寺僧人在原址上重新建起金刚殿、三宝殿、六祖殿,三大殿均坐西向东,并修筑了围墙和寺门。隆庆年间(1567~1572年),金台寺庙宇崩毁,被豪绅强占改为果园。直至万历二十四年(1596年),当地乡民才捐资重建金台寺。此次重建后,金台寺的面积有所扩大,为“东西各三十六弓,南北各三十五弓;又寺前东二十弓、西二十二弓,南北连铺地各三十一弓”(1弓为5尺)。据清代新兴知县刘芳所编《新兴县志》记载,金台寺古已有之,到明万历年间重建,原来寺院规模、田产都不算大。到清代有所扩建,乾隆年间南外村人李豫从云南卸任回乡,对南城外的金台寺加以修缮。晚清时期,清王朝衰落,昔日香火鼎盛的金台寺也日益门庭冷落,庙宇残破,悉数崩毁。1901年,钦点御前花翎侍卫陈光燕从京城回乡,曾寄居于金台寺,给这一古刹留下了最后的辉煌记忆。民国二十年(1931年),时任泽区长的梁翰昭拆除城墙扩阔新兴县城,将县公署从今中山公园处搬到金台寺。
新中国成立后,金台寺先后为新兴县委、县政府的机关驻地及南街小学。1964年,改为新兴县人民医院。自此,这座新兴古寺便踪迹难觅,仅剩下一口弥足珍贵的水井,将关于原金台寺的记忆铭刻在新兴人的脑海中。上个世纪30年代,陈光燕的次子、民国期间广东著名画家陈耀宸,曾创作《六祖金台听经图》以传后世。画中的金台寺就是根据他少年时期随父寓居金台寺的印象所绘。这幅画也成为新兴现存对原金台寺较有价值的研究资料之一。