清咸丰七年（1857），英、法联军进攻广州，炮轰新城，把两广总督都堂夷平。总督叶名琛被俘，省城被占。

咸丰十年达成和议。当时劳崇光继叶名琛督粤。法驻华参赞哥士耆到粤，以天主教传教士无居留地及借口清政府在“教禁”时期，曾经没收天主教在广州地区的教堂，胁逼永租被夷平的旧督署地址为建筑教堂之用。劳崇光许之，但只许其建筑教堂及医院学校育婴院等屋宇。双方的合约要点如下：①交还前时所充公之天主堂学房房廊等。②将粤东省会新城内空地一块计四十二亩六分六厘永租与法国转交天主教的普行劝善会。③再将前址附近之东南二面地基即南至城墙，西至天主堂地址，北至大新街，东至白米巷等合计一十七亩六分九厘永租与法国转交天主教一并建造天主堂及医院、育婴堂专用。④上述租地每亩每年租钱一千五百文。⑤旧有省城及佛山、顺德、官山、小固、雷州、石城、肇庆、三洲、连定、东占、乐昌、梧州、桂林等处共天主堂十八座及该堂所属之田土房廊一概相让，再立永远租给合约。

1863年6月18日是天主教的圣心瞻礼日，石室正式举行奠基典礼，因此石室的名称为圣心大教堂。由于该教堂全部用花岗岩石建成，一般人称为石室天主堂。教堂的建筑面积2700平方米。南北长78。69米，东西宽35米，高约58米，比六榕寺花塔还高一米多。

石室的建筑工程浩大，正面一对高耸双尖石塔，石塔中有钟楼，这种哥特式建筑形式，是中国惟一的中世纪欧洲盛行的风格。在教堂前面东侧的角石上，刻有拉丁语jew－salem（耶路撒冷）1863，西侧的角石上刻有roma（罗马）1863，其意义是天主教创立于东方之耶路撒冷，而兴盛于西方之罗马。当年并分别以取自耶路撒冷及罗马之泥块各1公斤作为奠基之用。

该教堂是由法国工程师设计及施工。具体指挥完成这一巨大工程的总管工，是广东省五华县建筑工人出身的蔡孝。所用的花岗石，采凿于香港九龙，以机船运至广州。从打磨到吊装，都用手工操作砌建，共耗建筑费用40万金法郎。历时25年，于1888年落成，迄今已有100多年历史了。现在经过重修，人民政府把该教堂列为全国重点文物保护单位。

新中国成立后，石室圣心大教堂所有房屋已交由中国天主教爱国会转给中国天主教会使用。