徐家汇位於上海徐汇区的高知名度地区和商业中心，徐家汇的名称由来，可以简单概括为“ 因水成汇，因人得名”。
明末时期，有个著名的科学家叫做徐光启，他亦是文渊阁（清宫藏书楼）大学士，曾在此处建立农庄别业，从事农业实验和著书立说，死后亦葬於此地。
徐光启部分后裔在此开枝散业，逐渐形成聚落，初名徐家厍（she）——在吴江地名中，“厍”被用於南厍、北厍等村庄名，后渐成集镇，结合其位於河道交汇处的地理特点（肇嘉浜和李枞迳两水会合处），在清康熙年间正式得名“徐家汇”。
公元1600年，徐光启在南京认识了利马窦，於1603年成为上海地区第一个天主教徒。
清道光二十一年（1841年）鸦片战争后，曾遭罗马教廷下令解散的耶苏会（Jesuits）卷土重来，西方传教士再度来到上海。
第一次鸦片战争（1839—1842）后，清政府根据《南京条约》向英国支付2100万银元（西班牙银元）。第二次鸦片战争（1856—1860）后，清政府被迫支付更大赔款，（如《天津条约》《北京条约》）。往后的《马关条约》（1895）、《辛丑条约》（1901）赔款数额更大，进一步摧毁清朝财政与国家主权。
虽然战争赔款本身不直接用於建教堂，但导致赔款的战争，却通过签定不平等条约，为传教士在华活动提供了“ 法律保障” 和特权，间接促成了教堂的大量兴建。在条约谈判中，传教士担任了翻译和顾问的角色。战争后签订的不平等条约，包含了允许传教、租地、建教堂的条款，为教堂建设扫清了障碍。
条约还赋予传教士领事裁判权（不受中国法律管辖）等特权。部分传教士借此强占土地房产，引发了大量“ 民教冲突”。由於战争失败和随之而来的条约体系，确实是传教士得以大规模进入中国内地并建造教堂的根本政治背景。
清咸丰元年（1851年），法国天主教耶苏会教士南格禄得到一块由徐光启后人转赠的土地，也就是蒲西路120号，建了一座天主教堂，名为St. Ignatius Cathedral。咸丰九年（1859年），法国耶苏教会教士年文思正式成为第一任江南宗座代牧，法国耶苏会自此控制中国江南地区的天主教管理权。
由於 St. Ignatius Cathedral 太小，再由徐光启后人和一户陆姓人家捐出一块地，即蒲西路158号建造一座更大的新教堂。
建造过程历时15年，建成后的徐家汇天主教堂，也就是 St. Ignatius Cathedral，成为了上海最大的天主教堂。教堂高5层，砖木结构，东向正立面设两座钟塔，高56.6 米，尖顶有十字架。其中青石板瓦覆盖的塔尖高31米，立面中间有叠涩形成的多层拱卷大门，玫瑰窗及山墙。正门上面有4座福音圣人雕像，正中设耶苏抱十字架大石像，屋檐上还有64尊形态各异的滴水兽，如同建筑的守护者。
19世纪末，徐光启墓附近地区全部成为上海天主教中心。
抗日战争初期，徐家汇天主堂及其周边地区被法租界控制，从主教到教会的主要职务都由法国巴黎耶苏会教士担任，教会建筑全部挂上法国国旗，还搞了保卫团。徐家汇天主堂以及徐汇中学等建立了难民所，租界下辖的教堂管理方，借 “为难民募捐” 的名义敛财，发给难民的都是质量较差的物品，其余全部被教堂管理方据为己有。
日寇入侵中国，1940年，法军把徐家汇地区安全交给日寇军方负责，抗战胜利后，徐家汇天主堂重新成为法国、美国等耶苏会的活跃地带。1953年，新中国政府把一部分疑是从事间谍活动的天主教职人员驱逐出境，这些人受罗马教廷以及法国、美国耶苏会指派下，以上海各大天主教教堂、神学会、学校为据点，控制了上海当地的天主教宗教活动。
1956年，上海市天主教界开始脱离罗马教廷，自行组织宗教协会，徐家汇天主堂等教堂开始脱离国外耶苏会和梵蒂冈的控制，转而归属上海市天主教友爱国会管辖。
1960年4月，上海市天主教第一届代表会议选举张家树神父为上海教区正权主教，祝圣义式就在徐家汇天主堂举行，从此徐家汇天主堂成为主教座堂，改奉圣母为天主之母为主保，称天主之母堂。
1989年9月25日，徐家汇天主堂被上海市人民政府公布为第五批上海市文物保护单位，第一批上海市优秀历史建筑。2013年3月5日，徐家汇天主堂被国务院公布为第七批全国重点文物保护单位，徐汇区人民政府组织人员对教堂展开大修。
2015年开启修缮工程，至2017年12月初完成，徐家汇天主堂最大程度恢复了新古典主义时期法国哥特复兴风格的建筑原貌；红色的清水砖墙，白色的石柱，青灰色的石板瓦顶，教堂坐西朝东，平面呈拉丁十字形，五廊型巴西利卡（Basilica—是古罗马的一种公共建筑形式），两则各有两个侧堂，后堂呈八边形。
堂内共有64根用金山石精刻叠成的楹柱，每根立柱用10根小圆柱拼合而成束柱。堂中央东西两面的大窗都装以彩色玻璃，描绘着圣经故事，阳光穿透时，会在室内投射出绚丽斑斓的光影。大堂室内为大方砖铺地，中间走道则铺上从法国运来的花瓷砖，大祭台在教堂后部的中央，上方有耶苏圣母像，祭坛上还有电子风琴。
这座“远东第一大教堂 ”，以它57米高的红色双塔，切割着上海的天际线。内部64根石柱撑起的，是一个可容纳三千灵魂的恢弘空间。当天咱们参观教堂时，主持弥撒的神父和教徒们正唱着赞歌，歌声沿着64根石柱和高耸的尖拱穹顶盘旋而上，光影与歌声的交响，给人一种声音与祈祷一同升向天堂的感受。
