天主教传教士重返上海后，就开始在浦东和崇明等地传教，并建立了不少“堂口”和“小堂”。所谓“堂口”，实际上是教会的基层组织；“小堂”则是教徒进行宗教活动的场所。一般一个堂口都有一个小堂，“小堂不是别的，只是一间厅堂。厅的深处立有一座祭台，祭台上竖有一帷幔，祭台两旁各有一只小几桌。祭台上一般装有一架十字苦像，一帧耶稣或圣母的圣像，4或6只粗制的烛台，一幅帷幔掩住了墙壁，作为小堂的底幕。在祭台两旁的小几桌上，悬挂着两幅画得并不高明的天神像：一幅是护守天神导引着一个中国小孩，一幅是总领天神弥额尔战败幽王魔鬼的像。这两只小几桌因而称作天神台。小堂旁边就是神父的住屋，住屋用薄板分成两间，内间作为卧室，外间作为餐室”（注：史式徽：《江南传教史》第1卷，第126-127页。）。 这样的小堂当然是十分简陋的，但它的建立使那些“世代老教徒”与教会重新取得组织上的联系，后来的天主教堂，以及本堂区和总本堂区就是在这种堂口和小堂的基础上逐步发展起来的。
    随着教务的推进，入教者越来越多，小堂已无法满足“集合教友”之需，于是而有各种规模不等的天主堂之设。1851年法国耶稣会士在徐家汇建立了开埠后上海第一座天主堂。此后，天主教会又在上海及郊县地区陆续建立了一大批教堂，其中上海的董家渡天主堂、洋泾浜天主堂、老天主堂和虹口天主堂、郊县的佘山天主堂、张家楼天主堂、唐墓桥天主堂、淞江邱家湾天主堂、南桥天主堂、崇明大公所天主堂等都是其著者。天主堂的次第建立，必然需要大量的神职人员，单靠欧洲天主堂传教会派遣的传教士是永远不够的。因此，创办修道院和神学院，培养中国神职人员成了天主教传教会的当务之急。早在1842年首批来沪的法国耶稣会传教士李秀芳就在张朴桥开办修道院，物色有志传教的青少年入院受教，次年2月正式开始授课。该院几经扩充，先迁横塘、 再迁张家桥，三迁董家渡，最后从董家渡陆续迁往徐家汇。1862年后，法国耶稣会又在徐家汇相继创办了耶稣会初学院、文哲学院和神学院。初学院和文哲学院以中国修士为主，但神学院则以外国读书修士（入文哲学院读书称读书修士）为主，譬如1910年共有17位修士入神学院攻读神学，其中中国修士只有3人。
    传教士到上海来当然以传教为主要目的，但为了扩展天主教会在上海的影响力，他们在宣传教义的同时，还创办了一系列文化教育及慈善事业。其中教育机构以震旦大学、徐汇公学、崇德女校、圣芳济学校、启明女校、圣若瑟学校、晨星学校、天命学校、圣家学校和中法学校（系法租界公董局所设，但主持校务者为耶稣会神父）等最为著名；医疗机构以公济医院和广慈医院影响最大；慈善机构主要有土山湾孤儿院（附设制作宗教用品和印刷宗教经书的工场和印刷所）、徐家汇圣母院育婴堂， 以及专为收容孤老而设的老安院等； 报刊主要有《益闻报》（1879年创刊，1898年与新创办的《格致新报》合并，改出《格致益闻汇报》，1907年更名《时事科学汇报》，1908年始简称《汇报》，后来的新闻史著作为避免重名误会，一般称之为“徐家汇《汇报》”）、《圣心报》（创刊于1887年7月，系直接面向教徒进行修身教育的刊物）。 此外，天主教教士还在徐家汇创办了一家藏书达3万册的图书馆、 一家自然历史博物馆和两家天文台。这些文化教育及慈善事业大多是在“爱”的名义下创办的，虽然在条约制度下他们的传教活动不免蒙上了政治和外交的色彩，有的传教士还曾为西方列强侵略中国效过劳，但多数传教士到上海来还是出于对天主教的虔诚，他们所创办的文化教育事业除了传播天主教的教义外，也传播了不少西方近代科学知识；他们举办的收容孤儿孤老、救济穷人和看护病人等慈善事业，作为天主教所标榜的“爱”的实践和传布天主教、发展教徒的重要方法，并不都是“伪善”和“假仁假义”。正因为如此，许多人走近天主教，进而信仰天主教，成为虔诚的教徒，天主教会的传教事业才得以在开埠后的上海快速发展。
    教务的推进和一系列文化教育及慈善机构的创办，无不需要巨额的经费。照常理说，筹措经费当是传教士面临的艰巨任务，但上海天主教会并没有感到特别大的压力。据法国《人道报》说，上海的天主教会相当富有，“耶稣会、味增爵会和其他教会在上海法租界拥有三亿法郎的财产。罗伯神父（Pere Robert）为上海企业界重要人物之一， 他留给后世一股铜臭味。比利时的神父拥有150 栋房屋，并在‘霞飞’（Joffre）和克里孟（Clement）两地建筑大酒店出租。 在道路两侧的地产，大部分是归传教会所有”（注：吴圳义：《清末上海租界社会》，第74页。）。上海天主教会是否拥有如此庞大的财产暂且不论，但的确拥有相当可观的房产和地产，是上海的大房地产主。1901年的一份法国领事报告证实，耶稣会是法租界某些容纳妓女的华人旅店的所有人，该会的传教士对于这些财产的收入觉得十分满意，因此不欲让其改建为欧式的建筑。他们以本身的开支十分浩大，再加上由于缺乏一位主教而无法筹募款项为藉口，拒绝租界行政当局拆毁这些旅店的要求。当时的徐家汇、董家渡、虹口和洋泾浜天主堂都设有“经租帐房”，负责经营教堂所属的地产和房产。除了房租和地租收入外，晚清上海天主教会的经费还有两个来源：一是外国政府和外国教徒的资助，上海天主教会设立徐家汇、佘山天文台和开办震旦大学等都得到法国和其他国家经济上的援助，此外“教会每年从信心会（The Society forPropagationofFaith）和圣婴会（The Society of the Holy Childhood）接受赠款，并从各国教会成员那里接受援助，特别是从法国、荷兰和美国等地”（注：徐雪筠等译编：《上海近代社会经济发展概况》，第115页。）； 二取自中国教徒，天主教教规第4 条规定教徒“该量力供应圣教会之要需”，教徒有义务向教会提供一定的经费，其形式主要有募捐、教徒奉献和当弥撒等，其中募捐一项尤为可观。1873年4 月落成的“约可容千人”的佘山天主堂就是向中国教徒募捐所得建造的。