一九二四年张巴拿巴分裂，北方总会转到天津。南方则于一九二六年在南京虎距关一号租房建立总本部。一九二七年十月二十日迁上海华德路（今长阳路）寿品里二四五号。一九二八年移至宝山路八五零号及对面横滨路口八二零号。在这里召开了七大及南北合一的代表大会。
一九三二年，日寇进攻上海，发生了一·二八事变，总部及印刷厂全都被炮火轰毁。邓天启足部受伤，罗喜全殉职。之后，总部迁到法租界辣菲德路（今淮海路）一二九六号。国内外各地真会纷纷支援，重建总会。在这里召开了八大。之后又迁往闸北柳营路童家宅，自建了中枢会所。在这里召开了九大、十大，也开过一次神学会。过了三年多，又被炮火击毁。总部人员及眷属就搬到高乃依路（今高安路），以后又迁到极司非而路（今万航渡路）四十三号。一九三七年上海沦陷，仍在极司非而路，直到一九四四年总部内迁重庆。抗战期间，张撒迦、蒋约翰、邓天启三位仍在极司非而路办公。
一九三七年，日寇进攻上海，战事再度爆发，总部已迁极司非而路，谭配得为总部看守闸北房屋，在日机大肆轰炸二十余天当中一直坚守。