与头绪繁多且困难重重的内政方面的问题相比，南京国民政府所面临的外交问题同样十分棘手。国民党自1924年改组以来一路高唱反帝口号，鼓动并吸引了广大具有强烈的民族主义情绪的民众。但是，作为革命党，国民党可以尽情地鼓吹反帝革命，从而暴露北洋政府外交上的软弱无能；而担负起执政党的角色之后，便逐渐感到要继续倡言反帝，并不那么容易。何况，蒋介石早就对武汉政府时期的“革命外交”有所领教，且深为反感，他自然相信，即使对孙中山所强调的废除不平等条约诸事，亦须按部就班地在政府指导下，与列强各国政府和平解决，绝不能诉诸民众运动。问题是，蒋介石等上层国民党领袖要着重关心政权的巩固问题，而中下层的众多国民党人却不可能骤然停止革命的惯性思维。南京国民政府建立之后，随着日本三次出兵山东和济南事件的发生，国民党上下层之间的这种矛盾的状况，就清楚地表现出来了。

日本第一次出兵山东是在1927年5月间。5月28日，鉴于当时国民革命军开始向山东挺进，日本政府发表了出兵山东声明，决定派原驻满洲的第33旅团进驻青岛，并编组海军第2舰队，担任山东方面警备。此举引起中方强烈不满。不仅北京、武汉、南京三个国民政府相继向日本政府提出抗议，而且激起了中国民众的愤慨，各地民众纷纷掀起了抵制日货运动。这一事件虽然由于北伐军在徐州战役中大败，退回南京，日本政府于8月30日宣布从山东撤兵而暂告平息，但问题并没有得到解决。

日本在山东的特殊权益，是其利用第一次世界大战的机会，从德国人手中夺取的，并不具有合法性。因此，迫于各国的压力，日本政府不得不在1922年2月华盛顿会议期间与中国签署了《中日解决山东悬案条约》，承诺将德国旧租借地胶州交还中国，撤退进驻现驻胶济铁路及其支线的日本军队和宪兵，胶济铁路及其支线一切附属财产移交中国。然而在随后具体解决山东悬案的谈判中，其利用中国政府的软弱，坚持强迫中国方面要承认日本在山东仍然享有某些特殊权益。这包括日本占领胶州湾租借地时，为方便日本移民而填平的海岸低洼地和强行购买的土地及出租的官地；济南、坊子、潍县、张店、淄川、博山、周村等处的日方产业归日本政府保留或使用，等等。日本政府正是以保护这些特殊权益来作为自己必须出兵的理由的。因此，当1928年4月南京国民政府开始再度北伐，向山东推进后，日本政府4月17日又再一次决定出兵中国山东，并于一周后，即25日就已经派兵5000在青岛登陆，次日一部更进驻了济南。

日本政府决定二次出兵山东的消息发表后，国民党中常委第128次会议很快就进行了讨论。蒋介石的态度很明确，一切为了北伐的胜利，为此要极力避免为日本提供干预北伐军的口实。会议据此决定为保证北伐的胜利，反对一切形式的罢工、罢课，并且不允许进行大规模的集会或示威，要求各地党部执行中央决议，督导民众运动团体以和平方法进行反日宣传活动。但这并没有能够阻止日本兵制造“五三”惨案。惨案发生后，国民党中央不能不几度召开紧急会议，研究应付办法，并且制定出了《对日经济绝交办法大要》。然而国民党还是再三强调，对日“非集全民之财力、武力，出以有训练有计划之斗争”，“若激于一时之愤，为无训练、无计划之动作，不特于国无益，势必堕其术中，更增困辱”。不料，受到北伐军“打倒列强除军阀”的激进口号激励的各地青年学生的激愤情绪却难以控制，国民党中下层党员、干部也同样难以抑制自己的愤慨。故5月5日之后，上海的学生就开始大规模地组织起来，纷纷以罢课、集会、示威和公开进行街头演讲的方式，表达自己的强烈愤慨。与此同时，广州、南京、南昌、芜湖、福州、梧州等地学生也纷纷召集反日群众集会。这些活动从一开始就与执行国民党中央指令的军警宪发生了冲突。国民党中央政治会议虽有临时会议，国民党中央党部和国民政府委员会虽有联席会议，一致要求各地学生停止同盟罢课、游行及检查日货，听从中央的指导，却未见明显成效。

由于事件的刺激和担心学生运动失控，国民党上海市党部率先开始把民众反日运动引向组织化。它在7日召集总商会、商民协会、农民协会、学生会、妇女协会等21个团体代表举行会议，决定建立上海各界反对日军暴行委员会（即“反日会”），并在2天后通过市民大会推荐的形式，成立了由各界代表23人组成的反日会执行委员会，下设5人组成的常务委员会作为执行机构。国民党上海市党部党务指导员兼宣传部长陈德征以《民国日报》主编的身份，作为新闻界的代表担任执行委员会主席，上海市党部党务指导委员会常务委员王松廷作为国民党代表担任副主席，上海工会整理委员会代表刘云，上海商民协会代表邬志豪，上海学生联合会常务委员、复旦大学学生陇体要，分别担任执行委员会的常务委员。反日会除有组织地开展宣传活动外，还根据国民党第134次中央常务会议制定的《对日经济绝交办法大要》，成立了对日经济绝交委员会，通过了《经济绝交进行大纲》。该大纲规定以5月16日为限，除一些必需品外，所有日本商品一律不许进口，已经进口的日本商品必须于5月31日以前到检查委员会登记，同时缴纳一般为50％的救国基金，发给流通贩卖许可证。任何违反上述规定而私自贩卖日货或代理贩卖者，即按奸商处理，并公布名单。

受上海经验的影响，南京、广州、南昌等地国民党人也先后出面成立了反日会、外交后援会、经济绝交委员会等反日团体。各地反日会的组织还于7月24日正式召开了全国反日大会，并于30日召开了第一次执行委员会会议，推举陈德征等为常务委员，王廷松为监察委员，陇体要为秘书长。其第二次执行委员会通过的《告全国民众及世界民众书》明确提出，该会主张在经济上促进绝交，提倡国货，要求关税自主，政治上反对妥协外交，要求修订不平等条约，要求日军立即全面退出山东省。会议通过并公布的《对日经济绝交计划大纲》，提出比上海反日会更具体的一系列规定，把粮食、棉花、煤炭、铁矿等出口商品定为绝对禁止品目，国内工厂无法处理的剩余产品定为相对禁止品目。除此之外的一切日本商品一律全面禁止进口。在金融部门，禁止使用日本货币，存于日本银行的储金需全部提出，中断同日本的外汇交易。在交通部门，禁止乘坐日本船舶，拒绝运输日本货物。这次经济绝交运动的结果，使日本对中国的贸易受到相当大的影响。日本—上海航线出口到中国的货物总量，“五三”惨案爆发前的1928年4月为61000多吨，惨案爆发当月为51800多吨，6月即猛降到28600多吨，7月更减少到27600多吨。而中国对日本出口商品中占有最大比重的糖，5月为25000多吨，6月就猛降到5500多吨，7月只剩下3700多吨。浙江、江苏、安徽、江西、湖南、湖北等地的出口额，6月和5月相比，也猛降了一半以上，由5月份的18704日元，大幅下降到9169日元。

由济南惨案所引起的全国性反日运动，是南京国民政府成立以后第一次群众性的维护国家主权和尊严的斗争。在此之前，蒋介石的基本方针是一切为了北伐胜利，对外要忍辱负重，即所谓“不屈何以能伸，不予何以能取，犯而不较，圣贤所尚；小不忍则乱大谋，虽贤所戒”。至济南惨案发生，蒋介石内心虽激愤异常，对日却仍旧极力谋求妥协，生怕进一步刺激日军，直接干预北伐。为此，他甚至秘密告诉负责谈判的外交部长黄郛：如日方能不妨碍北伐军继续北上，予以自由运输，“则对于反日运动，中正可以极严厉手段阻止之。如此，则向来关系依然继续，且亦加厚。中正为增进睦谊计，亦可以向日军道歉，表示真诚也”。但是，在国人强烈的反日情绪的压力下，不论日方怎样要求，黄郛事实上都无法做出向日军道歉的举动。一方面国内反日运动此起彼伏，国民党中央和新政府都必须公开做出捍卫民族尊严的强硬姿态；另一方面在对日交涉中因受蒋介石主导，黄郛态度软弱，在日方压迫下步步退让，终未能避免惨案发生，还是不可避免地引起了国内舆论，包括国民党高层人士对他的冷嘲热讽。眼见妥协方针并无成效，而日本亦无武装干涉北伐军的意向，军事进展顺利，国家统一在即，出于塑造孙中山合法继承人的形象考虑，蒋介石马上转趋强硬，反过来要求黄郛辞职，改由当年在巴黎和会上代表南方政府，曾经表现强硬的王正廷接手外交部长一职。

王正廷于1928年6月6日被正式任命为外交部长，6月15日，他代表国民政府发表对外宣言，明言：中国80余年备受不平等条约之束缚，今当中国统一告成之际，当遵正当之手续实行重订新约，以合乎完成平等及相互尊重主权之宗旨。7月7日，他以外交部名义，发表《废约宣言》，称：“对于一切不平等条约的废除，及双方平等互惠主权新约之重订，久已视为当务之急。”表示决心依如下三原则加以重订：（1）已届满期之条约，当然废止，另订新约；（2）尚未满期者，国民政府当以相当之手续解除而重订之；（3）旧约满期而新约未订者，另订临时办法处理一切。

王正廷的这两个宣言一经发表，当即得到部分国民党人的热烈响应。他们随即趁热打铁，吁请中央由此开始厉行“革命外交”，以伸国权，以副民意。尽管这些国民党人所主张的“革命外交”，并非是要继承武汉政府时期那种根本否认以往中外条约合法性，单方面通过外交谈判逐步废除列强在华特权。通过群众运动对列强各国施以威胁性手段，逼其放弃过去条约的革命做法，但它一经提出仍在全国范围内引起了强烈的反响。

社会舆论越是强烈，王正廷也就越是雄心勃勃地要加速实现他的计划。按照他的计划，中国政府应当在1928年即完成与各国谈判收回关税自主权；1929—1930年进行撤废领事裁判权的交涉；1930—1931年着手收回租界主权并撤销外国驻军之权；1933年争取收回各国在华租借地，恢复中国固有的全部领土。可以看出，王正廷的做法是想遵循国际公法。但越是这样，他想要顺利实现其计划的困难也就越明显。

1928年7月，王正廷开始分别照会商约期满的丹麦、意大利两国政府，接着又照会同样商约期满的法国、日本、比利时、西班牙、葡萄牙等国，声明与上述有关国家的旧约或商约本年6月30日已经满期，应照前述临时办法废止旧约，在平等及互相尊重领土主权的基础上另行订立新约。面对南京政府的修约要求，且迫于中国民众和舆论的压力，欧洲各国政府在坚持新约未订之前旧约继续有效的前提下，大多表示愿意根据平等互惠的原则，派出全权代表与国民政府谈判订立新约，惟日本方面指责临时办法为中国单方面所颁布，不仅使现行有效之条约失其效力，而且是蔑视国际信义之暴举，扬言要采取必要的行动来维护自己的利益。然而，在多数国家已经表态愿意谈判新约的情况下，无论是王正廷还是国民政府，都没有因为日本的激烈反对而有所退缩。何况，条约尚未期满的美国政府已率先表明了愿意与中国国民政府重订关税协定的意愿。

7月10日，美国驻华公使马克谟奉命照会国民政府，表示愿与中国订立关税新约。次日，中国赴美专使伍朝枢亦照会美国国务院，请其任命正式代表与中国商谈中美新约问题。20日，随同蒋介石等政府要人前往北平巡视的财政部长宋子文会见了马克谟，几天后即与马克谟签订了《整理中美两国关税关系之条约》，明确规定历来中、美两国所订立有效之条约内有关在中国进出口货物之税率、存票、子口税并船钞等项之各条款应即撤销作废，今后当遵循国家关税自主之原则，对于两国人民则采取互惠及国民待遇。条约内虽留有一条“享受与他国平等待遇”的尾巴，但中美新约的签订，到底打破了中外关税自主交涉的僵局，为实现1926年关税会议关于1929年1月1日之前恢复中国关税自主的决议开了一个好头。它对国民政府开展修约谈判，更是一个极大的鼓舞。

随后，王正廷以中美新约为样本，很快开始了与比利时、西班牙、葡萄牙、丹麦、意大利和日本等国的关税自主谈判，并在1928年年底之前连续签订了中挪、中德、中比、中意、中丹、中葡、中荷、中瑞、中法、中英、中西等11个关税平等新约。到1929年1月1日，中国预定实行关税自主的最后期限时，只有日本一国仍然阻挠中国实行自主。经过不懈努力后，日本方面也只是在国民政府预定延期实行新订税则的1929年2月1日前两天，即1月30日表示同意日侨可暂照中国的新税则纳税。

在关税自主谈判的同时，外交部还开始了与有关国家关于收回其在华租界和租借地的谈判。如1929年8月31日与比利时驻华公使签订收回天津比利时租界协定，1929年10月31日与英国公使蓝普森交换收回镇江英租界的照会，1930年9月17日中英签订收回厦门英租界的协定，以及1930年4月18日中英签订的关于收回威海卫专约与协定等。这些租界或租借地的收回，虽然多半是坐享前北京政府未及收获的成果或武汉政府时期民众强力外交的成绩，有关威海卫的谈判甚至还在“刘公岛续租十年”、承认英人“土地租契”和同意英国收回对威海卫的财政拨款等问题上做了过多的妥协，但是它们的收回到底也还是反映了国民政府坚持改订新约的某些实绩。

国民政府改订新约中最困难的一项是撤废领事裁判权的谈判。国民政府原以为最先在关税自主问题上向中国示以善意的美国会容易突破，故在对各国发出“裁撤领事裁判权”的照会之前，首先就试图与美国达成协议。不料美国这时在中国的侨民已有近万人之多，考虑到中国司法制度的现状，美国政府坚持不便单独废弃华盛顿会议通过的《关于在中国之领事裁判权议决案》。因根据该决议，美、英、比、法、意、日、葡等国政府曾共同组织过一个调查委员会到中国考察过中国的法制状况。1926年9月，该委员会召开的法权会议上提出的调查报告明确认为，中国现在要求收回领事裁判权尚非其时。结果最先在这一问题上做出让步的，还是那些旧约期满、必须改订新约的欧洲国家。比利时最先在1928年11月22日签署的《中比通商条约》中承诺放弃在华领事裁判权。接着，国民政府与意大利、丹麦、葡萄牙、西班牙4国的交涉取得了相应的进展。尽管国民政府与这5个国家改订的新约都加有附件，注明各该国侨民应于现有领事裁判权之国半数以上承认放弃是项特权时，方得受中国法律及法院之管辖。王正廷的官邸还因此遭到民众冲击，但王正廷依旧因此而颇为振奋。在给国民党中央政治会议和国民政府的呈文中，他信心十足地预言：“誓以奋斗精神，积极进行，预期本年以内当可成功。领判权一经撤废，租界之收回即不成问题，其余不平等各点自更迎刃而解矣。”当年3月召开的国民党第三次全国代表大会也在国民政府的外交报告决议案中明确重申了对外政策的三项基本原则：（1）从前中国与列强间所有不平等条约必须取消，重订双方平等互尊主权之条约；（2）以后中国与外国所订条约须以不害双方主权为原则；（3）中国所借外债必须以中国政治上经济上不受损失为标准而重行整理之。

据此，1929年4月27日，国民政府再向英、美、法、荷、挪、巴六国正式发出要求撤废领事裁判权的照会，并于7月12日公开提出了次年1月1日收回司法主权的时间表和从8月30日起逐步撤销多数地区的交涉公署的计划，“以示中国取消领事裁判权之决心”。

9月5日，针对8月美、英、法、荷、挪五国政府复照强调中国法制尚欠完善，必须实行1926年法权会议报告书提出的建议之后，各国才能考虑逐步取消领事裁判权的办法的意见，国民政府外交部第二次分别照会美、英、法、荷、挪五国政府，坚持称：自1926年法权会议报告书提出后，中国国内情形已有极大之变更，政治与司法之气象更焕然一新，要求各国本着友好及同情的精神，立即派出代表与中国讨论废止领事裁判权之必要办法。随后，美、英、法、荷等国继续拖延，仅于11月初复照表示愿意于适当之时与中国开始谈判。鉴于各国列强的这种态度，已经向国民党中央政治会议和国民政府承诺“本年内当可成功”的王正廷不得不通过驻美、驻英公使正式通知两国政府：（1）中国将从1930年1月1日起废除治外法权，此后所有在华外国人都须服从中国的司法管辖；（2）在哈尔滨、天津、上海、汉口和广州五地设立新式法庭；（3）各新式法庭聘用外籍法律顾问，他们可提供审问咨询，但无权干涉审判之权；（4）外国人之间的民事诉讼案件，可由中国领土之外的外国人法庭审理，如其判决结果与中国法律或惯例相符，可由中国执行。此（3）（4）两条得在两年后进行修改。次日，中国驻法国使馆也向法国政府通报了这一决定。

迫于国民政府方面的压力，美、英两国政府在坚持不同意中国片面单方面废约的情况下，不得不曲折地表示，它们原则上不反对中国以1930年1月1日为废除领事裁判权的日期，但这种废除应该是一个渐进的过程，所以他们认为1月1日只能视为是这一过程的开始而非结束。他们愿意在中国政治形势允许的情况下，派员与中国政府进行具体的谈判。既然英、美已表明了愿意妥协的态度，国民政府自然坚持按照既定的时间表，在12月28日公开发表特令，声言自1930年1月1日起，在华外国人“应一律遵守中国中央政府及地方政府依法颁布之法令规章”。王正廷在给驻各国大使、公使的训令以及公开的解释中，也特别强调“此为原则性废除，但不坚持立即实施”，各国对“政府准备之办法如有意见，亦愿于相当期内与之审议”。

无论国民政府在撤废领事裁判权问题上遇到多大的阻力，它的这一系列努力毕竟迫使曾经一度准备联合抗拒的北平公使团放弃了组织联合阵线的企图，并一致认可了逐渐撤废的原则。同时，国民政府的这种努力，也极大地瓦解了美、英、法、荷、挪等国公使在上海租界临时法院司法权谈判问题上的联合阵线。该临时法院1926年8月由原上海公共租界会审公廨改组而成，属江苏高等法院管辖，但审判在华被告的外国人时，须由该国领事会会审，审判涉及外国人的华人诉讼案亦须由外国领事观审，法院的书记官与全体司法警察的荐派之权亦属外国领事。对此，1929年5月8日，国民政府外交部就照会美、英、法、荷、挪、巴六国，要求收回司法权。此举遭到了各国公使的联合抵制，直至12月9日才最终放弃抵制，派代表与国民政府外交部代表进行谈判。谈判中双方争论尤为激烈，先后开会28次之多，但最后各国公使还是被迫与国民政府外交部于1930年2月17日签署了《关于上海公共租界内中国法院之协定》。承认中国可以依照中国法律在上海公共租界内设置地方分院及高等法院分院各一所，其刑事判决及裁决可以上诉于中国最高法院，在法院设置的体例上与全国体例一致，普遍适用三审制；完全废除领事出庭观审或会同出庭；废除外国人书记官长制，由中国政府任命检察官若干人，依照中国法律执行职务，由法院院长委派承发吏，办理、送达一切传票及关于民事案件的文件，并由司法警察会同协助执行民事判决，租界工部局巡捕房应执行法院之判决；附属于中国审判机关的民事监管所及女监应移归各该法院，判处死刑人犯应该送交租界外中国主管机关执行；在法院执行职务的外国律师须向司法行政部呈领律师证书，遵守中国法令。新的协定虽然还保留了司法警察的派充和判决的执行仍须由工部局参与等条款，但此协定毕竟使中国司法机关自1843年签订《中英五口通商章程》以来第一次得以在上海租界有了自主执行职务的可能。不久，法国驻华公使代表也与国民政府外交部代表签订了《关于上海法租界内设置中国法院之协定》。随后，原上海公共租界临时法院改称“上海第一特区法院”，并设江苏高等法院第二分院受理民刑审案件，原法租界内的会审公署改称“上海第二特区法院”，并设江苏高等法院第三分院受理民刑审案件。

就在改组上海租界法院的谈判取得进展的同时，王正廷还在继续推进关于领事裁判权的谈判。1930年1月上旬，他就亲自与英国公使蓝普森在南京举行了相关的谈判。他仍旧坚持要求全面撤废领事裁判权，同意只在5个大城市中设置特别法庭，并在其中设置外国人法律顾问。蓝普森则主张分5年时间逐步地撤除领事裁判权，以案件的民事、刑事与个人身份之不同类别为顺序，逐步实施，并要求中国应任命外籍法官，英国外交人员应享有废案权，特别法庭应在12个城市中设置等。经过坚持不懈的谈判，英国方面最终作出了让步，同意放弃废案权与外籍法官，放弃逐步撤除领事裁判权的原则，设置特别法庭的城市减为10处。中国方面则同意将上海市区暂不撤废10年，天津则暂不撤废5年。到1931年6月5日，中英最终达成了妥协，草签了新约。由于美国在这一问题上紧随英国行事，因此，中英草签新约自然推动了中美新约的谈判，中美谈判也很快取得了进展。然而，国民政府与日本关于废除领事裁判权的谈判却陷入了僵局。

中日之间的交涉，最先卡在济南惨案的解决上。自王正廷接手济南惨案谈判后，始终坚持日本必须自济南撤出全部日军并赔偿中方所受损失，日本方面则坚持中国政府必须道歉、惩办祸首、赔偿日侨损失。双方始终相持不下，从1927年7月断断续续谈至1929年3月24日才最终达成妥协。28日，经双方政府批准，中日代表在南京正式换文，决定日本在济南驻军2个月内撤完，济南惨案中双方所受损害由双方任命同数委员组织调查委员会实地调查决定。该案解决后，双方又谈南京惨案、汉口惨案。对于南京惨案，双方同意仿照中英、中美南京惨案解决办法，由中方向日方略表歉意，双方合组调查委员会，调查事实并办理赔偿损失事宜。对于汉口惨案，日方最终承认道歉，并共同组织调查委员会调查损失再商赔偿。至1929年5月，即南京惨案和汉口租界事件解决方案达成后，中日两国才得以正式恢复邦交并开始交涉修约问题。两文见《中国现代史资料选辑（1927—1931）》，107—110页。恰在此时，中日间修约谈判尚未正式开始，却发生了震惊中外的中东路事件。此一事件明显地进一步刺激了日本人。

中东路事件起因于对中东铁路的控制权之争。按照1924年中苏解决悬案大纲的规定，在中国尚未能备款赎回中东铁路以前，铁路业务由两国共管，中方任理事长，苏方任副理事长。由理事长委派铁路局长1人，由苏方担任；副局长2人，中、苏各1人。以下处长、副处长等按中苏双方平等分配原则任用。而在随后苏方与张作霖政权另行签署的《奉天协定》中，表面上也是所有权中苏各半，一切事宜双方平等，但在对苏籍铁路局长权利的规定中，却接受了苏方的建议，继续沿用旧俄时期订立的临时章程，等于在事实上给了苏籍局长对中东铁路的实际控制权。条约具体实施后，中方任会长的理事会所设督办公署形同虚设，铁路财权和人事权完全掌握在苏籍局长手中，这不能不引起中方的极大不满。

张学良主政后，在中东铁路问题上也感受到同样的麻烦。他很想利用苏联在国际上的孤立地位，在收回中东路权问题上有一番作为。注意到国民政府早于1927年12月就已经宣布对苏绝交，并封闭了苏联驻华各领事馆及商业机关，特别是关内修约运动所掀起的“革命外交”浪潮影响甚大，张学良等不免态度渐趋强硬。1929年3月，在张学良的支持下，东省特区督办张景惠和中东路督办吕荣寰等开始向苏方要求限制苏籍局长的权利，包括路局一切命令与文件应由局长及中方副局长共同签字方能生效；路局各处处长、科长及沿线的段长、站长，应以半数改派华员等，然而，苏方对此断然予以拒绝，矛盾由此迅速激化。

为迫使苏联放弃对中东铁路的特权，张学良批准了采取将事态扩大化的强硬措施。负责办理对苏外交的特区教育厅厅长张国忱借口共产国际执委会在苏联驻哈尔滨领事馆内集会，于5月27日亲率哈尔滨市特警和白俄人员，强行入内进行搜查，当场抄走文件、书籍及其他物件2车，并拘捕苏联驻沈阳总领事库涅佐夫（旋被释放）、驻哈尔滨领事梅里尼可夫及馆员等39人。此举不可避免地使张学良与苏联的关系顿成水火之势。

面对张学良以武力搜查苏联驻哈外交领馆，苏联方面很快作出了激烈回应。但蒋介石这时从彻底使东北与关内中央一体化的角度，则颇愿看到东北与苏联关系紧张，故明确表示支持张学良用强力收回中东铁路。这是因为：第一，这时关内地方派系林立，政争不止，张学良若不能与南京中央政府靠在一起，难免为反对派所利用；第二，这时驻北京的公使团领袖也力促中国政府用武力封闭苏联在北京的大使馆，反映出列强各国对苏态度强硬，东北对苏采取激烈做法，有助于取得列强各国政府对南京国民政府的信任。而蒋介石和张学良这时显然相信，在国际事务中极端孤立的苏联，绝不敢在中东铁路问题上对中国动武。正因为如此，张学良7月7日亲赴北平会晤蒋介石时，蒋介石明确表态，中央政府可以拨款支持张学良对苏采取强硬方针。

正是在这种情况下，1929年7月10日，哈尔滨电话局局长沈家桢首先派员强行接管了中东铁路电信机关。同时，张景惠下令查封了苏联远东贸易局、煤油局、商船局、商业联合会等，并解散了各职工会。中东铁路督办吕荣寰则下令，路局以局长名义发下之各项命令即日起必须由华籍副局长会同签字，否则不发生效力。在遭到苏方拒绝后，吕荣寰次日下令暂停抗令不遵的苏方副理事长和局长的职务，由华籍副局长暂行代理局长职务，同时派员搜查和逮捕了苏籍人员200余人，旋将包括苏籍局长在内的60余名苏籍高级职员驱逐出境。

中国东北方面，特别是南京政府的强硬态度，导致苏方于13日当天发出强烈抗议。对此，南京方面拒不接受，且强调“此次东省搜查哈尔滨俄领馆及对于中东路之处置，本系阻止扰乱治安事件之勃发为目的，不得已而有此权宜之处置”。根本原因在于“东路苏联局长及该路重要职员对于1924年中、俄协定有中东路暂行管理协定，自始即未能切实执行”，“尤甚者，苏联人员辄借该路机关，作险诈违犯中、俄协定之宣传”。南京方面的照会反过来更指责“苏联国政府当局武装将我侨民拘押者，不下千余人；寓俄侨商，困处彼方，受种种压迫，以致无计谋生不能立足者，为数尤众”，进而要求苏方释放一切被拘押之华侨，不得压迫旅俄侨商及团体。鉴于此，苏联政府第二天就召回了其驻华官员，宣布与中国断交。同时即开始向远东地区调兵遣将。

对于苏联政府的行动，南京国民政府坚持认为只是恐吓而已。因为它判断苏联在国际上极为孤立，向东北动武，不能不顾虑国际反响，尤其不能不顾及日本的反应。故南京国民政府公开通电，号召全国军民沉着应变，一心一德，以御外侮。南京方面没有料到的是，东北当局强行收回中东铁路以及中苏边界局势顿然紧张，反而促使日本方面高度警觉，担心此例一开，日本在中国东北的权益也将受到严重威胁。日本外务省发言人为此迅速发表谈话，警告中国政府不得侵害日人在东三省的利益，否则日本必以极端方法抵抗。

为使刚刚有些眉目的对日交涉不致半途而废，国民政府外交部19日借答复苏联17日对华绝交事发表宣言，进一步声称：“此次中东路事件之发生，乃由苏联政府违反中东铁路协定精神之全部，及指使苏俄驻哈尔滨领事馆与利用中东铁路机关及其人员之名义，为其宣传共产主义，图谋颠覆中国政府、假造各国使领馆信号、扰乱东省治安所累积之事实而起。”同日，外交部更正式公布从哈尔滨苏联领事馆搜获的文件。其所作所为，显然是想要用反共宣传来争取国内各派、列强各国，特别是日本方面的谅解。

随着苏方大兵压境，并不断开枪开炮对中方施加威胁，张学良深觉形势严重，不能不一面公开发表对苏作战动员令，派王树常、胡毓坤分任东、西两路总指挥；一面转而要求中央政府出面从外交上加以斡旋，争取妥协。对此，蒋介石和王正廷颇不以为然。除蒋介石不断向张学良打气外，王正廷也几次三番告诫张学良：中东铁路问题“如不予以根本解决，势必贻患将来。既经毅然处置于前，则在未开议之先自不能稍有退让，自陷矛盾。且此时纵我勉予允认，得以开议，彼必更将肆意要挟，多方延宕。与其委曲而不能求全，曷若始终坚持，促彼觉悟。此中利害业经迭电详陈，仍希毅力主持，电饬蔡（运升）交涉员勿稍退让，务令就我范围，万一接洽决裂，窃度彼方虽严整战备，然亦为签字非战公约之国，必不敢以世界为敌，实行宣战。其可为彼方所能持以相迫者，一则虐待华侨，此层已托德使代为保护，政府当设法救济；二则密派党人分赴我国隐图煽动，此层政府自当严饬各省戒备；三则扰乱沿边，除蒙古、新疆由政府另电各该省妥筹防御外，东北沿边即请转饬处以镇静，务期衅不我开”。

蒋介石坚持不做退让，外交部亦态度强硬，国民党中央党部也不时发表声明，印发小册子，以鼓动民气。惟东北各将领，包括蒋介石派往东北辅助张学良的军政官员们却大多逐渐相信，坚持用武力夺取中东铁路势不可行，即使苏联让步，日本因种种原因也绝不可能任我自管。因此，他们都纷纷建议：“为今计，似宜外示坚强，内则速由外交方面秘密进行，以求得一相当解决为妥。”对此，南京方面虽然曲予接受，开始借助德国调停，并通过驻德大使蒋作宾与苏方谈判，但双方的谈判仍迟迟不能取得妥协。结果，苏联对中国东北的军事入侵也就步步升级。满洲里、绥芬河、同江等地接连发生军事冲突。直至10月12日，苏联远东特别集团军下属的黑龙江舰队和黑龙江沿岸步兵组成的战斗集团突入松花江口，包围了同江，并在航空兵的支援下，一举击沉了东北军4艘军舰和1艘拖船，并歼灭了东北军陆战大队长李泗停属下700余人。接着，苏军乘胜驱兵挺进，连续击溃了东北军自同江至富锦的驻守部队，歼灭了东北军松花江舰队的残余兵舰，占领了富锦，2天后始撤回苏境。

同江、富锦两战之后，由于南京国民政府仍旧坚持不能轻易妥协，中苏交涉仍无进展，苏军于11月中旬再度发起进攻。17日，苏军步骑兵在航空兵的掩护下，首先攻击了中国东北境内的密山，东北军死伤超过千人。同时，苏军于外贝加尔集聚8000人的兵力，在坦克、装甲车和飞机的协同下，大规模进攻了扎赉诺尔，全歼东北军装备精良的第17旅。仅1天，第17旅即全军覆没，旅长韩光弟、副旅长魏长林、团长林选青等先后阵亡，团长张秀英等自杀。苏军随即包围了满洲里，于20日迫使东北军守军8000余人全部投降，大批武器装备被缴获。苏军随后还乘胜追击到嵯岗站，并占领了海拉尔。

张学良对上述作战的情况也深感沮丧，其给南京报告的电称：“八月十二日，俄军二千余人与炮舰水陆并进，侵入绥县之中兴镇及李家油房，杀戮人民甚多……十九日俄军侵入绥滨县城，占领官署，烧毁公文，破坏监狱……二十八日俄军侵入奇乾县毕拉尔河，惨杀商民百余名，烧焚房屋甚多。十月十二日，俄军步骑三千余人，炮舰八艘，飞机二十五架侵入松花江，我炮舰一艘，改装炮舰三艘被毁，海军陆战队及陆军共死伤八百人。俄军占领同江县城，焚烧房屋甚多……三十一日，俄军兵由松花江深入一百余里，占领富锦县城，烧毁官署电台，劫商店工厂之粮食，以兵力宣传赤化主义。十一月十七日，俄军三万余人以飞机坦克车各二十余侵入满洲里及扎（赉）诺尔，卢（胪）滨县署及煤矿均被占领，电台铁路车站均被击毁，旅长一员，团长二人，均被击死，下级官佐士兵死亡一千五百余人……同日，密山县城亦被俄军据陷，并以飞机向我军猛攻，击死营长一人，连长三人，士兵三百余名，并向平阳镇一带进攻，深入内地百余里。”

眼见东北军连遭惨重失败，张学良终于沉不住气了。他不顾蒋介石和王正廷的反对，直接指示已经中断交涉的地方交涉员蔡运升与苏方接洽，并且反对王正廷谋求诉诸非战公约组织主持公道的主张。他在11月27日的电文中强硬声称：“外（交）部在德交涉毫无结果，嗣因西北战起，俄人遂益强硬，月余以来无从办理。昨蔡交涉员在哈与俄副领事阔阔林以私人资格晤商，阔阔林云，愿奔走和平。号（20）日阔即由五站至海参崴，由该处高级军官电请苏联政府。旋得复电。阔于有（25）日返哈，送阅原电，内容计分三项：（一）华方承认根据俄中协定恢复东省冲突以前之状态。（二）对于苏联方面根据协定所推荐之正副局长，即行恢复其职权。（三）因纠纷逮捕苏联人民即行悉数释放……查俄人所提各条与主席暨外部所指之最后应付办法大致不差。弟遵照中央意旨，由地方设法了结，认为不能再缓，已致电俄外（交）部大体予以同意。”

迫于情势，南京方面也再难阻止张学良自行其是了。经过讨论，国民政府正式任命蔡运升为谈判代表，赴伯力与苏方举行会议。12月3日，双方在苏联境内的乌苏里斯克签订了《辽俄和平草约》（即《双城子草约》），规定东北当局将中东铁路理事长吕荣寰撤职，苏方推荐中苏铁路正、副新局长，双方公开声明遵守中俄、奉俄两协定。6日，东北政委会决定承认《辽俄和平草约》。22日，蔡运升与苏方代表西门诺夫斯基分别代表中苏双方签订了伯力预备会议记录，即《伯力协定》。其要点为：（1）恢复1929年7月10日以前中东路状态；（2）由苏联改派铁路正、副局长，即日就任，东铁理事会亦先行恢复；（3）两国签约后，立即恢复中苏国境和平状态，双方随即撤兵；（4）立即释放因双方冲突而逮捕的侨民及被俘官兵；（5）中国立即解除白俄军队武装，并将首领驱逐出东北境外；（6）先行恢复苏联在东北的领事馆及国营贸易机关；（7）中苏正式会议于1930年1月25日在莫斯科举行。

中苏《伯力协定》签署之后即告生效，苏军陆续撤返，苏联新任驻哈尔滨总领事、中东铁路局局长、副局长等随即走马上任，并拜晤了张学良。然而，东北局势刚告平静，首都废除不平等条约会却认定《伯力协定》有损国权，呈请中央宣布无效，并要求撤职严办蔡运升。铁道部部长孙科也公开否认《伯力协定》之效力，反蒋各派更是同声鼓噪，认为中苏交恶纯因蒋介石、胡汉民和王正廷等独断而无能所致。对此，国民政府不得不于1930年2月8日对《伯力协定》部分地予以否定，宣称中国代表超越了权限；随后并派全权代表、东北政务委员会委员莫德惠于5月9日抵达莫斯科，与苏方全权代表加拉罕再度进行会谈。这次谈判由于国内中原大战的影响，直拖到10月中旬才得以举行第一次正式会议，第二次会议又拖到了12月初。次年4月以后，谈判才最终可以正常举行了，但围绕着国民政府提出的备价赎回中东铁路的方案，双方在许多细节上始终谈不拢。至“九一八”事变爆发，东三省被日本强占，苏联方面已不必再与国民政府谈判中东铁路问题了。

中苏《伯力协定》的签订，显示苏联依靠武力维护其在中国东北权益的做法取得了成功。这对高度重视在中国满蒙利益的日本是一个相当重要的信息。鉴于列强均已承认中国关税自主，并与中国签订了新的关税协定，日本政府在坚持日本有重要关系之不同物品于三年或一年内不增税及中方确认整理日本债权人与中国无担保及担保不足之款的条件下，在1930年5月6日也最终与国民政府正式签订了《中日关税协定》。但是，对于领事裁判权等更多地涉及其在华特权的问题，日本政府的态度变得更加强硬了。国民政府与英、美就撤废治外法权的交涉所取得的进展，丝毫没有能够促使日本做出让步。对于1930年11月王正廷提出的条约草案，日本政府拖到1931年3月才做出答复。日本方面的要求很明确，中国政府必须以承认日本在中国东三省特别区域的权益为代价，来交换日本放弃在北平、天津、汉口、广州、上海对民刑小案的领事裁判权，而且还得在各口岸设立特别法院，允许日本法官参与会审涉及日本人的民事案件，上述城市中的日本人还得享有与中国人同样的纳税、租地、设厂等权利。在王正廷明确表示中国所要收回的权利，包括日本对旅大的租借权和南满的经营权之后，日本政府的反应更加激烈。它修改后的提案不仅把其在东北的特权排除在外，而且提出，对于居住在所有租界、租借地和附属地的绝大多数日本侨民，依旧必须行使领事裁判权。

为打破僵局，并显示决心，国民政府于1931年5月4日颁布了《管辖在华外国人实施条例》，宣布自1932年1月1日起，所有享有领事裁判权的外国人，均应受中国法院的管辖；在沈阳、天津、青岛、上海、汉口、重庆、福州、广州、昆明等地设立特别法院，受理涉及外国人的民事和刑事案件，外国人的逮捕及其房屋或办公室的搜查均应依中国刑事法典规定行之，凡构成刑事案件的外国人被搜捕后，须于24小时交到相当法院；构成民事或刑事案件的外国人可请中国或外国律师为其代理人或辩护人；触犯警章之外国人应由当地警察厅审判，惟不得判以15元以上之罚金；外国人幽禁下监的地方，得由司法部特殊命令指定之，等等。然而，仅仅几个月后，日本就发动了侵占中国东北的“九一八”事变，撤废领事裁判权的谈判再也无法继续下去，就连已经草签的中英新约也因此夭折了。国民政府推行的修约运动，自此告一段落。