袁世凯败亡之后，北洋军系逐渐分化为皖、直、奉三系，其中奉系的力量初始主要在关外，而在关内有实力争夺北京中央政权者，主要是皖、直两系。皖系因其实力和段祺瑞“三造共和”之声望，基本控制了北京中央政权，直系的冯国璋担任大总统，与皖系形成一定的平衡。但冯国璋在大总统任上不过一年，离任一年后又身故，而段祺瑞虽然与冯国璋同时下野，不再担任国务总理，却继续以边防督办身份并利用安福国会控制政局，成了北洋军中最具政治影响力的“大佬”，皖系对北京政府的控制并未消退。唯五四运动期间，成为各界千夫所指的曹汝霖等政客均与皖系有深厚关系，再加上皖系军人和段祺瑞主张与日签约的态度，使皖系受累于其亲日而颇为社会舆论所责，影响及于其政治根基。与此同时，曹锟、吴佩孚渐渐崛起为直系新的领袖，他们自认“能征善战”，不甘蛰伏于皖系和段祺瑞的阴影之下，屡有与皖系不同的声音发出，如主张南北停战议和，反对签订对德和约等等。直系的主张在当时契合了社会各界罢战止兵、维护国权的呼声，为直系在舆论上挣得不少好评，而皖系为舆论所责，也为直系攻皖提供了契机，同时造成了直皖矛盾的渐趋激化，双方关系破裂的阴影正在聚集。然而导致直皖矛盾激化的关键问题，仍在于双方的利益之争，如直军北撤、河南易督、北京内阁更易等等，均为双方矛盾及争夺之焦点。

南北战争爆发后，直军是北军征南的主力之一，吴佩孚的部队尤其起了重要作用。但随着直皖双方各立门户，直军不愿再为他人作嫁衣裳，对作战不再积极，并主动发出停战议和通电。自1918年年中以后，南北两军在湖南前线实际处在停战状态中。为了替己派助威，也为了在关键时刻能派上用场，直军一直要求自前线撤军，但为北京政府所拒。“迨直皖两派暗潮激荡，曹锟以保定兵力单薄，恐皖派乘虚而入，遂密令吴佩孚率师回直。于是驻扎衡阳一带之直军决计撤防，虽经各方面竭力挽留，终无效力。”

当直军决心不顾北京政府的命令而自湖南前线撤防时，为了保证行动的顺利，需要与西南方面达成一定的妥协，而西南方面亦有意与直系结盟，共同对付皖系。如西南首领岑春煊所言：“河间（冯国璋）新逝，直系骤失中心。段派乘时一面吸收，一面排退。直系恐被压迫，若不自振奋斗，势难自保，现似有此觉悟。直系失势，西南更危，双方处境相同，非彼此彻底联络，无以自存。”因此双方一拍即合，于1919年秋订立《救国同盟军草约》。草约冠冕堂皇地提出：本约为永息内争，力谋统一，合力对外起见，并非有党见性质；军人以卫国保民为天职，无论何时，国内争战，不得牵动武力，惟须弭患无形，以尽保民之责务，并须保全现在之主权，兼收回已失之主权，为卫国之主旨。草约提出解决国内政争的具体对策是：（1）维持现状。现在和局混沌，无论如何困难，当协力促成之。（2）和局成功。如扫除内奸，废弃密约，选举良善国会，组织不党内阁等条件，均取一致之态度。至必要时，得干预而纠正之。（3）和局破裂。如再起兵端，本团体攻守同盟，若有害甲则乙援之，害乙则甲援之，任至何地，彼此援助，不得坐视。（4）和平善后。即目前和成，而内奸余孽未清，则和平仍不能永保。对于非法机关，巧立名目，凡未经正式国会通过，而私图扩张军阀势力，为将来和平障碍者，均取一致之反对，必达取消之目的。草约还规定：（1）凡属同盟军，遇有危迫时，接近者应有实力之援助，不接近者，亦应有函电之响应，或转托他军之援助；（2）如同盟军有意见时，得联合同志调解之，不得自起冲突；（3）如有扩张私人权利，破坏大局，或私通奸人局部分裂者，应由同盟军摒诸团体之外，或驱逐之；（4）凡属南北将领，对内对外，心理相同者，皆可联络同盟。唯必须主持和平，宗旨正大，而无权利思想，经本约同盟人认可者，方可列盟，不得以地域限制之。草约的结论是：（1）此项盟约，因中央政府不良，元首大权旁落，深恐群奸盘据，延宕和局，实行其困惫南北征人之计划，故不可稍事迁延，以期组织良好政府，安内攘外；（2）自签约之日起，如一月内，和局仍无解决之望，或和议敷衍完结，及取消非法机关诸目的未能达到，应先由同盟军预定办法暨进行手续，另订别约，秘密签字，以期一致行动，贯彻始终；（3）上列对内对外各条，团结一致，好恶同之。有渝此盟，神明殛之。由此约条文可知，其虽未点名责某派，而“奸人”等等暗指皖系，此约实为直系与西南方面联合对皖系的攻守同盟。有了此约，直军北撤时无后顾之忧，西南则可以不战而得湖南（张敬尧为湘人痛恨，直军撤防后势将难以立足），双方各有所获，都是赢家，只有置身事外的皖系是输家。1919年11月下旬此约被报章披露后，直军北撤势在必行，而皖系对直系衔恨在心亦可想见，直皖关系更趋恶化。

直军与西南订立盟约后，双方即按商定之步骤进行直军北撤的准备工作。先是由西南方面致电北京政府总理靳云鹏主和，继由吴佩孚致电靳云鹏促和。1920年1月，吴佩孚“派员来粤请款六十万为撤防之费，决开春即实行，衡州由湘军填防。”西南方面即表示“款已付给，俟撤防时提用”。吴佩孚还提出：“如北军开衅，或直军中途有阻，切望同盟军恪守同盟协约，极力援助。”西南方面表示：“为同盟协约计，为前途发展计，当然不能不加以援助。”岑春煊请唐继尧“先期饬在川滇军预为准备，一旦有变，以便迅速拔队东下，会师武汉，则大局转移，均此一举”。

吴佩孚的北撤行动自然不为皖系所喜，他们既不愿因吴之撤防失去湖南，更不愿因其撤防壮大直系声势，但他们也没有能力阻止吴的撤防行动，只能各方出动，表示挽留。3月初，吴佩孚告湘督张敬尧，“挽留之议，请作罢论”，催其“派定将领、队伍，预为接防”，且“词意坚决，似难商量”。张敬尧一面与吴佩孚相商，请其勿撤，一面电告北京政府，请他们切劝吴佩孚“始终不渝，顾全大局，万勿于风雨飘摇之际，遽萌退志”。然吴佩孚根本不为所动，3月17日电告张敬尧：“此次敝军回防，志决议定，断无变更，请即准备接防，万勿疑虑。中央谅知直军薪饷苦衷，决不能不准撤防。况湘省系贵督军之责，应速承认撤防，如果迟疑日久，敝军急于撤回，防地空虚，湘军进驻，是贵军放弃守土之责，于敝军无涉。”对此，张敬尧连电北京告急，但北京政府除了下令不准吴撤防之空言外，似亦无更多办法。21日，吴佩孚的上峰曹锟亦不避嫌疑，致电北京政府称，吴师撤防“实出于万不得已”，自己“对于所部哀哀呼吁，尤觉戚楚，故不避再渎之嫌，恳请钧院、贵部据情转大总统俯如所请，俾敝军早日北归，以慰兵心”。至此，直军撤防势在必行，北京政府与皖系亦无可奈何，延至5月只能同意其撤防。

1920年5月20日，在湘南滞留两年有余的直军吴佩孚部通电北撤，27日吴部撤至长沙，31日抵汉口，6月7日到郑州，撤防过程顺利完成。吴部刚撤，湘军即随之北进，失去武力支撑的张敬尧自知无力抵御，6月11日逃离长沙。12日湘军占长沙，26日占岳州，湖南全境回复湘人治理，亦即回归西南阵营。直军北撤，为自己甩掉了湖南的包袱，集中了兵力，改善了军事态势，便于与皖系进行实力较量。如时人所论：直派地盘优长之点，即在奄有长江数省，足以控制中原也。皖派虽据京畿为巢穴，并寄其心腹于各省，而卒莫敢与直派抗衡者，亦以直派占形胜之区，遂成相持不下之局耳。自河间（冯国璋）谢世，直派无人领袖，皖派遂乘间抵隙，思扩张其地盘，而首先发难者，即在令吴光新移师豫境，驱逐赵倜，以打破直曹与长江三督之联络，且可杜绝吴佩孚班师北归之通路。一面又可与蚌督遥相呼应，其计固甚得也。直派知皖派相煎之急，群起阻之。且别出奇计，结好奉张，暗缔八省同盟，以制皖派。……由是直派之势力视昔尤见雄厚，自黑省直贯至鄂，包含京奉、京汉两大干路，而于兵略上实占优势焉。……

自八省同盟成，直派之气焰大张，而皖派诸人咸惴惴不安，遂有十一省同盟之结合，以资抵御。然零星散处，难于团结，未免虚张声势，故其实力不逮直派远甚。且湘张之军，溃散无遗，陕之陈（树藩），闽之李（厚基），自顾不暇，焉有能力发展于外。所可恃者，惟倪（嗣冲）、卢（永祥）之兵，足以牵掣苏李（纯）之腹背耳。恰值此时，先后发生了河南易督与北京内阁更易之争，为直皖矛盾火上浇油，使双方关系更形紧张。

河南地居中原，扼控四方，向为兵家必争的冲要之地，亦为直皖两系所看重。河南如为皖系所有，则其西之陕西，东北之山东，东南之安徽等皖系所控省份均可连成一气，运用自如，并可阻断直系的直隶与苏、鄂、赣“长江三督”的联系；河南督军赵倜非为皖系出身，对皖系的态度亦若即若离，当然为皖系所不满；故就战略战术与在任人选而言，皖系均有谋任豫督之要求。“其最初计划，因吴佩孚力争湘督，即拟以湘督与吴，张敬尧调豫，赵调热河。此节做到后，再设法谋去直曹（锟）、鄂王（占元）、赣陈（光远）、宁李（纯）诸督。南北要区，密布心腹，力制西南，宰割天下。因于上年（1919年）八月，段（祺瑞）商老徐（世昌）促赵赴京，面示更调意。赵以反对张敬尧为词，不得解决，星夜回汴。酝酿至今，段有非去赵不可之势。”皖系提出的替赵人选是段祺瑞的妻弟吴光新，他本任长江上游总司令兼四川查办使，但因出师四川不利，欲改谋他职，正值皖系企图更换豫督，1920年2月皖系遂提出以吴光新为继赵人选，并令其率兵准备自鄂入豫。

赵倜得知皖系的举动之后，一方面运动河南各界反对易督，以示民意所在；一方面调动兵力，准备进行武力抵抗；同时又与直系及西南方面联络，以加入反皖阵营而换得自己的留任。2月14日，赵倜主动致电岑春煊，表示：“敝省商定，均愿执鞭，强随诸君后。”直系因河南地位重要，坚决反对更换豫督，正在准备撤防北归的吴佩孚，要赵倜“抗拒勿交，敝军立即撤防，以实力援助”。本来与皖系关系不错的奉系，因徐树铮之权势日张而令张作霖不满，而奉系又图谋向关内发展，皖系一派独大于此不利，故奉系亦表示支持赵倜，请政府“即欲更调，亦宜从缓，应俟和局定议，再行斟酌办法”。北京政府大总统徐世昌和国务总理靳云鹏亦不愿替皖系火中取栗。因为各种阻力的存在，皖系变动豫督的图谋未能实现（湖南督军张敬尧被湘人赶下台后，北京政府改任吴光新为湖南督军兼省长，但未能上任），反倒逼使赵倜倒向直系，并使直系与奉系更为接近，形成了直系直、苏、鄂、赣、豫和奉系奉、吉、黑八省反皖同盟，曹锟与张作霖则为同盟的盟主。

继河南易督之后，又发生了北京内阁更易之争，此次争斗不仅使直皖关系濒于破裂，直奉关系进一步加深，而且使大总统徐世昌与国务总理靳云鹏亦卷入直皖矛盾，并对皖系之专横颇为不满，从而在政治上形成了不利于皖系的各方联合对皖的情势。

靳云鹏本为皖系大将，与段祺瑞的关系一向不错，1919年9月国务总理龚心湛去职后，由靳云鹏以陆军总长而兼代国务总理即为段所首肯（11月正式任命）。靳在北洋军界关系甚多，与直系首领曹锟是拜把兄弟，与吴佩孚为军校同窗，与奉系首领张作霖是儿女亲家，故曹、张对靳担任总理也是支持的。然而这样的人际关系纠葛，使他在处理对直对奉关系时自然不能过于决绝。如果说在直皖矛盾尚未激化时，靳云鹏还可在双方之间游刃有余，那么等到直皖矛盾公开化并已互为敌手之时，靳云鹏的日子就开始难过了，何况靳云鹏上台之初颇思有所作为，对南方主和，对外拒绝日本直接交涉山东问题的要求，与直系的主张较为接近。尽管靳云鹏上任后“极意奉承段，每日问起居，所有阁务，必请示而后行”，但他对徐树铮和安福系则没有这样的耐心，却“依靠府方以倾徐，乃以段对徐更加亲信，……既与徐为敌，即不得不借直奉外援，且利用南方空气”，自然与皖系拉开了距离。靳云鹏在组阁时，没有如安福系所愿，安排安福系提名的人选出任内阁总长，颇为安福系所不满。几经争执，直到段祺瑞发话，靳不能不给段面子，才对安福系提名人选予以安置，双方自此结下怨恨。及至靳云鹏对变动豫督意存犹豫，更使皖系不能容忍，遂由安福系发难，发起倒阁运动。

1920年3月初，安福系阁员相率不参加阁议，致国务会议因不合法定人数而无法举行。当徐世昌进行调解时，安福系提出变动豫督、加委外交、农商、教育总长等要求，对此，不仅是靳云鹏不能答应，徐世昌亦不敢轻易作主。安福系在没有得到满意答复的情况下，其内阁成员（财政、交通、司法总长）于3月9日提出辞职，使靳阁政务接近停摆。靳云鹏不甘退让，未答应安福系的要求，直系和奉系则对其表示支持，由此也加强了靳云鹏与安福系对抗的决心与实力。安福系为逼靳云鹏就范，对财政甩手不管，使本不宽裕的北京政府财政状况更是雪上加霜，靳云鹏实在难以应付，于气恼中在5月8日上呈徐世昌坚决要求辞职。徐世昌一时难作决断，只能在14日先准靳云鹏请假休息（但不准其辞职，以留退步），令海军总长萨镇冰兼代总理，同时与各方商议，觅求合适的总理人选。

靳云鹏辞职，北京内阁总理出缺，立即成为各方关注之焦点。安福系摩拳擦掌，准备提名阁员人选，控制内阁实权；直系则以此为皖系对己方的挑战，坚决不同意更易内阁总理；直皖两系为此针锋相对，各不相让，形势突趋紧张。5月9日，曹锟致电徐世昌反对更换靳云鹏，理由是：“（一）西南各省首领与靳之联络，颇有进步，倘内阁突然改组，则前功尽弃；（二）和议正在进行之际，倘内阁更动，未免受根本上之影响；（三）若因一党之意见即更换阁揆，将来恐无人敢膺揆席。”如此一来，一方面是皖系坚持去靳，一方面是直系坚持留靳，在这样的形势下，无论是靳云鹏还是可能之接任者都不敢轻易蹚浑水，北京政局处在紧张的僵持状态。老于世故、精于城府的徐世昌，面对直皖如此尖锐对立的局面，不敢有所偏颇，以免影响自己的地位，他遂请出奉系首领张作霖进京调停（徐还请曹锟、李纯入京但为两人婉拒），以图缓解紧张的局势。

奉系首领张作霖在稳固对东北的控制之后，也有意向关内发展，对徐世昌的调停请求当然乐得担任，“其志甚大，欲居第三者之地位，以收最后之胜利”。对于皖直两系，张本与皖系更为接近，但见皖系既因各种内外因素而成众矢之的，张亦与其拉开距离，而与直系靠拢。对于北京内阁更易之争，张实际倾向于直系主张，“将内阁改组一部分，以完全脱离安福系之羁勒”，但“目前决不与段派十分为难，较曹锟诸人态度实为和缓”，故仍可以“中立”姿态进京调停。6月19日张作霖抵京后，即对徐世昌“有拥护靳阁之表示。其条件，则排除靳阁之阻碍也。其排除之范围，则以吴佩孚之通电为依据。”他一方面劝靳复任，一方面对段祺瑞“于言词中微寓讽劝之意”。22日，张作霖前往保定与曹锟会晤，苏督李纯和赣督陈光远的代表亦至，保定会议成为直奉协商对皖政策的重要关节。在讨论中，吴佩孚慷慨激昂地陈词曰：“部下士兵虽不敢云为久经训练节制之师，但亦颇知大义，设何党何派不顾国家，以破坏大局为事，佩孚虽能容忍，诚恐部下义愤，亦难压抑。”直奉就解决时局办法达成共识，即靳云鹏复职，内阁改组，免安福系三总长及王揖唐议和代表职。因为安福系和边防军为段祺瑞所恃的政、军两大依靠，吴佩孚还主张解散安福系，将边防军改隶陆军部，免徐树铮西北筹边使职，而张作霖则“极为审慎，不欲趋于极端”。实际上，张作霖与徐树铮的个人关系非常不好，他并无意维护徐树铮，但他考虑其“出为调人以取重于两方，使直皖两系皆为我所操纵”，不愿表现得过于操切。他劝段祺瑞抛弃安福系，“则百事可解”，但段知其后之直系背景，当然不能轻易赞成其主张，段祺瑞曾考虑靳云鹏与安福系三总长同时去职并另组新阁，将边防军改由其节制但不免徐树铮职的方案。对前项主张，直系尚可接受，但对后项主张，则坚持认为不可，因为以段、徐之关系，由段节制与由徐节制实则并无分别；而安福系也不同意此项主张，坚持至少要保留内阁财政、交通两席。张的调停不得要领，遂对安福系发泄了一通怒气：“安福如此嚣张，成何事体。姓张的这回来京，委曲求全，已无可再让。而若辈不知好歹，在我面前耍赖，我可不管，由尔自己去与保定方面办交涉罢。”可见张作霖名为调停，实则站在直系一边拉偏架。正因为有奉系的支持，直系有恃无恐，以“清君侧”的做法，公开发出对徐树铮及安福系的声讨。他们发表《直军全体将士宣布徐树铮六大罪状檄》及《直军全体将士为驱除徐树铮解散安福系致边防军西北军书》，将祸国殃民、卖国媚外、把持政柄、破坏统一、以下弑上、以奴欺主六大“罪状”归之于徐树铮，提出“扫除祸国殃民之安福系，及倡乱卖国之徐树铮”。至此，直皖矛盾完全公开化，双方都在准备战争，张作霖的“调停”自然也无法继续。7月7日，他匆匆离京回奉，部署奉系对战争的应对。

直皖矛盾激化之后，直系的首要主张是去徐树铮，将边防军改隶，以削弱皖系的军事实力。时人论：“徐树铮才能胆识，均加人一筹，惟志高气傲，是殆读书而未能养气者。故对于东海（徐世昌），迹近跋扈，对于同袍，迹近蔑视，树怨既多，卒成众矢之的。”在直系的强硬逼迫下，7月4日，徐世昌下令撤销西北边防司令部，边防军改归陆军部直辖；免去徐树铮的西北筹边使职，改任远威将军，留京供职，由李垣代理西北筹边使。徐世昌的命令自然激怒了皖系，徐树铮“以吴佩孚干预内政，得寸进尺，大有非战不能之势，然战则师出无名，不战则势必瓦解，是以迭召所属旅、团长会议，讨论对待办法。议决数端：一、持镇静态度，以避其锋；二、暂取守势，以待动静；三、密令驻洛阳西北军两混成旅，牵制吴军；四、密电吴光新调队信阳，遥为声势；五、密令吴光新坚辞湘督，任南军扰湘、侵赣，以分其势；六、遇事请示段督办，以资服从而免遗恨。故近来对于政潮绝不发言，不过暗令军队严为防范。”未几，徐树铮所要请示的段督办主动表明了态度。

7月8日，段祺瑞在北京召集皖系军政长官会议，会后发出通电，痛责曹锟“奋扬凶狡，危害国家”，吴佩孚“擅自撤防，叛不遵命”；表彰徐树铮“外蒙全境大逾内地数省，辛苦收回，未费国家一钱，较之丧失湘省，损兵弃械，害民祸商，相去何啻天壤”；自夸“创建民国，至再至三。参战一役，费尽苦心，我国国际地位始获超迁。此后正当整饬纪纲，益巩国基，何能听彼鼠辈任意败坏法律，牵惹外交，希图摇动邦本。谨用揭明罪状，上请大总统迅发明令，褫夺曹锟、吴佩孚、曹锳（曹锟弟）等三人官职，交祺瑞拿办，余众概不株连。整饬纪纲，以振人心而定国是；去腹心之患，则统一可翘足而待。兵队现经整备，备齐即发。”徐世昌无法抵挡皖系的压迫，遂于7月9日下令：吴佩孚“措置乖方，殊难辞咎”，免第3师师长职并褫夺陆军中将原官，交陆军部依法惩办；曹锟“督率无方，应褫职留任，以观后效”。其时徐世昌对于直皖两方“均取圆滑手段，以示逼不由己。是以直方要求下令罢免树铮，东海从之；合肥呈请惩办曹、吴，东海亦从之。”唯对徐树铮免职令和对曹锟、吴佩孚惩戒令既下，皖直关系彻底破裂，双方的战争不可避免。