本来徐世昌把他调往西北，也只是想让他远离北京这个政治中心，反正眼不见心不烦。没想到徐树铮倒还真不是个草包，他很有手腕，通过一系列的军事人员调整，徐树铮巩固了自己在西北的势力，俨然成了西北王。但是徐树铮在担任奉军副司令期间，就多次我行我素，越权行事，很多重要命令都不经过张作霖这个总司令而直接发布，引起张作霖强烈不满。他还挪用张作霖的军费发展自己的私人武装，张作霖最终将他撤职。那时，张作霖就知道徐树铮不是个省油的灯。段祺瑞和徐树铮的种种做法，引起了直、奉两系军阀的不满。
直系军阀也是很有实力的，直系首领冯国璋死后，实力最强的是曹锟。曹锟这个人没有太多政治头脑和权谋机变，他从小也是家境贫寒，靠卖布为生，后来机缘巧合，投靠了袁世凯，得以青云直上。但曹锟在政治上和军事上之所以能够顺风顺水，还不得不提到一个人，那就是他手下第一大将、能征善战的将领吴佩孚。
不要小看了这个吴佩孚，跟别的军阀不一样，他是秀才出身，有文化、有头脑，还写得一手好文章。这样一个人，在同皖系军阀的斗争中，名声越来越大。他对段祺瑞的武力统一政策极为不满，多次发表通电谴责段祺瑞祸国殃民，挑起内战，置人民于水深火热中。
吴佩孚的文武两手策略很漂亮，老百姓当然不愿意连年战火，所以他的主张得到了最热烈的响应，直系军阀也在老百姓中得到了道义上的支持，连南方革命军对他都大加赞赏。因此，直系军阀在国内的地位快速提升，曹锟的地位也提高了，吴佩孚的地位提升得也更快。
这些当然是段祺瑞的皖系不愿意看到的，于是段祺瑞操纵“安福国会”，明里暗里排挤直系的势力，这当然又引起直系的强烈反对，两派矛盾愈演愈烈。
在当时的形势下，段祺瑞的皖系实力还是最强的，曹锟和吴佩孚都知道，单凭自己的实力，很难对段祺瑞造成致命的威胁，怎么办?他们想到了远在山海关外的奉系军阀张作霖!
直皖两系，剑拔弩张。京津地区，战云密布，大有一触即发之势。在这种情况下，大总统徐世昌不得不电召张作霖入京，来调停直皖之争。机会来了!一直苦于没有机会和借口进入关内的张作霖打心眼里高兴，于是他马上宣布要对直皖矛盾进行调停。
其实，所谓调停，别人不知道，张作霖可是心里明镜似的。中国最大的军阀现在是段祺瑞，奉系只有和直系联合起来，才有机会扳倒他，从而为自己捞取最大的好处。
1920年3月，张作霖和曹锟先后召集八省代表联盟会议，组成反皖联盟。这八省都督是直督曹锟、苏督李纯、赣督陈光远、鄂督王占元、奉督张作霖、吉督鲍贵卿、黑督孙烈臣、豫督赵倜。他们打出“清君侧”的旗号，表示反对的是徐树铮，而不是段祺瑞。
再逃一劫
张作霖本来是站在直系一边的，但他现在的身份是调停人，所以还得亮出公正的面孔。不过，张作霖无师自通，是个当演员的好苗子，他天生就很会做戏，当年觐见袁世凯，一通装疯卖傻，居然骗过了老奸巨猾的袁大头，得到了他的信任。后来驱逐段芝贵，更是将他的表演天才发挥得淋漓尽致。
6月19日，作为调停人，张作霖志得意满地来到北京。此时的他有实力有地盘，而且还在道义上占据了制高点，所以得到了北京政界重要骨干的高度重视。徐树铮亲自去车站迎接，曾毓隽还将奉天会馆做了大装修，作为张作霖的大帅行馆。
张作霖先拜访徐世昌，再访靳云鹏，最后去见段祺瑞。他表示这次来是向双方说点公道话，好让大家互相让一步，维持国家的和平局面。几天后，直系督军们召开了一个会议，核心议题是如何对付皖系。在这次会议上，吴佩孚成了主角，他的一席慷慨陈词，让曹锟和张作霖都觉得，此人不去当个演说家真的是太屈才了。会议通过调停政局五条：解散安福会；靳云鹏复职；撤换北方议和总代表王揖唐；罢免安福系三总长；撤销边防军，改编后改归陆军部直辖。
这五条乍看起来挺吓人，再一细看，更吓人。因为这五条每一条都直指皖系的要害，可以说，这五条如果都做到，段祺瑞和他的皖系就可以直接回家养老了。尤其是撤销边防军，那不就是直接让段祺瑞他们解除武装嘛!
张作霖将这条件带回北京，交给段祺瑞，段祺瑞一看条件，不由得火往上冲，这简直就是欺人太甚。别的都好说，撤销边防军的条件，等于让段祺瑞缴械投降。谁都知道，在那个乱世，军队是唯一的说话资本。没有了军队撑腰，你纵使是神仙下凡，恐怕也没有发言的份。
段祺瑞毕竟还是老谋深算的政治家，他知道现在直系的实力也很强，加上奉系态度不明，如果过于激怒对手，很可能将张作霖逼到对立面。所以他并没有表示强烈反对，只是说其他条件可以考虑，但撤销边防军，解除徐树铮的军权实在不可能做到。
段祺瑞的表态引起直系将领的愤慨，7月1日，在吴佩孚的授意下，立即发布《直军将士告边防军、西北边防军将士书》，内称：“此次直军撤防，原为扫除祸国殃民之安福系及倡乱卖国之徐树铮，对于先进泰斗、同气友军，毫无恶感及敌对行为。”
有必要解释一下这个电文，因为直系将领们也很清楚，做事情得有个度，段祺瑞在北洋系中毕竟是树大根深，而且还是有很大威望的，所以他们将目标缩小，宣称只打击一个人和一个组织，这个人就是徐树铮，而这个组织就是安福系。
在直系的活动下，当时的大总统徐世昌终于发出了政令：调徐树铮为威远将军，开去西北筹边使，令其留京供职。西北筹边使着李垣暂行护理；西北边防军总司令一职裁撤，所部归陆军部接收。
段祺瑞得知这一消息，简直是气炸了肺，他立即以边防督办的名义，命令边防军紧急动员，准备和直系来一场最后的殊死较量。
徐树铮知道，这不过是直系和奉系联手导演的一出好戏，张作霖巴不得皖系垮台，听到这一任命，恼羞成怒的徐树铮终于对张作霖起了杀机。7月5日，徐树铮装出若无其事的样子，热情地拜访了张作霖，并亲切地密谈了一个小时。在谈话中，徐对张表现得亲密无间，了无芥蒂。这一招，骗得了张作霖的信任，他对徐放松了警惕。徐乘机以段的名义，敦请张作霖到段祺瑞的驻地团河开会，列席研究讨伐直系的问题。
张作霖一时间还真没有觉察到徐树铮的心思，点头同意。7月7日晚，会议举行，开到一半的时候，徐树铮借口有紧急电话，把段祺瑞叫出来，向他公布了自己的计划，请段祺瑞同意立即扣留张作霖。
可以说，此时的张作霖，性命已经完全操控在段祺瑞的手里。但老天爷似乎就是这么恶作剧，既然要让张作霖好好地当他的东北王，现在就不能让他那么送命。眼看张作霖性命难保，就在这个关键时候，有人救了他。
救人者是谁?不是别人，正是被张作霖和吴佩孚逼到了墙角的段祺瑞。
段祺瑞此人，虽然酷爱权力，但他有一个最大的优点，就是行事确实光明磊落，从来不屑于搞那些小偷小摸的勾当。可以说此人一生行事善搞阳谋，却不善于搞阴谋。对徐树铮的一再请求，段祺瑞没有明确表态，但他的眼神已经泄露了心中的秘密。
不愧是张作霖，善于观颜察色的他马上看出段祺瑞的神色异常，感到将有大难临头，不能久留，于是他装作若无其事的样子，跟身边人示意要上个厕所，随即从后院翻墙溜走。段祺瑞知道后也并没有下令追击，但徐树铮坐不住了，他捶胸顿足，仰天长叹：“大事去矣!”
张作霖逃脱虎口后，回到了军粮城的奉军总司令部，立即宣布“局外中立”。同时他对段祺瑞和徐树铮的态度发生了根本性的变化，他知道，与徐树铮和段祺瑞翻脸，他能做的就只有一件事：联手直系，推翻皖系。
直皖大战，皖系出局
皖系军阀和段祺瑞已被逼到没有退路，形势越来越紧张，段祺瑞再也坐不住了，决定先下手为强。于是他立即回到北京，在将军府召开特别会议，决定将曹锟、吴佩孚、曹锐免职，交段亲自查办。但是这项决议送到大总统徐世昌那儿，徐世昌却面露难色，他是担心一旦命令下达，局面将再也无可挽回，两方势必直接摊牌，一场战争在所难免了。这对于中国政局来说不一定是什么好事，同时自己的大总统位置恐怕也坐不了多久了。于是他几次推脱，就是不在公文上签字盖印。段祺瑞早已下定决心摊牌，对徐世昌的墙头草作风极为恼火，一怒之下，他干脆派兵包围总统府，逼迫徐世昌同意。
被大兵包围的徐世昌骑虎难下，人在屋檐下，不得不低头，只好违心地下令惩办曹锟、吴佩孚。段祺瑞的皖系觉得自己占得了先机，却没想到适得其反。因为直系军队方面得知大总统令竟然是由段祺瑞的军队威逼发出的，不由得同仇敌忾，一下子抱成了团，枕戈待旦，下定决心与皖系决一死战。偷鸡不成蚀把米，直皖开战已经是迫在眉睫了。
7月9日，段祺瑞将边防军改为“定国军”，在团河成立讨伐曹吴的“定国军总司令部”，自任总司令，靳云鹏为副司令，徐树铮为总参谋长，段芝贵为第一路军司令兼京城戒严总司令，曲同丰为第二路军总司令兼前敌司令，魏宗瀚为第三路军司令。同日，边防军第3师陈文运部开赴廊房，第一师曲同丰部与陆军第9师魏宗瀚部、第13师李进才部、第15师刘询部开赴长辛店、卢沟桥、琉璃河一线。
直系方面，7月9日，曹锟在天津召开誓师大会，成立“讨逆军”，自任总司令，吴佩孚为前敌总司令兼西路总指挥，其司令部设在高碑站。第一混成旅旅长王承斌为后路总指挥，留守郑州，第4混成旅旅长曹瑛和奉军李景林部为东路正副总指挥，占据杨村。
7月10日，段祺瑞以吴佩孚不仅不交卸军队，反而开进，下令向直系发动进攻。11日，曹锟发出通电，声称“目的一日不达，锟一日难卸甲”。12日，曹锟又和张作霖联名通电讨伐段祺瑞，不再只是针对徐树铮，而是明确打出了“讨段”的旗号，称“皖系军阀恣胜专横，唯有秣马厉兵，共伸义愤。”吴佩孚还在第二天的通电里指斥段祺瑞是汉奸，并将之与张宗昌、石敬瑭、吴三桂相提并论。
张作霖在曹锟、吴佩孚公开发表反皖通电后几天，就悄然来到军粮城，一面仍保持局外中立的假象，一面在天津北仓一带悄悄地布置人马。等到一切准备就绪，张作霖发表派兵入关的通电。
这些通电有《张作霖派兵入关通电》、 《张作霖劝段祺瑞勿袒护徐树铮电》、 《张作霖等共举义师通电》、 《张作霖揭破段派阴谋通电》等。张阐述率军入关的原因： “作霖为戴我元首，卫我商民，保管我路线，援救我军旅，实逼处此，坐视不能，义愤填膺，忍无可忍。是用派兵人关，扶危定乱。”似乎他的率军入关，完全是为了人民。
为了给奉军入关寻找最好的理由，张作霖又进一步发电报阐明自己的主张：我是为了国家的前途着想，如果国家被一两个人民公敌把持，那我不能坐视，必定率军铲除祸首，以“清君侧”。这个电文将矛头直接指向了段祺瑞的心腹徐树铮和安福系。
张作霖不是说着玩的，发表通电之后，张作霖立即调兵遣将，向山海关内开进，并且一直进军到北京、天津附近，以军粮城为中心，集结于天津、北仓附近。段祺瑞这下才真傻眼了，他一直以为，张作霖也就是说说罢了，没料到他竟然真的出兵了。
直皖战争，雷声大、雨点小。首尾加起来一共六天，真正打仗只有三天。
直皖两军的战区都是分东西两路，东路在京奉铁路沿线，西路在京汉铁路沿线。西路是双方交战的主战场，直军在高碑店一侧，皖军在固安、涿州一带。1920年7月13日，直皖两军第一次小规模战斗开始，双方在高碑店有小冲突，总体来说，皖系还是占了一点上风。
但很快战况就发生变化，吴佩孚率部与边防军第一师大战于涿州，皖军派出的右侧支队被直系部队袭击而发生混乱，逐步向后撤退，使部队的态势更加不利，致使京汉铁路作战部队的右侧背受到很大的威胁，皖系第二路军总司令曲同丰被困在了涿州城内。
吴佩孚没有直接攻击，而是写了一封信，带给城内的曲同丰，劝说他投降。没想到，曲同丰居然完全没有与涿州共存亡的意思，相反还对前来劝降的人表示他自愿投降，还搞了一个受降仪式。仪式完成后，两人坐在一起聊天拉家常，气氛非常轻松，完全不像是受降，倒像是老友久别重逢。就这样，段祺瑞三路大军中的第二路军土崩瓦解。
皖系第一路军总司令的段芝贵，根本不是打仗的料，这位老兄搞到一列火车，专列两头都挂上火车头，胜就向前开，败就向后开。西路皖军战败的消息传来，他就急忙大叫开车，一路狂奔逃回北京的家中。在这个百无一用的总司令率领下，皖系第一路军全部溃散，不是逃跑就是投降。
东路军总指挥徐树铮获知西路战败的消息，知道大势去矣，深夜逃回北京，直系军大队开到长辛店，将被围溃败段军一律扫清。至此，京津线、京汉线皖军全被清除。
19日，段祺瑞看到大势已去，通电辞职，大总统徐世昌立即批准辞呈。失去了军权和政权的段祺瑞无可奈何地承认了四条：惩办徐树铮；解散边防军；解散安福部；解散新国会。
直皖战争就这样结束了，中国第一军阀皖系就此出局!中国政局成了直系和奉系共同主宰的天下。张作霖不费吹灰之力，就得到了政治上和军事上的重大利益。直皖战争中出力并不多的奉系，进关后唾手而得京、津，还就近获得段祺瑞全部从日本购进的武器辎重，可以说毫无损失地坐收渔人之利。
从此，张作霖野心骤然膨胀，开始打起了问鼎中原的主意。
