袁世凯死后，中国进入了军阀割据时期。各个军阀都有自己的地盘，独霸一方，相互混战。段祺瑞内阁成员合影在众多军阀之中，北洋军阀势力最为强大。北洋军阀又分为直系和皖系。直系以冯国璋为首，是亲英美派，占据直隶、江苏、江西和湖北；皖系的头子是段祺瑞，底盘主要是在安徽、山东、浙江和福建，并且控制了北京政府，他们以日本为后台。
当时担任大总统的是黎元洪，段祺瑞任国务院总理。两人上任不久，就开始发生矛盾。段祺瑞觉得，黎元洪没有地盘和军队，能当上总统全是靠他帮忙，所以他根本不把黎元洪放在眼里。而黎元洪也对段祺瑞的霸道作风非常反感，不愿在段祺瑞的控制之下做傀儡总统。时间长了，两人的矛盾越来越大。由于他们两人一个在总统府，一个在国务院，因此人们就把他们两人的矛盾称为“府院之争”。
后来，两人因为中国是否参加第一次世界大战的问题矛盾激化起来。1917年春天，第一次世界大战已经打了3年。美国一直在一旁观战，没有参战。这时，美国突然决定对德宣战，准备加入协约国，希望中国与美国一同行动。但是，日本却担心美国会利用中国参战捞到好处，就来了个180度大转弯，鼓动段祺瑞对德宣战。美国一看日本这样，也改变了主意，又主张中国暂时无须对德宣战。黎元洪担心如果中国参战，段祺瑞的权势就会大过自己，所以他倾向于不绝交，更不参战。国会的议员们也多数支持黎元洪的主张。于是，段祺瑞企图使用武力威胁的手段来对付反对势力。他召集了各地皖系督军向黎元洪和国会施加压力。他还雇了一批流氓、地痞组成请愿团，控制国会，逼迫议员同意参战。许多议员都对段祺瑞的流氓做法不满，纷纷提出辞职。
黎元洪见段祺瑞的气焰受到了打击，就在英美的支持下将段祺瑞免职。段祺瑞咽不下这口气，跑到天津筹备组织临时政府，并唆使皖系和奉系军阀独立，准备以武力推翻黎元洪。黎元洪在束手无策的情况下，邀请张勋进行调停。
