这次会议之后，革命党人并没有就此屈服。蓝天蔚、张榕等人经过密议，决定以新军第二混成协为主要力量，采取军事行动，完成东三省独立计划。没想到这一计划竟被蓝天蔚的部下一向反对革命的第三标标统聂汝清告密。赵尔巽得知这一消息后，当即找张作霖等人商讨对策。许多人建议赵尔巽赶快采取武力行动，对第二混成协来个一网打尽。张作霖则认为，革命党人来势不小，但胆子并不大，不到必要的时候不必使用武力镇压，更何况第二混成协势力不弱，弄不好会两败俱伤。他建议赵尔巽从蓝天蔚这个头领开刀，只要把蓝天蔚的兵权给夺掉，就不怕第二混成协的人马不听指挥。这个建议得到了赵尔巽的认同。
11月14日，赵尔巽“请”蓝天蔚来总督署议事，并对他说：“现在南方风潮日益激烈，我想请您去作详细调查，希望您据实以报。”赵尔巽的话虽客气，但蓝天蔚却听出了其中的用意。他知道事情已经败露，只好接受了赵尔巽的要求，只身逃往大连。临行前，赵尔巽还送给他旅费2000元。
蓝天蔚一走，赵尔巽立即将第二混成协协统的职位交给了聂汝清。从此，第二混成协这支最具革命性的武装，便成了赵尔巽的囊中之物。
张作霖在与革命党人的斗争中屡献佳策，屡立奇功，深得赵尔巽的赏识。驱逐蓝天蔚不久，他被赵尔巽任命为奉天保安会的军政部副部长，仅从职位上就可看出，张实际上成了奉天全省军事上的副统帅。
接着，张作霖将他的下一个目标对准了张榕。
东北地区革命党人之所以容易屈服，关键在于他们的革命性不是很强，这主要表现在他们对以赵尔巽为首的反动政府始终抱有不切实际的幻想。张作霖能以一个根本不存在的假炸弹镇住新军将领，蓝天蔚能对赵尔巽的安排不作任何反抗，主要原因都在这里。张榕也不例外。在蓝天蔚出走之后，他虽然另行组织了一个名为“联合激进会”的组织与“保安会”相对抗，并派人分赴各地举行了一些零零散散的武装起义，但他的主要目的并不是武力推翻反动政权，而只是想借以恫吓赵尔巽之流，让他们顺应革命，宣布东三省独立。正因如此，当辽阳、凤城等地武装起义的枪声正起之时，他还在频繁地与张作霖、袁金铠等人接触，希望能从这些旧官僚的身上找到突破口。
张榕这种近乎幼稚的幻想，恰好给张作霖提供了对付他的机会。1912年1月23日夜晚，抱着洽谈合作幻想的张榕请张作霖、袁金销二人到一个名为“得义楼”的餐厅吃饭。张作霖接到请柬，当即找来自己的侦探长于文甲和另一个打手高金山，对他们作了如此这般的吩咐。
夜已很深，宴席上的张作霖、袁金铠与张榕酒兴正浓，他们谈得非常的“融洽”，仿佛根本不是政治上的敌手，而是相知相交的朋友，这自然是张作霖等人做作出来的。他们的真正用心，就是要彻底打消张榕的提防心理，好找个机会下手。果不其然，当酒酣耳热之际，张榕主动提出要带张作霖去附近的妓院看自己新近结识的一个妓女，为了不使张作霖扫兴，他干脆将一直陪伴左右的两个手下打发回家。
张作霖自然非常乐意地答应了张榕的邀请，他们俩边走边谈，向妓院方向漫步而去。可临要到妓院门口时，张作霖突然推说有事，先行告辞。就在张作霖离开张榕的一刹那，早已跟随多时的于文甲和高金山突然从黑暗中出现，向张榕连开数枪。张榕还没有明白是怎么回事，便倒在血泊之中。
自张榕被杀之后，奉天革命党人已完全处于群龙无首的状态。接着，张作霖派兵奔赴奉天各地，对零星散布的革命党人进行了疯狂大屠杀，整个东北地区都为白色恐怖所笼罩。在血腥屠杀革命党人的同时，张作霖始终未忘扩充自己的队伍，他从北镇、黑山、辽中、新民等地大肆招募新兵数千人，为进一步夺取奉天实权打下了坚实的基础。
寻找靠山，巴结日本
1912年，是政治风云变幻莫测的一年，张作霖在不停地寻找、对比、摇摆，他在寻找最稳定的靠山。他一方面口喊“挥师勤王”，却按兵不动；另一方面他又与日本人拉关系，寻找后路；最后他觉得还是袁世凯政治后劲大，因而最终倒向袁世凯的怀抱。
张作霖对革命是深恶痛绝的，在奉天省城“杀秃子”使革命党人对他恨之入骨。张作霖拥护清王朝，因为他不想失去现在的位置。他认为“共和必招大乱”。他对清王朝还没有完全绝望，因而时常摆出个忠臣的样子来。
1911年12月31日，张作霖联合奉天省的主要领军军官聂汝清、冯麟阁、吴俊升、马龙潭等人通电吉林、黑龙江两省的军政官员，号召组织一个联合的东三省勤王之师，进关南下，以武力解北京政体问题。同一天，张作霖等33人联名致电直隶、河南、黑龙江、吉林、石家庄、山东、徐州等地军政官员，“就现有的军队，编成劲旅，共同担负勤王的责任，先发制人。”张作霖在通电中说：“革命军制造民乱，无视君主，图私利泄私愤，其行无异于匪徒。朝廷一心为大局之和平虽有情和之意，但对比缺乏诚意的和平当然毫无置议之必要。我朝廷应取之道惟有武力。东三省与内地省不同，军队已经配置就绪，而且勤王之心耿耿于怀，精兵数万，一旦令下，即可取道山东挥师南下，誓死剿灭革命军以尽微忠于朝廷”云云。
当时清朝已严令东三省总督赵尔巽，速从奉天五路巡防队中选拔一半人马移驻山海关以南，以便拱卫京师。贪功求荣心切的张作霖想趁此机会亲自担当此任，率部南征建树战功以得到朝廷的嘉奖。因而张作霖一再请求赵尔巽让他带部南征。他说：“要用铁血对付革命党，以尽我们军人的拱卫朝廷的责任。”
张作霖摩拳擦掌准备要进关，这把老官僚赵尔巽吓坏了。没有张作霖的武力拱卫支撑，他赵尔巽恐怕早就垮了。赵尔巽劝张作霖三思而后行。他说：“现在关内形势未卜，你这一离省，就等于离了根基，万一进关不妥恐怕想回来都不行了。另外，你这一离开，必将人心浮动，万一革命党乘虚而来，反丢了自己的地盘。”
张作霖前思后想，觉得也有道理，因而准备观望些时日再说。
1912年1月1日，孙中山在南京就任中华民国临时大总统。袁世凯密令北洋将领通电反对。当日，北洋军事将领四十八人联名通电，声称誓死拥护君主立宪，反对共和政体。张作霖以北洋外系，列名其中，开始干预全国大政。
为推翻清王朝的残余统治，孙中山先生发表声明表示，如果清帝退位，袁世凯宣布赞成共和，就推袁世凯为大总统，自己则主动让贤。袁世凯在得到南京临时政府的让权保证后，开始背叛清王朝。他指使手下的北洋军将领等47人联名通电，要求清廷立即同意共和政体，清帝退位。张作霖还没有放弃对清王朝的最后幻想，因而没有参加这一次通电。
狡猾的袁世凯刚一跻身朝廷，就在清廷和革命军之间巧妙地操纵双方互斗，自己从中取利。他迫使摄政醇亲王退位而掌握了北方政权。与此同时，他一面和南方革命党讲条件，一面又以大势不可抗拒来威胁清廷，怂恿皇帝退位。
2月12日，在袁世凯的武力逼迫下，清朝末代皇帝博仪宣布退位。同一天，孙中山履行自己的政治诺言，向中华民国临时参议院辞去临时大总统一职，举荐袁世凯为临时大总统。袁世凯宣布拥护共和政体，称共和政体是世界各国所公认的最好的政体。“今由帝政一跃而实现共和政体，是民国无疆的幸福。大清皇帝既然明诏辞位，而且已经过本人签名。则此诏宣布之日，为帝政的结局和民国的开始。从此本人将继续努力，永远不再让君主政体再行于中国。”
东北是清王朝的发祥地。清朝灭亡后，它的遗老以肃亲王善耆、什允为首，组成“宗社党”，把东北作为复辟清朝的基地。他们勾结日本军阀，进行武装复辟活动。日本的“浪人”川岛浪速一直跟他们在一起。川岛是肃亲王善耆任民政部尚书时聘请的日本警政顾问，是一个中国通，他当时任宗社党的“本部长”。日本侵略集团中的一部分人，在清王朝垮台时，对支持“宗社党”搞“满蒙独立运动”，寄以很大希望。1912年2月，日本参谋本部的高山大佐和川岛浪速曾拥肃亲王和蒙族喀喇沁王，于内蒙王府策划“第一次满蒙独立运动”，阴谋败露仍不死心，一心等待机会继续进行分裂中国的活动。
当时赵尔巽因多年承受清廷恩露因而是强有力的勤王派。作为南征勤王论急先锋的张作霖此时也成了宗社党的肱股。他秘密联络宗社党，极力反对清帝退位。他不满袁世凯的政治野心，不承认共和政治，只奉戴清朝正统，并策划讨袁。
1912年1月31日，张作霖在拜会日本驻奉天总领事落合谦太郎时表示：“北方将士之所以上奏表示赞成共和，主要是袁世凯从中玩弄小手段所致。袁世凯终已逐渐附和共和，皇帝退位当不可免，东三省亦将失去足以拥戴之主宰。身为北人而附合南人之共和，甘受其制，本人宁死而不屑为。如果真的这样，还不如依附日本为佳。”
落合谦太郎派书记生接待了张作霖。书记生想探探张作霖的意图，因而说：“我们作为局外人，对你们国体之争不感兴趣。”
张作霖说：“贵国在东三省享有重大权利吧？如果贵国坐视东三省人民陷于无主状态而不予一顾，道理上说不过去。尤其蒙古，肯定会落到俄国人手中。而蒙古有三倍于东三省的土地、矿产等天然富源。”
书记生问道：“不知阁下有何打算？”
张作霖回答：“如果东三省陷入无主状态，那我们只好按个人意愿行事了。本人已经与冯麟阁等人决心奋起，其他人对我们也无可奈何。希望阁下将我的意思转告贵国总领事，再由总领事转达贵国政府。”
落合谦太郎分析了张作霖的一番表白后对书记生说：“张作霖是找我们作靠山来了。他的意思我明白，主要是想趁着政局混乱，他要在东三省搞独立，以便建立自己的天下。”书记生说：“张作霖等人有意表示扩张我们在南满洲的权益，以求在日本国庇护下巩固其今后的地位，这是张作霖见北京政府的形势与他本人意愿相反，而日本则可以用出卖权益加以利用，使之成为靠山的缘故。”落合总领事立即命书记生将张作霖的话电告日本外务大臣内田康哉。
日本人对于张作霖的动向十分关注，但日本人也有所顾虑，首先是这时的中国政局变化形势捉摸不透，就满洲将会发生什么事态，也很难预料，因此日本决定采用观望态度。日本外务省要求落合等人可以与张作霖联系，但不要承担政治义务。日本人在对待张作霖的态度方面是狡猾的。他们既不想出力又想要得到好处，因而指示奉天总领事馆要充分留意东三省政局变化和张作霖的言行，在适当的时候采取相应的措施。
见日本人迟迟不给明确答复，张作霖决计刺激日本人一下。他对其他各国驻奉天使馆挨个进行拜访，一是探听各国对中国政体的态度，二是加大对日本的压力。
2月3日，落合谦太郎派手下深泽回访张作霖。张作霖故作谦虚状说：“这阵子我太忙了，每天各国领事都来回拜，忙得我不亦乐乎。落合总领事一定是比我还忙了。”深泽听出张作霖言外之意对日本未派总领事亲自回拜表示不满，马上报告了落合谦太郎。
隔了一天，落合谦太郎总领事亲自来回访张作霖。张作霖喜出望外。张作霖急切想知道日本政府的态度，因而开门见山地问道：“不知这些日子，贵国政府有无消息到来？此事将决定本人等今后之进退，贵国方面意向如何，颇愿闻知。”
落合谦太郎在外务省混了多年，熟悉外交辞令，因而开始绕圈子搪塞张作霖说：“日前与阁下所谈的问题，我已经详细报告给本国政府，一有消息来到，自必立即奉告。”
张作霖听到这里大失所望。落合谦太郎却反过来问道：“北京方面情况如何？你有何新打算？”
张作霖气乎乎地说：“形势越来越不好了，但本人无论如何也不能附和共和。日前本人已经以统领的名义致电袁世凯，阐明我的立场了。”
张作霖也卖个关子，到这故意停顿一下。落合谦太郎急于听到下文，忙追问说：“愿闻其详。”
张作霖见吊起了落合的胃口，就连威胁带恐吓地说：“我的立场是，如果皇帝退位，成立共和政府，本人将拒绝听从共和政府的指挥。如果日本国认为本人不堪信任，而我说什么也不会依附共和，我无路可走，只好采取自由行动，到时候，长时间的地方战乱是不可避免的。”
落合忙劝道：“日本国绝对不会与将军作对的。”张作霖口气也软下来，他说：“如果日本国对本人及东三省人民尚有关切之情，则本人率民归依，并不是件难事。我们既然已经失去应为之效忠的皇帝，那么依附同种的日本，也属理所当然。”
这一段露骨的表白，让落合谦太郎也觉得张作霖实在太没有政治人格了。落合想探测张作霖的决心有多大，因而进一步问道：“假如袁总理罢免赵总督，阁下将如何处理？”张作霖回答：“如另委派他人来作总督，本人决不承认。到那时，我将拥戴肃亲王归依日本国。但到时我要发表声明，说明这种举动并不是受到贵国的压力。”
张作霖还派于冲汉去旅顺向日本关东都督大岛义昌商谈借款问题，他在行动上开始探寻东三省独立的路子。他计划拥戴肃亲王恢复君主立宪制，然后投靠日本以为外援。
落合谦太郎经过这次与张作霖的交谈，得出三点判断：一是张作霖曾对革命党人采取屠杀手段，因此他担心革命党人掌权后对己不利，故一贯站在反对共和的立场上；二是张作霖正处在十字路口，现在举棋不定，因为形势谁也看不清；三是张作霖如果不能得到日本人的支持，他极有可能重操旧业，沦为土匪，另一种可能就是将会找俄国做靠山，这将对日本不利。因此，落合觉得应对张作霖处境表示关切，将来也好留有周旋的余地。
2月8日，落合派深泽去张作霖处探听借款消息。张作霖神态颇为得意地说：“现在肃亲王在大连的大岛都督处，马上就将用马车运来枪炮。另外贵国高山公通大佐也准备带兵前来相助，这些人将装扮成中国人和我的军队一起作战。”
张作霖为了证明自己的话是真的，想找出肃亲王写给他的亲笔信让深泽看。有意思的是，张作霖将屋里翻了个遍也没找到那封不知道是否存在的信。张作霖当着深泽的面，把侍从们叫进来，狠狠地训斥一番。深泽当时一头雾水，不知真假。
落合听了深泽的报告，认为对于张作霖应该火速确定基本方针。他在给外相的报告中写道：“当此关头，我国如欲扩展在满洲的权益，就应使张作霖不要对我国放弃希望。”他要求政府迅速作出决定。
