1928年,正当国民党军队不断向北进发的时候,北洋军阀政府的最后一个统治者张作霖开始慌张起来。张作霖本来是奉系军阀的头子。他以日本为后台,控制了东北三省。1926年张作霖趁段祺瑞下台之机,占领了北京。但是,他虽然把日本当作靠山,却又不是很听话,有时还与英国和美国勾勾搭搭,给予英美在东北的一些特权。这样,张作霖与日本人的关系就开始恶化了。
宣布东三省易帜时的张学良眼见北伐军就要打到了北京,日本人见张作霖已经靠不住,就企图取代张作霖,直接控制中国北方。1928年6月4日,张作霖乘坐专列返回奉天(今辽宁沈阳),在沈阳皇姑屯被日本关东军炸死。
张作霖死后,他的长子张学良于6月17日从北京秘密返回沈阳。日本人趁张学良为张作霖发丧之际,向张学良施加压力,怂恿张学良在东北策划独立,建立一个在日本控制下的独立王国。张学良早就知道了日本人想独霸东北的野心,他见日本人这样狂妄无理,非常气愤,将他们痛斥一顿,双方不欢而散。
就在这时,国民党的北伐军已经占领了天津和北京,除东北外,全国大部分地区都已经统一在国民党的青天白日旗之下。8月9日,蒋介石派特使来到奉天,劝张学良把代表北洋政府的五色旗换成青天白日旗,归顺国民党政府,实现全国统一。
张学良早就十分渴望能够摆脱日本人的统治,全国实现统一。因此,在国民党的号召下,他派出三人代表到北平与国民党谈判,商议东北易帜、归顺南京政府等问题。在北平,东北代表提出了“南京政府承认东北三省自治”、“享有人事及其他支配权”、“南京势力不能直接伸入东三省”等作为易帜条件。经过两个月的往返交涉,双方终于达成了协议。10月8日,国民党中央常务委员会议决定任命张学良为国民政府委员,10日,张学良在沈阳正式就任。
1928年12月29日,张学良顶住了日本的压力,毅然通电全国,“服从国民政府,改旗易帜”。至此,蒋介石实现了形式上的“全国统一”。