北魏末年，统治阶级虽然镇压了各族人民的起义，但其内部矛盾也日益激化。并逐渐形成了操纵朝政大权的高欢集团和控制关陇地区的宇文泰集团两大势力。
永熙三年（534年），北魏孝武帝因不堪忍受大丞相高欢的胁迫，于是逃到关中，依赖关西大行台宇文泰维持自己的统治。后因与宇文泰产生了嫌隙，被宇文泰用毒酒弑杀。第二年，宇文泰立魏孝武帝之孙元宝炬为帝，是为魏文帝，都长安，史称西魏。孝武帝逃离洛阳后，大丞相高欢便立魏孝文帝曾孙元善见为帝，是为魏孝静帝，迁都邺（今河北临漳西南），史称东魏。这样，北魏同时有了两个皇帝，分裂为东魏和西魏。西魏实际上由宇文泰掌权，东魏是高欢说了算。西魏据有今陕西、宁夏、甘肃及河套地区，以陕晋间的黄河与东魏为界。此后，东西魏互相声讨。大统元年（535年），西魏下诏列举高欢20条罪状，且曰“：朕将亲总六军，与丞相（指宇文泰）扫除凶丑。”高欢也不示弱，他移檄于西魏，谓宇文黑獭（宇文泰小名）为逆徒，且言“：今分命诸将领兵百万，刻期西讨。”声讨归声讨，这时谁也灭不了谁。但对宇文泰来说，却有一块心病，那就是灵州刺史曹泥（匈奴人）等一直占据灵州（今宁夏灵武西南，原薄骨律镇），不愿归顺他，且与高欢交往甚密。在西魏境内留有一块东魏的“飞地”，这对西魏来说，无疑是一大祸患。
西魏文帝大统元年，宇文泰遣骠骑大将军李虎诏谕一个名叫费也头的首领的部众，联合起来进攻灵州。围城40余日，曹泥觉得自己势孤力单，又没有援军，很难持久，只好投降西魏。宇文泰仍以他为灵州刺史，镇守灵州。第二年正月，东魏高欢亲率万骑袭击西魏的夏州（在今陕西靖边县北白城子）。东魏军在行军途中，不引火作炊，踏冰过河，行4日至夏州城下，将长矛用绳子捆接起来作为云梯，夜攻入城，擒夏州刺史斛拔俄弥突，留都督张琼镇守夏州，将夏州原居部落5000户东迁。当东魏军攻占夏州的消息传到灵州后，曹泥认为现在有后援了，便立即与其婿刘丰（原凉州刺史）复叛归东魏。宇文泰令都督赵贵、秦州刺史李弼等再次率军进攻曹泥。曹泥与刘丰凭依坚固的灵州城池坚守，等待东魏援军。西魏军一时不能得手，便引黄河水灌城，水深达1米多。在这危急关头，高欢命阿至罗率领3万骑兵越过灵州，绕到西魏军背后进行攻击，迫使西魏退师。西魏退军后，阿至罗入灵州城迎曹泥、刘丰东归，并迁灵州居民5000余户东奔汾州隰（x）ī城（今山西汾阳县），设侨置灵州，安置灵州移民。原灵州则为西魏控制。所谓“侨置”，原指南北朝时，东晋、南朝为了安置北方来的士民，便用北方州郡之名在长江南北设置了许多侨州、侨县。“侨置灵州”也是这个意思。
