府兵制源于鲜卑部落兵制。西魏大统年间(公元535年至公元551年),丞相宇文泰初建府兵制。府兵的地位比较高,不是边防军而是禁军。军士另立户籍,府兵不承担赋役。府兵每月上半月守卫宫廷,昼夜巡查,下半月由军官教习作战。府兵最高统帅为柱国,除宇文泰和西魏宗室广陵王元欣外,其他六柱国为六个集团军,各督两个大将军,大将军督两个开府将军,共二十四个开府,每一开府统一军,共二十四军。这是兵农分离的贵族兵制。
后来,北周武帝招募许多汉人参加府兵,又把府兵改称为“侍官”,入军籍后不编入地方户籍,免除赋役。府兵制为兵农合一的兵制,府兵直辖于君主,加强了君主权力和中央集权。