十六国时期少数民族统治者实行的是胡汉分治政策。西晋末年,匈奴贵族刘渊建立汉国,设单于左辅、右辅,专治理胡人。所谓胡人即泛指北方诸少数民族。其子刘聪即位后,进一步健全胡汉分治制度。他以儿子刘粲为大单于,设左、右辅,各管六夷10万落,每万落置一都尉;另设左、右司隶,专治理汉人,各管20余万户,每万户置一内史,共43内史。其实质是依靠和利用匈奴及其他胡人贵族压迫汉人。
羯族首领石勒建立后赵之后,也设内史专治理汉人,另置大单于镇抚百蛮。鲜卑贵族建立的后燕政权在后期也采取胡汉分治制度。