对皇权危险最大的，除了掌握大权的丞相外，还有功臣。功臣是和朱元璋一起冒生死，打天下，建立明朝的武将。明朝建立之后，元璋作了皇帝，他们就按战功封为公、侯、伯。这样的功臣，洪武朝一共封了69个。他们享有各种特权，成为一个新兴的权贵集团。据1371年（洪武四年）的统计，韩国公李善长等28个公侯，都拥有大量的庄田，佃户一共有38 194户。他们不但拥有大量的庄田、佃户，而且还有不少的部曲、义子和奴仆，并且和各地的军官都有过统率关系。如何有效地约束他们，使他们遵守国家的法律、制度，成为维护国家的柱石，而不是破坏因素，元璋确实费了不少心思。
功臣中的人绝大多数都是元璋的同乡，这种同乡关系使他们在创业年代紧密团结在一起，元璋又与他们联姻，或是自己和儿子们娶功臣的姐妹女儿做妃子，或是将女儿嫁给功臣的子弟做妻子，希望借姻亲关系增进感情，加强凝聚力。
另一方面，从制度建设和立法上着手，限制功臣的种种有害行为。元璋从明朝建国伊始，就确立了亲王分封制，计划将自己的儿子培养成各地的最高军事统率，代替异姓功臣出镇地方。他又立了很多礼仪规矩和法律条文来规范功臣的行为。如1372年（洪武五年）7月30日，作铁榜申诫公侯，就是一个专门用来约束功臣和他们的管庄人肆意侵犯他人财产、破坏国家财政与经济秩序的法律条例。元璋对功臣的住宅，日常器用，都作了详细的规定。
他还苦口婆心教育功臣。他曾对他们说：“难成的是功绩，难得的是爵位。你们舍生忘死，跟随我历经百战，才取得现在的功绩，可见成功不容易。然后按照功绩定爵位，只有那些功绩卓著的人才得到封爵，可见爵位难得。知道成功不容易，就应该思量如何保持；知道爵位难得，就应该思量如何长守。保持长守的办法只有一个，那就是敬谨。不因为功大而有骄心，不因为爵隆而有怠心，所以能享有荣盛，延及后世。大抵敬谨是受福的根本，骄怠是招祸的源头，你们要牢记在心。”
但是，这些功臣大多把元璋的训诫当了耳边风，对法律、制度视而不见。而元璋出身穷苦，少年时，备受人生艰难，事业全凭一身奋斗出来，养成了敏感、多疑、又刚愎自用的性格，对别人的冒犯很难容忍。不过，他又是一个具有高度理智的人，在1390年（洪武二十三年）以前，对功臣尚能曲加容忍保护。功臣在这年以前死去的有30人，其中得罪被杀或自杀的只有6人，24人属于善终。不得善终的6人中，有曹国公李文忠、忠勤伯汪广洋、淮安侯华云龙、永嘉侯朱亮祖、临川侯胡美。李文忠是元璋的外甥，喜欢读书，好招揽儒士。元璋对宦官很重用，文忠听信门客的建议，劝元璋裁省宦官，元璋大怒，认为文忠简直是个没头脑的书呆子，把他的门客全部抓起来杀了，文忠惊悸而死。汪广洋死于政争。华云龙镇守北平（今北京），违反礼制，居住在元朝丞相脱脱的府第中，僭用元故宫中的物品，被人告发，处死。廖永忠是执行元璋密令，在瓜步沉舟将韩林儿淹死的人。这件事干得有碍伦理，应该让元璋忘掉才是，但廖永忠却据此邀功，被元璋在铁券上记了一笔。后来，廖永忠着服违制，刺痛了元璋对韩林儿的负罪感，元璋便把他杀了。朱亮祖镇守广东，专擅暴横，恣意贪赃，将守法不阿的番禺知县道同诬告整死。元璋后来知道了真相，将亮祖父子二人召回南京，用鞭子活活打死。胡美的长女是元璋的贵妃，元璋吸取历史上后妃干政的教训，制定了严格的宫禁，胡美却与儿子、女婿擅自违禁入宫，事情发觉，儿子、女婿被处死，胡美被迫自尽。
对于这6个被杀或被迫自杀的功臣，其中李文忠、廖永忠死后，元璋感到心中有愧，又为他们立了继承人。可见元璋用法极严，但尚有理智的控制。过头了后还会改正。
1390年以后的情况就不同了。此后死去的功臣35人，其中善终的13人，被诛死或被迫自杀的占22人。韩国公李善长的被杀成为1390年以后大杀功臣的开端。
元璋对李善长早怀不满。善长自从1371年（洪武四年）被打发回老家后，觉得权势和荣华刚开始便要结束，心中不甘，便寻找机会报效忠勤，元璋觉得似乎太冷落自己的萧何，就安排善长管理督建中都，又提拔他的弟弟李存义做太仆寺丞，1376年（洪武九年）又将长女临安公主下嫁给他的儿子李祺。善长见元璋对自己如此垂青，以为会再受重用。期望越高，失望也就越大，善长进京后一个来月，也没见元璋表示这个意思，便满腹怨气，皇上大亲家得病几乎10天未上朝，他也懒得去问安，结果吃了汪广洋的弹章，被削岁禄一千八百石。不久又让他与李文忠总理省、府、台事，但实际工作只是管土木工程。元璋既安抚又镇慑，恩威并用，使得善长更是郁郁怨愤，不免发牢骚。这些牢骚很快就传到元璋的耳朵里。
胡惟庸是善长一手提拔的，善长的侄子李佑又是惟庸的侄女婿，但洪武十三年杀胡惟庸时，并没有将善长和其他淮西功臣扯进去，这当然是由元璋的策略决定的。元璋当时主要是要废除丞相及丞相制度，将淮西功臣牵进去，打击面太广，不利于政权的稳定。1385年（洪武十八年），有人告发李存义、李佑是胡惟庸的党羽，元璋命免死安置崇明。对于皇上的宽宥大恩，善长没有表示丝毫谢意，元璋怀恨在心，第二年就制造了一个林贤案。给胡惟庸加上一条私通倭寇、图谋颠覆明王朝的罪状。这样，整个胡党的罪状也就更显得深重了。
1390年（洪武二十三年），李善长想大造府第，从汤和那里私借三百卫卒当劳力，汤和害怕招祸，秘密告诉了元璋。5月，有一批京城居民被判罪发配边疆，其中有个叫丁斌的，是善长的亲故，善长屡次到元璋那里替他求情。元璋一看是自投罗网，便立即逮捕了丁斌、善长的弟弟李存义、李存贤和他们的儿子。经过刑讯逼供，李善长与胡惟庸勾结谋反的罪状便是铁案如山。这时又有人揭发胡惟庸曾派一个叫封绩的人去漠北联络蒙古响应谋反，后来胡惟庸谋反不成，封绩就留在蒙古不敢回中原。1388年，将军蓝玉北征出塞，擒住了封绩，李善长却将事情压了下来，没让朝廷知道。虽然案犯们的供词漏洞百出，互相矛盾，情理不通，但还是据此定案：李善长身为元勋国戚，知逆谋不揭发，狐疑观望，心怀两端，大逆不道。当时正好碰上星象异常，占星师说这是上天的意志要杀大臣。于是善长老翁，连同他的妻女弟侄仆人七十余口通通被送入阴曹地府。驸马李祺几年前就死了，免受刑戮。看在父女的份上，临安公主免死安置江浦，两个孩子也放过。
同时被处死的功臣有吉安侯陆仲亨、延安侯唐胜宗、平凉侯费聚、南雄侯赵庸、荥阳侯常遇春、宜春侯黄彬、河南侯陆聚，还有几位已经故去的功臣被迫论为胡党。杀戮刚结束，元璋就将刑讯所得的口供和判案记录公布，名为《昭示奸党录》，让全国人民都知道他们的“罪状”。
胡惟庸一案，前后延续十余年，连累被杀者达3万余人，连呈太子的老师宋濂，也因为孙子宋慎被牵进胡党，遭到贬谪，死于四川茂州。
杀死胡惟庸，族诛李善长，目的只有一个，那就是维护朱氏的江山万万年。元璋为了实现这个目的，对皇太子和诸王的培养也就特别重视。他在宫中特建大本堂，贮藏古今图书，征聘四方名儒为老师，其中最著名的就是宋濂，任皇太子的老师长达十几年。
皇太子朱标，生性忠厚，又长期受儒家的教育，对元璋严刑峻法的治国策略很不赞成，进谏说：“陛下杀人过滥，恐伤和气。”元璋没作声。第二天，故意把一条棘杖放在地下，让皇太子拿起来，皇太子面有难色。元璋说：“你怕刺不敢拿，我把这些刺都剃掉了，再交给你，岂不是好。我所杀的都是天下的坏人，内部整理了，你才能当这个家。”皇太子却说：“上有尧舜之君，下有尧舜之民。”元璋大怒，拿起凳子就朝他砸去，皇太子只好逃走。
不幸的是，1392年（洪武二十五年），皇太子因病去世，65岁的老皇帝伤心之余，只好立16岁的孙子允炆为皇太孙。皇太孙的性格一如其父，年纪又小，元璋担心功臣将来不服他调度，便决心剃除所有的荆棘。拿来开刀的就是那根最硬最扎人的刺——凉国公蓝玉。
蓝玉，定远人，是开平王常遇春的小舅子，早年隶属遇春帐下，后来成长为一名骁勇多谋的将帅。1378年（洪武十一年），因战功卓著，封永昌侯。1382年，明军平定云南，蓝玉功最大，增禄，女儿册为蜀王的妃子。1387年，拜大将军。1388年（洪武二十一年），在捕鱼儿海（今贝加尔湖）地区重创北元势力，促使北元内部分裂，一蹶不振，在很大程度上解除了明朝北部的威胁。这一功绩使蓝玉成为常遇春、徐达、李文忠之后最为杰出的将领，被元璋比作历史上大破匈奴、突厥的汉唐名将卫青、李靖。然而，这一功绩也使他更目空一切，为所欲为。他广置庄田，蓄养无数的庄奴、义子，为害乡里；曾强占民田，怒逐朝廷派去的御史；北征还，夜过喜峰关，关吏开门稍迟，便令士兵毁关而入，元璋知道了很不高兴。他又私自霸占被俘的元太子妃，消息传开后，妃子羞惭自杀而死，元璋狠狠责备了他。
蓝玉取得捕鱼儿海大捷，元璋本想封他为梁国公，但因他有上面的那些过失，便改封凉国公，并将过错刻在铁券上。但蓝大将军却一点也不在意，御宴上，出语傲慢。1391年，四川建昌卫发生蒙古降将月鲁帖木儿的叛乱，元璋令蓝玉率军平叛。临行，元璋面授机宜，让蓝玉手下的几员将领退出，连说三遍，竟无一人动身。蓝玉举手一挥，他们却立刻没了身影。蓝玉这种不加掩饰的权势与威福，当然只能把他推向巅危之地。
1392年（洪武二十五年）9月12日，元璋又拿起“胡党”这个方便的工具，把蓝玉的亲家靖宁侯叶升杀了，拉开了清洗蓝玉势力的序幕。这时离皇太子死仅118天。
年底，蓝玉从四川班师。1393年2月，回到南京。元璋封宋国公冯胜、颖国公傅友德为太子太师，蓝玉为太子太傅。蓝玉本没把冯、傅二人放在眼里，见他们的官号比自己的大，便愤愤不平。正在他愤愤不平的时候，有人告他谋反。
3月20日（二月癸未），早朝将要结束，一切都很正常。突然，锦衣卫指挥使蒋王献出班参奏蓝玉谋反，圣旨令将反臣即刻拿下。审讯马上进行。蓝玉对诬陷据理辩驳，毫不退让。吏部尚书詹徽喝令他招出同党，蓝玉怒目而视，稍停片刻，大呼道：“詹徽就是我的同党。”话音刚落，武士们就把詹徽从审判席上拉了下去，搞得审问官们目瞪口呆，不敢再讯。元璋也不要蓝玉的口供，第三天，就把他杀了。
然后就是大规模的清洗和株连蔓引，杀12侯、2伯、高中级将领无数，还有与蓝玉有瓜葛的亲戚、族党、财主、生意人等等。据元璋事后颁布的《逆臣录》前面的诏书中说，蓝玉党案一共杀了15万人。
胡蓝党案杀人是以家族为单位的，一人得罪，便斩草除根，家族诛灭。二案前后杀人达45万。
1393年10月，元璋下诏说：“自今胡党、蓝党，概赦不问。”这不过是为了安定人心。1394年12月，元璋逼迫颖国公傅友德自杀，族灭。1395年2月，又赐宋国公冯胜死。于是，“元功宿将，相继尽矣”。
1390年（洪武二十三年）以后善终的只有凤翔侯张龙、东川侯胡海、西平侯沐英、信国公汤和。而洪武一朝没有病死，也未被诛杀的功臣，只有两个：长兴侯耿炳文与武定侯郭英。他们都是二流的将帅，又谨厚自守，因此保全了性命。
