凭借北方红巾军大起义的声势，定州人郭子兴趁势在濠州起兵。这时，濠州城里来了一个投军的人。此人举止不凡，引起了郭子兴的注意，并被委以重任。从此，郭子兴大军阵营中又多了一员大将。
勇夺濠州
自韩山童、刘福通在黄陵冈起义后，数月间，大江南北各方豪杰纷纷起兵响应。当时在定远（今安徽定远）有个叫郭子兴的地主与众不同，他原是曹州人，远祖为唐末汾阳王郭子仪第六子郭暧。到了郭子兴父亲这一代，迁居到定远，以在街头算卦为生。在这定远城中，有一户大财主，家里有个女儿，相貌甚为标致，只可惜是个瞎子，一直嫁不出去。后来郭子兴的父亲做了财主家的上门女婿，接管了财主家的所有家产，并生了三个儿子，第二个儿子便是郭子兴。
郭子兴性格慷慨，喜好结交豪杰。当时，白莲教在定远民间有很高的地位，郭子兴不但信奉白莲教，而且还加入了白莲教组织，常常拿家中的钱财去救济贫困的教友，平日里也常焚香密会，计划着要干出一番大事。后来，韩山童起兵的消息传到定远，郭子兴意识到机会终于到来，在他的号召下，定远附近的百姓扔掉农具，拿起兵器，很快组织了一支上万人的队伍。
至正十二年（1352）二月二十七日，郭子兴选出精兵几千人，趁着黑夜先后潜入濠州城，进城后众人会集到州衙附近。子夜时突然一声炮响，喊杀声响彻全城，郭子兴带人率先冲进州官府邸，杀了州官。与此同时，属下各部义军控制住城中各处关要，濠州城就此落到郭子兴的手里。
皇觉寺的生活
朱元璋在埋葬了亲人之后，走投无路，最后想起皇觉寺，只好去庙里讨生活。于是，皇觉寺又多了一个光头的小和尚，不过朱元璋很快发现原来和尚也只是一种职业，他们有自己的田地，还能结婚并有自己的家小（元政府的制度）。
朱元璋每天除了要低声下气地伺候高彬法师的老婆、孩子，还要受庙里其他和尚欺负，那些师尊、师兄们什么活都让他干，而他们却不念经、不拜佛，就连佛像也不擦。为了能有一口饭吃，朱元璋也只能一忍再忍，在无人的时候拿这些泥菩萨出气。
有一天，师兄们又让他去清扫佛殿，扫到伽蓝殿时，他已经累得气喘吁吁，一个不留神绊在了伽蓝神像脚上，重重摔了一跤。这可激怒了朱元璋，他挥起笤帚使劲地打了伽蓝神像一顿，这才出了这口恶气。事隔数日，大殿供奉的大红蜡烛被老鼠咬坏了，害得他被师父狠狠地训了一顿，等师父走后，朱元璋心想伽蓝神专管殿宇却看到老鼠也不管，让自己受骂，于是跑到伽蓝神背后写上“发配三千里”，罚菩萨去充军。这两件事高彬法师都看在眼里，也不去说他。
皇觉寺主要的粮食来源是向佃户们收租米，今年灾情严重，佃户们交不上租子，百年古刹也闹开了饥荒。没有办法，朱元璋只得离开皇觉寺，另谋出路。
一封来信
自从离开皇觉寺后，朱元璋走遍了淮西一带的名都大邑。在这一段日子里，他不但熟识了每一条河流，每一座高山，而且对当地的风土人情以及城池村镇的特点都了然于心。至正八年（1348），朱元璋听说家乡一带不太平，常常闹盗匪，这不禁勾起了他的思乡情绪，于是他又回到了皇觉寺。
在离开皇觉寺的这三年里，朱元璋的思想发生了很大的改变。他所游荡的淮西一带，正是西系红巾军开山祖师彭莹玉活动过的地方，就是在那里，他加入了秘密组织。
回到皇觉寺之后，朱元璋加紧读书识字，私下里还四处结交朋友，物色有胆有识的江湖壮士。尤其是最近几个月，各地红巾军成功起义的消息使他极为兴奋，但这些年走南闯北的历练，使他变得稳重，他要看清当前的形势，不能随便投靠个义军部队。郭子兴攻占濠州的消息又一次刺激了他，原本有心投效，可当他听说小小濠州城竟有五个元帅，而且还相互争斗不休的时候，感到很失望，觉得投奔这些人不会有什么光明前途。
正当朱元璋跃跃欲试，拿不定主意投哪路义军的时候，有人从濠州捎来了一封信。这封信是他孩童时的好伙伴汤和写的，信中大体内容是他现在投到郭子兴的门下，做了千户长，劝朱元璋也来投军。这封信的到来，使朱元璋彻底没了主意。他觉得城中的几位大帅都不会有太大的发展，可好友的劝说又让他非常动心。这一晚，他坐立不安，走来走去，直到天亮，叫来会些卦术的周德兴，帮着问了一卦，也是模棱两可，说不出个所以然。正当他犹豫不决时，不知哪里走漏了风声，突然有官兵前来抓人，这下他再也没得选择，只好离开皇觉寺，投军去了。
混进濠州城
郭子兴攻占濠州之后，元将彻里不花退到城外几十里处扎下大营。他见红巾军势大，不敢攻城，只是派些兵将，抓些附近的百姓，包上红布，充作俘虏向上交差。濠州城的红巾军任何一支都不是元军对手，可五帅又互不信任，不肯联手抗敌，只留在城中天天乐得逍遥。两边这样僵持着，最倒霉的要属百姓。元军那边抓百姓充数，红巾军这边怕元军派奸细混进城，也严加盘查。
至正十二年（1352）闰三月初一，城门的守军挡住了一个相貌奇特的大和尚。军士问他是哪里人，要干什么。他只说来投郭子兴，想当义军。如今濠州城被元军围困，能坚持多久都没人敢想，这时却还有人主动来投义军，这引起了城门守军的怀疑，当下他们就把朱元璋五花大绑，要砍他的首级。
砍人需要令旗，有人到帅府去取令旗，郭子兴问明来由，觉得朱元璋这个时候想以投军的借口混进城，实在是自寻死路。于是，他便跟着那个取令的士卒回到城门口。当他第一眼看到朱元璋的时候，觉得这人看似五官粗大，实则有一股霸气，不似平常角色。无论士卒如何呵斥、恐吓，哪怕是要把他推出去砍头，他也只是怒瞪着双眼，并不害怕，也不求饶。
郭子兴觉得十分诧异，他下马上前，亲自问话。朱元璋怒视而答，毫不屈服。听说他是自己手下得力大将汤和写信招来的好朋友，郭子兴这才明白原来是一场误会。就这样，朱元璋投身军营，成为郭子兴的部下。
诛元利器
朱元璋入伍之后，很快就在军营中崭露头角。濠州城被围以来，红巾军常派士卒作为哨探，去探听元军情况。朱元璋每次都能出色地完成任务，深得队长的赏识，队长有什么事都找他商量。两个月后的一天，郭子兴带着亲兵卫队来巡营，经过朱元璋所在的队伍时，全队士卒数他的个子最高，站在队伍中也特别引人注目。郭子兴想起当初的事，就把队长叫过来，询问朱元璋入伍后的表现。队长当然是极力称赞，从此朱元璋便成为郭子兴身边亲兵卫队的十夫长。
做了亲兵十夫长之后，朱元璋更加勤快，遇事小心，敢作敢为，在作战中也表现得尤为机智勇敢，所得到的战利品，不管是衣物还是银两、军械，总是如数上缴给大帅，无半点保留。得到的赏赐也总是与同队的弟兄们分享，绝不独占。他主意很多，想问题长远，又认得一些字，乐于助人。这就使得他备受赞赏，连郭子兴也将他看做心腹。
在郭子兴的军中，有个姓马的姑娘。这位马姑娘原本是郭子兴的老朋友马公的女儿，后来马公及夫人被杀，于是郭子兴夫妇收养了马姑娘。
马姑娘名叫马秀英，为人极为贤惠，深得郭子兴的喜爱。郭夫人早听说朱元璋才能出众，智勇双全，再加上濠州城五个大帅之中，郭子兴最受排挤，如果能得到朱元璋的长期辅佐，一定会扭转不利局势。于是，郭子兴和夫人经过商量，决定招朱元璋为女婿。从此，朱元璋在军中被人尊称为朱公子。为了与这个身份相配，郭子兴将他旧日的名字“重八”改为“元璋”。所谓璋者，是指一种尖锐的玉器，朱元璋这个名字，巧借了朱的谐音“诛”，意思是诛灭元朝的利器。改名后的朱元璋，也名副其实地成为一个令元政府闻风胆寒的诛元利器。
