公元225年，诸葛亮亲率大军，七擒孟获，平定了南中（今云南、贵州一带），稳固了蜀汉的后方。公元227年的春天，诸葛亮屯兵汉中，开始积极准备北伐。
当初诸葛亮放出风声，要从褒谷、斜谷攻打县（今陕西眉县），直捣长安。其实，这只是诸葛亮声东击西的策略。诸葛亮派赵云、邓芝为疑军，进占箕谷（今陕西太白境内），大张旗鼓，做出要进攻的模样；暗地里，诸葛亮却派大军主力北出祁山，想先取得陇右，然后再以高屋建瓴之势夺取长安。
公元228年春天，诸葛亮出兵祁山。蜀军经过这几年的严格训练，阵容整齐，号令严明，士气十分旺盛。由于刘备已经死了四五年，蜀中一向没有动静，魏国君臣不免放松了警惕。这次蜀军突然袭击祁山，守在祁山的魏军不是对手，纷纷败退。蜀军乘胜进军，祁山北面的天水、南安、安定三个郡的守将都背叛魏国，投降了诸葛亮。
那时候，魏文帝曹丕已经病死，曹魏的都城迁到了洛阳。魏国的文武百官得知蜀汉大举进攻的消息，都惊慌失措。倒是刚刚即位的魏明帝曹比较镇静，立刻抽调5万精锐兵力，由身经百战的张郃统领，赶往西线，驻防陇右。而且，曹还亲自到长安督战。
诸葛亮到了祁山，决定派一支先头部队，去占领战略要地街亭（今甘肃庄浪东南）。可是，由谁来带领这支人马呢？
曾任太守的马谡才干过人，喜欢谈论兵法，诸葛亮十分赏识器重他。刘备临终前对诸葛亮说：“马谡言过其实，不能重用，你可要多加考察！”诸葛亮不以为然，任命马谡为参军，经常召见马谡，从白天直谈到深夜。
等到出兵祁山，诸葛亮没有重用有实战经验的老将魏延、吴懿，单单看中了马谡。并命他为先锋，王平为副将。
马谡和王平到了街亭，张郃的主力也正从东面开过来。马谡察看了地形，心中大喜，对王平道：“这一带地势险要，街亭旁边有座山，我们正好在山上扎营，布置埋伏。张郃来了，我们就冲下山来，杀他个措手不及。”
王平略一沉吟，说：“临走的时候，丞相吩咐要坚守城池，稳扎稳打，切勿贪功冒进。现在，将军在山上扎营，如果敌人从山下切断了水源，那我们又该怎么办呢？”
马谡自以为熟读兵书，胸中十分有韬略，王平的劝告哪里听得进去半分，执意要在山上扎营。王平见状，只好央求马谡拨给他1000人马，好让他在山下临近的地方驻扎。
张郃率领魏军赶到街亭，看到马谡放弃现成的城池不守，却把人马驻扎在山上，暗暗高兴，马上传令手下将士，在山下筑好营垒，把马谡扎营的那座山围得严严实实、水泄不通。马谡几次命令士兵冲下山去，都被严阵以待的魏军挡住了。蜀军不但无法突破魏军阵线，反而被魏军的乱箭射死了不少。
果然，魏军切断了山上的水源。断了水的蜀军连饭都做不成，几天过去，自己先乱了阵脚。眼看蜀军就要崩溃，张发起总攻。蜀军将士纷纷逃散，谁也不听马谡的指挥。最后，马谡单枪匹马，杀出重围。
王平带领1000人马，稳守营垒。马谡一失败，王平就命令士兵们把战鼓擂得震天响，佯装进攻张。张也怀疑蜀军有埋伏，对蜀军不敢穷追猛打。王平整理好队伍，不慌不忙地撤退，一路上收容了不少马谡手下的散兵。
街亭失守，蜀军失去了重要的据点。为避免遭受更大损失，诸葛亮把人马撤退到汉中。
回到汉中，诸葛亮详细查问，知道街亭失守完全是马谡的责任。按照军法，诸葛亮把马谡下了监狱，定了死罪。在斩马谡的时候，诸葛亮想起他和马谡平时的情谊，心里十分难过，不禁失声痛哭。诸葛亮还亲自为他吊丧，痛哭流涕；抚养他的子女，与往常一样恩待他们。长史蒋琬对诸葛亮说：“当初楚国杀了得臣，晋文公喜形于色。现在天下没有平定却杀死智谋之士，难道不惋惜吗？”
诸葛亮哭泣道：“孙武所以能在天下克敌制胜，是执法严明，因而扬干犯法，魏绛就杀了他的仆人。如今四海分裂，战争才刚刚开始，若破坏法令，用什么来讨伐敌贼呢？”
王平在街亭曾经劝阻过马谡，在退兵时，又用计保全了人马，立了功，该受奖赏。于是，诸葛亮破格提拔王平为参军。
第一次北伐失败，固然是因为马谡违反军令，但诸葛亮用人不当更应该负责。于是，诸葛亮向后主刘禅上了一份奏章，请求将自己降职三级。刘禅接到奏章，不知所措，在大臣的建议下，才遵照丞相的意思办，把诸葛亮降级为右将军，兼理丞相的职务。
诸葛亮赏罚分明，又以身作则，蜀军将士都很受感动，士气更旺。这年冬天，诸葛亮带兵杀出散关（今陕西宝鸡西南），包围了陈仓（今宝鸡东）。第二年春天，诸葛亮又出兵收复了武都（今甘肃成县）、阴平（今甘肃文县西北）两个郡。刘禅恢复诸葛亮的丞相职务。
到了公元231年，诸葛亮第四次北伐，出兵祁山。当时魏军主帅大司马曹真病重，魏明帝派大将司马懿和张等一起率领人马赶往祁山。司马懿的精兵驻守在上（今甘肃天水）。诸葛亮希望速战速决，亲自率兵向司马懿挑战。但司马懿就是不肯应战。魏军将领以为司马懿害怕诸葛亮，纷纷请战，说：“你见了蜀军就像见到老虎一样，难道不怕天下人耻笑吗？”
其实，司马懿执行战略防御的方针，不和诸葛亮决战是完全正确的。蜀汉的10万大军，一切给养都得从剑南运到前线，千里迢迢，常常跟不上。而魏军在本土作战，后方供应不成问题，利于打持久战。
很快，由于后方运粮官员失职，粮食供应不上，诸葛亮只好主动撤兵了。魏将张带兵紧紧追赶，赶到木门一带的山谷地带，中了诸葛亮的埋伏，被乱箭射死了。
诸葛亮几次出兵，都因为粮食供应不上而退兵。他吸取这个教训，设计了被称为“木牛”、“流马”的运输工具，很便利地把粮食运到斜谷口（在今陕西眉县西南）囤积起来。
魏明帝青龙二年（公元234年）二月，诸葛亮做好充分准备，发动10万大军进行第六次北伐。同时，他约好孙权，一起发动攻势，南北策应，使魏国腹背受敌。
诸葛亮的大军出了斜谷口，到了渭水南岸的五丈原。他一面派兵构筑营垒，做好长期作战的准备；一面又派兵在五丈原屯田，解决军粮供应不足问题。司马懿率领魏军渡过渭水，也筑起营垒，和蜀军对峙。
孙权接到诸葛亮的信，马上兵分两路，进攻曹魏。魏明帝曹一面亲率大军到南面抵挡东吴的进攻，一面通知司马懿在五丈原坚守不战。
孙权听说魏明帝曹亲临前线，就退兵了。诸葛亮只好单方面作战，但司马懿始终稳守营垒，诸葛亮三番五次挑战也没用。双方在那里相持了100多天。
要使魏军决战，就得想办法激怒司马懿。诸葛亮派人给司马懿送去一套妇女的服饰，意思是司马懿既然如此胆小，不如回去做个“闺房小姐”吧。
魏军将士见主帅受到这样的奇耻大辱，气不过，纷纷嚷着要跟蜀军决一死战。司马懿知道这是诸葛亮的激将法，并不发火。
为了稳固军心，司马懿说：“好，我马上给皇帝上个奏章，请他批准我们跟蜀军决战。”多日后，魏明帝派来一个大臣，传达命令，不许出战。
诸葛亮知道司马懿的用意，说：“上奏章请求打仗，司马懿这是做给将士们看的。将在外，君命有所不受，哪有千里迢迢去请战的道理。”
诸葛亮料到了司马懿的心思，司马懿也在探听诸葛亮的情况。一次，诸葛亮派使者到魏营，司马懿随口问道：“你们丞相公事一定很忙吧。近来身体如何？胃口可好？”
使者以为司马懿问的只是些客气话，也就不加隐瞒，老实地答道：“丞相的确很忙，军中的事情，无论大小，都得亲自过问。他每天起早贪黑，近来好像胃口不好，吃得很少。”
使者一走，司马懿就对左右将士说：“嘿，诸葛亮吃得少，事情又那么多，还能活得久吗？”
不出司马懿所料，诸葛亮由于操劳过度，不久，就病倒在军营里了。没过几天，这位年纪仅54岁的蜀国丞相就病逝了。
诸葛亮生前已对蜀军的撤退作好安排。他嘱咐将领们，在他死后先别把消息透露出去。
将领们遵照他的安排，把他的尸体裹着放在车里，布置各路人马有秩序地撤退。
司马懿得到诸葛亮病死的风声，立刻率领魏军追上去。刚过五丈原，蜀军的旗帜忽然转了方向，擂起战鼓，诸葛亮端坐于车驾中，蜀军转身杀将过来。司马懿大吃一惊，暗自思忖：“难道诸葛亮诈死，引我上当？”赶紧调转马头，下令撤退。蜀军将领等魏军离得远了，才不慌不忙把全部人马撤出五丈原。进入斜谷后才发丧。
百姓为此编了一句谚语嘲笑司马懿，说：“死诸葛吓跑了活仲达（司马懿的字）！”司马懿听了哈哈一笑说：“我能猜到诸葛亮在世时的计谋，怎么能猜到诸葛亮死后也有计谋呢！”他又亲自跑到蜀军原来扎营的地方，观看了诸葛亮布置的阵势，不由得赞叹说：“诸葛亮真是天下奇才啊！”
诸葛亮虽然深谋远虑、韬略过人，但由于种种原因，其六次北伐均以失败告终。
