在地方待了好几年，李吉甫也去世了，他终于到进入中央历任监察御史、考功员外郎等职。元和十五年（820）正月，穆宗即位，他的好运开始了。
穆宗刚即位，他便被授以库部郎中知制诰一职，为皇帝起草诏书，可以经常接触皇帝。十一月，改任御史中丞，这是御史台的头头，经常要参与执法，审理一些案件。
这时候的牛僧孺还颇有些干劲，他上来就进行了一些改革，使审理案件的过程大大简化，程序也透明了很多。另外他秉公执法，坚持法律的公正。宿州刺史李直臣犯了贪污罪，应该被判为死刑，他暗中行贿宦官，让宦官出面为他活动，但被牛僧孺坚决回绝。在宦官的疏通下，穆宗也出面为李直臣说情，说直臣虽然犯赃罪，但却有经度才能，可调他到边远之地任职，以宽免其罪。牛僧孺仍坚持自己的意见，并对穆宗说，就是有才能的才危险呢。没有才能的庸人他们只懂得拿拿自己那一份薪水，而有才的人他们就不满足于一点小小的薪水了，像安禄山、朱泚他们都是才能过人，但最后却浊乱天下。再说，像李直臣这种小才，又怎么值得为他改变法律呢？
他这些话可谓是有理有据，而且义正辞严，穆宗很欣赏他，不仅接受了他对李直臣的处理，还赐给他金紫之服以示奖励。
后来牛僧孺由侍御史迁为户部侍郎。他在这一职位上又给穆宗留下了深刻的印象。
此前，宣武节度使韩弘的儿子韩公武任右骁卫将军，为了维护老爸的权位，曾用财货行贿内外权臣。后来韩公武死了，韩弘也继之而卒。有人将公武行贿的事告诉了御史府。穆宗可怜韩公武的儿子年幼，便把韩弘的账簿拿去亲自查看，见其中注明中外权臣多收受贿赂，唯独有一行朱笔小字写道，某年月日，送户部牛侍郎钱千万，不纳。
穆宗很感动，当时把这本账簿出示给左右侍臣，高兴地说，看来我没有看错人啊。于是就拜牛僧孺为为户部侍郎、同平章事。这已经是宰相的名号了。
我们在上边就说了像牛僧孺这种类型的人即难以长时间保持兴奋，又难以长时间保持情绪低迷，也不能很好适应快速变化的环境。他当上了宰相，却也开始对中央的政治感到害怕穆宗死后，敬宗即位，牛僧孺进为中书侍郎，加银青光禄大夫，封奇章县子。不久，又进为郡公、集贤殿大学士，监修国史。当时，敬宗荒淫无度，宦官用事，大臣又朋比为奸，朝纲隳紊。牛僧孺感到有些畏惧，又束手无策，就数次上表求任外职，予以回避。宝历元年（825）正月，他以检校礼部尚书、同中书门下平章事出任鄂州刺史、武昌军节度、鄂岳蕲黄观察使。
他就这样离开了政治中枢，同时也轻易放弃了一次实现自己胸中理想，做出一番事业的机会。当他第二次入朝为相的时候，他发现一切都已经晚了。
这一次是李宗闵拉他入朝的。
他这时候已经从鄂州转到淮南，小日子过的很不错。当然，中央的消息也是随时传来，他听说，自己的同学，曾经的“难兄难弟”李宗闵成了文宗的辅政，也听说李德裕也被皇上召入了京城，当兵部尚书，剩下会不会是自己呢？
不久有诏书到达，召他入朝，拜为兵部尚书、同平章事。原来，李宗闵辅政后便屡次向文宗推荐牛僧孺，称赞他有政治才干，不宜久任外官。昔日的老朋友聚在了一起，而且是在地位显赫的宰相政事房，想来他们肯定会有诸多感慨，也有种种的雄心壮举。最突出的表现是，他和李宗闵联手进行了一系列的人事调整和变动，提拔亲近，贬斥不同政见的人，一时间都差不多可以说是“牛与李，共天下”了。
但僧孺很快发现，他根本做不了什么。原因很多，譬如他的性格和做事的风格与文宗的谋略格格不入，而最重要的是皇帝并没有在他身上寄托任何希望。
牛僧孺恐惧一切的战争，无论应该还是不应该。太和五年（831）正月，卢龙军副兵马使杨志诚率其徒举兵作乱，莫州刺史被杀，监军李载义与其子仓皇逃往易州。此事上奏朝廷，文宗召诸宰相商讨对策，牛僧孺说，范阳（卢龙兵马使的管辖范围）从安史之乱以来，就已经不再是帝国的实际管辖区域了。以前，兵马使刘聪暂时把这片土地归献中央，中央什么好处也没有捞到，还花费了八十万缗钱用来慰劳军民。因此，就算这次能够平定叛乱，事实上也没有什么好处。倒不如来个顺水推船，找人去安抚一下杨志诚，承认他现在的地位，让他老老实实地呆在那儿，相当于替帝国守守边，这样最好。
后来的大史学家司马光看到这一段话的时候，忍不住大骂牛僧孺，说他这是姑息偷安，哪里是辅佐皇帝治理天下的办法？
最过分的是，有一次吐蕃维州守将悉怛谋率众奔成都请降，当时做西川节度使的李德裕便趁机发兵进驻维州。这可是天大的好事，当年韦皋经营西川多年，到死也没有能够收复此城，一直引以为憾。现在不费一兵一卒，使失陷四十年之久的维州重又归唐。他马上上表向中央汇报。
文宗将这事交给大臣们讨论，大家皆同意李德裕的做法，唯独牛僧孺说要讲信用，不应该占人家的便宜。命令将原唐西边重镇维州又拱手归还吐蕃，并将悉怛谋等人执送吐蕃。结果，吐蕃再次进据维州城，还当着唐军的面杀死了悉怛谋等降将。泱泱大唐，居然连投靠自己的人都无法保护，而且眼睁睁地看着他们被杀害，这让西川的将士们心寒不已。而天下舆论都说牛僧孺嫉妒李德裕的功劳，逞一时意气，皇帝也觉得很不爽。尤其是太和六年（832）十一月，西川监军王践言回到朝廷当枢密使，他向文宗诉说朝廷处理维州一事的不当。文宗也开始后悔，他怨恨牛僧孺决策失误，僧孺心里不安。
一次在延英殿议事时，文宗问宰相们，天下何时当太平，卿等也有志于此吗？
牛僧孺回答说，我们这几个大臣能力不够，不能辅佐皇帝您做大事。但如果想要太平的话，其实现在就是了。现在少数民族又不来侵犯我们，百姓也不流离失所，政局平稳，虽然称不上大治，但也可以叫小康了。陛下您如果还想要其他的太平的话，那就不是我们所能达到的了。文宗被他这一付心满意足、不思进取的样子恶心到了，便很不客气地说，既然是这样的话，我还要你们这些宰相干什么！
其实，文宗很久之前便对他们失望了。文宗要干大事，要除掉朝中势力越来越大的宦官，但这群大臣没一个可用的。贵为宰相的李宗闵是通过宦官的关系而当上宰相的，而牛僧孺则是李宗闵引荐，他们跟宦官之间有扯不清的关系。因此，文宗为了实现自己的目标，只能找上了并不适合的宋申锡。因此，文宗很无奈，有一大群宰相老在自己面前晃来晃去，大道理一套一套的，但就是干不了事；而牛僧孺也很郁闷，他与文宗本来就不是一路人，估计他是抑郁型，而文宗是胆汁型，天性好动情绪随时处于亢奋状态。牛僧孺感觉自己已经被皇帝抛弃了，他永远也跟不上文宗的步伐，于是便不断地请求辞去相职。十二月，文宗准辞，他出外为检校左仆射、兼平章事、扬州大都督府长史、淮南节度副大使，知节度事。
经过这次入朝之后，他已经不再抱希望了。尤其是太和九年（835）发生了甘露之变，宰相及朝官多人被杀，南衙与北司更是势如水火，宦官更加肆无忌惮，为所欲为。在这种情况下，牛僧孺更是心灰意懒，无所作为。他虽然已出任外官，还嫌待的这个地方太重要，祈求找一个不重要的小地方，安安静静的待着。他屡次上表朝廷，未得准许，便在淮南任职六年。开成二年（837）五月，他又被加为检校司空，食邑二千户，判东都尚书事、东都留守、东畿汝都防御使。
他赴东都就任后，在归仁里建筑了豪华的住宅，把在淮南任职时的嘉木美石，安放在阶庭，从此，他心居事外，不再管闲杂的事情。这时候与同在东都洛阳，同样心境的白居易打得火热，两个诗人平时喝点小酒，写写诗，听听小曲，一天天地过日子。
当然，起起伏伏，最后还是回到东都，最终病死在这里。
回顾牛僧孺的一生，常常想到帝国。牛僧孺曾经的热血青年到后来的老成持重，毫无进取心与帝国曾经的光芒四射到晚期的无奈衰落，他们都经历了同样的历程。牛僧孺体验到了，帝国黄昏时候的无奈，但李宗闵却完全不一样。
李宗闵：是君子还是小人
他才是牛党真正的领袖。
历史学家们对于“牛李党争”的看法有很多种，有人说所谓的“党”是牛僧孺和李宗闵结党，而李德裕则一直都是以朝廷大体出发，反对牛李一党；据说作为当事人的李德裕当年也不同意自己结党的说法。他告诉文宗说，现在朝廷上三分之一的人都是朋党。只有小人才结党，所谓君子和不同，小人则同而不和。所以小人结党，君子交友。这也是宋代欧阳修的观点，当时宋朝朝廷里边也是乌烟瘴气一片，大臣们都结成各个派别，互相攻讦。
所以当李德裕秉政的时候才拿朋党们开刀，这自然会惹恼了很多人。于是当那些曾经被他开过刀的人当政之后，他自然要受到打击和排挤。
其实，在这个过程中，牛僧孺是很无辜的。他就是那种典型的老实人。之所以被人们当成是“牛党”的领袖，主要是因为以政治名望而言，他比李宗闵资历要老很多。他在穆宗朝就已经是在宰相了，当时他在穆宗心目的形象很光辉，而且在朝野间的声誉也很好，那时的宰相李吉甫便把他拖入己方阵营，以增加支持度。
因此，当文宗朝李宗闵当上宰相的时候，他自然首先想到的是曾经一起在常科案中受到不公平待遇同学，曾经的宰相牛僧孺。他深知牛为人温柔敦厚，不太喜欢也不习惯搞阴谋诡计，更不喜欢大权独揽，而他的资历名望又都是一流的，因此，引他入阁，便相当于是手中多了一个重要的筹码。
李宗闵其实很不自信。
他本来一直就没什么作为。
当年常科案后一直在地方藩镇上晃悠，后来裴度去攻打淮西的时候，把他捎带上了，让他做属官。这可是一个肥差，与其到地方小县城做个一把手，还不如找个有前途的主，给他当秘书。裴度当时是宪宗最为信任的大臣，而且正在替皇上分忧，带病平定淮西的叛乱。一旦班师回朝，一干人等自然少不了好处。所以，李宗闵正是借这一缕春风，蹭到了中央，做礼部侍郎。
这也难怪当宦官枢密使杨承和推荐他做宰相的时候，文宗显得那么惊讶。他在杨承和的再三提醒下终于想起来了，还有这么一号人物。但可惜的是，他绞尽脑汁地想了老半天，硬是没能够找到一条让他做宰相的理由。因为他一无资历，二无名望，三无政绩，唯一能够说服文宗皇帝自己的理由就是——他是枢密使推荐的人！
帝国中晚期的皇帝们是很郁闷的，因为那时候自己想任命一个宰相必须经过两道程序：枢密使和政事殿。宦官们把这一项权利牢牢的把握在自己的手里，有时候甚至可以谏阻皇帝的想法；当然，要任命一个新宰相，自然也得知会现任的宰相们一声，让他们做好精神和物质的准备，好欢迎新同事的到来。
这项制度在强势的武宗那儿终于获得了一次突破，他直接下诏给政事殿，让他们发布任命。这引起了宫中太监们的一阵骚动。那些老太监们纷纷指责枢密使，骂他软弱无能，不能到皇帝面前据理力争，以至于出现这种对枢密院置之不理的情况。
不过文宗朝的时候还是不行，宦官的势力还很强大，面对枢密院的举荐，他只能表示同意。不过好歹也就是一名宰相而已，他还可以有其他的选择。
其实，也难怪文宗不明白，李宗闵是煞费苦心绕了一大圈才当成宰相的。他在做吏部侍郎的时候，认识了宪宗的驸马沈曦，在沈曦的帮助下，他托老宫人，女学士宋若宪代请杨承和推荐他的。从这儿我们也可以看到，中国的人际关系哲学是多么地强大。
好不容易当上宰相，但皇帝分明不怎么看好他，大臣们也觉得很意外。李宗闵感到压力很大，他急需寻找一个好帮手。文宗本来已经把在外边待了好几年的李德裕叫到了京城做兵部尚书，都准备拜相了。李宗闵一上任，立刻发布命令，让李德裕到西川去做郑、滑节度使，对此文宗也毫无办法，因为这是宰相自带的权力。
李德裕当然很郁闷，刚刚风尘仆仆地跑回京城，还没有睡个好觉又要出发。不过临走时他的好朋友刘禹锡来送他，好歹给了他一些安慰。不过跟同时到的柳宗元比起来，这没有什么。当年柳宗元跟着王叔文他们闹变革，结果被宦官们一网打尽，在永州刺史任上待了10年，突然被叫回京师，他兴高采烈地到了京城才知道，他被贬到了更为偏远的柳州。
把李德裕赶走之后，李宗闵稍微有点放心了，他想到了牛僧孺。
果然，牛僧孺在他的举荐下迅速入相，利用牛的声望他的聪明，他马上把自己人提拔上来，把不属于己方阵营的人贬出京城。剩下来的时间里，他便可以安安稳稳地睡大觉了。
标准地说，属于李宗闵集团的人有杨嗣复、李珏、杨虞卿、杨汉公、杨汝士等人。后边三个也被人成为“三杨”。这些人大都身居要职，他们紧密地团结在李宗闵的周围，构成了“牛党”的核心团队。
在这个团队里边，牛僧孺是灵魂，是名以上的领袖，而李宗闵则是名符其实的大哥大。杨嗣复、李珏两个人都是宰相，跟李宗闵是好哥们；而“三杨”兄弟的地位就要低一些了，大概属于李宗闵手下干将的角色。
