建国后，罗荣桓出任总政治部主任兼总干部管理部部长。
罗家与林家积怨有个过程。
在战争年代及解放初期，两家的关系还是不错的。
在50年代，罗家人口众多，除了有他们自己的五个子女外，还有罗荣桓的侄子侄女侄孙，林月琴的堂弟、侄女，林彪前妻的女儿林小琳一度也住在罗家。她同叶群的关系不好，有一次她写信指斥叶群为王熙凤。林小琳想见她父亲林彪，怕叶群从中作梗，便请林月琴联系。林月琴认为这是人之常情，便同意了。尽管林小琳写信给叶群的事林月琴事先并不知道，但多疑的叶群还是把这事同林小琳见林彪的事联系起来，从而增加了对林月琴的不满。
1956年，由于劳累过度，再加小女儿南下癌症病逝的刺激，他的心绞痛反复发作，有时一天几次。发作时，吃一点药，休息一下便挺过去了。时间一长，罗荣桓决定辞去总政主任职务，当时他只有54岁。他建议由谭政接替他的职务。
彭德怀接到罗荣桓的信后，感到关系重大，需从长计议。他考虑八大即将召开，可在会议期间向毛主席报告后再说，便将信先压了下来。
八大选举罗荣桓为中央委员，由毛泽东提名，他还当选了中央政治局委员。
中央军委考虑到罗荣桓的健康状况，同意他的请求，决定由谭政任总政治部主任，肖华任总干部部长（不久总干部都与总政合并）。
罗荣桓辞去总政和总干部部的职务后，日常工作的负担减轻了。但是他被选为政治局委员，肩上的责任并没减轻。
罗荣桓没有什么业余爱好，不会下棋，也不打扑克。只有散散步。同他住得不远的贺龙很关心他的健康，就热情邀请他去钓鱼。罗荣桓开始不想去，贺龙又邀来聂荣臻一道相劝。盛情难却，罗荣桓只好去了。贺龙一路上向他讲解钓鱼的常识。到了龙潭湖，垂下鱼钩不久，就有一条大鱼上钩了，咬着鱼钩拼命往深水里钻。罗荣桓没有思想准备，被猛地拉了一个趔趄。贺龙见状，忙放下自己的钓竿，一边说“老罗，莫慌，我来我来”，一边以同他的年龄很不相称的快步跑过来，接过罗荣桓的钓竿，一面放线一面说：“这叫放长线，钓大鱼。”罗荣桓站在岸上，兴致勃勃地看着贺龙放线收线，反复多次，经过二三十分钟，才把鱼拖出水面。一称，有17斤重。罗荣桓因新奇而感到兴奋，开始对钓鱼有点兴趣了。但是他钓鱼时，老是在思考问题，常常是鱼咬钩了也不提竿。贺龙便开他的玩笑：“老罗，姜太公钓鱼是愿者上钩，可是你呀，鱼咬钩了也不提竿。”罗荣桓听了也不禁哑然失笑。比较起来，他最喜欢的仍然是工作。
1959年庐山会议，彭德怀直言被罢官。罗荣桓因病未出席会议，接彭德怀电话，说毛主席准备让林彪接任国防部长，征求罗的意见。罗荣桓说，国防部长外事任务较重，林彪身体不佳，不宜担任此职，建议贺龙同志担任。彭真向毛主席报告了罗的意见，未被采纳。此事林彪自然知道。
林彪出于个人野心，把功夫用在“毛泽东”身上。他大力推广诸如学习毛著是学马列的“捷径”，是“带着问题学”、“立竿见影”；后来他又提出“顶峰论”、“三八作风”、“四个第一”和背语录等一系列教条主义的学习方法。
谭政觉得“三八”作风和三八妇女节容易混淆，提出商榷。林彪在会上点了谭政的名，又加上别的罪状，把他打成反党宗派集团。林彪此举的矛头也是指向罗荣桓的，他指责谭政的两条罪状——搞文化教育和系统学习马列主义、毛泽东思想，都是罗荣桓的主意。
1960年年底，根据林彪的意见，谭政被降为总政副主任。毛泽东将总参谋长罗瑞卿和总政副主任肖华请到中南海去商量由谁来接替谭政的主任职务。罗瑞卿和肖华都建议由罗荣桓复出，毛泽东立即同意。于是，中央军委决定由罗荣桓重新出任总政治部主任。
对此，林彪不高兴，不许报纸公布。后来，新华社要发表我军领导人名单，罗瑞卿和肖华都主张公布罗荣桓的任命，林彪仍然不同意。罗荣桓感慨地说：“看来我这个主任还是不合法啊！”
对于自己的重新任命，罗荣桓也感到突然。10月间整谭政的军委扩大会议，他因病没有参加。批判谭政，林彪事先对他连招呼都没有打一个。
但是，罗荣桓服从了中央和军委的决定。他对林月琴说：“中央既然要我干，我一定要干好。”于是他带病上任，首先是找总政各位副主任和部长们汇报，了解情况。
罗荣桓重新出任总政治部主任，对林彪那一套学习毛著的提法不以为然。他曾对总政副主任梁必业说：“带着问题学，在毛选中找答案，提法不妥当。还是要学习立场、观点和方法。”他还对总干部部长甘渭汉说：“把毛泽东思想说成当代思想的顶峰，那就没有发展了。”
1961年2月，罗荣桓和贺龙一同南下，到部队进行调查研究，在南京连队了解战士生活，问战士们怎么理解带着问题学？战士们答不上来。连指导员说，大家研究来研究去，不知该怎么学才能立竿见影。
罗荣桓说：“你们要灵活运用嘛。学习时要注意联系实际，领会精神实质，别的可以先不去考虑。”这时，罗荣桓对林彪的“背语录”做法也产生怀疑。他认为这是教条主义，他说：“用教条主义态度对待毛泽东思想，那根本是牛头不对马嘴。”经过调查，罗荣桓进一步明确认识到林彪的做法是背离党的理论联系实际的学风的。回京后，《解放军报》写了一篇报道，文章中有他调查时的讲话，征求他的意见。罗帅向来不喜见报，这次却同意发表，无疑是公开向林彪打个招呼。
4月下旬，林彪指示《解放军报》经常选登毛主席语录，军报准备“五一”开始刊登，对林彪提意见已到了刻不容缓的时候。
4月13日军委召开常委会，讨论《合成军队战斗条例概则》草案，出席会议的常委有贺龙、罗荣桓、叶剑英、罗瑞卿和林彪。列席的有刘亚楼、张爱萍、彭绍辉、梁必业等。讨论时，林彪问大家有什么意见？
罗荣桓提出：“带着问题学毛选，这句话要考虑。有毛病。”林彪装作不知：“这句话在哪里呀？”罗荣桓示意梁必业，将有关的段落读了。
林彪板着面孔，恶声问罗荣桓：
“那你说应该怎么学呢？”
罗荣桓坦率地说：“应当是学习毛主席著作的精神实质。‘带着问题学’这句话改掉为好。”
林彪半天没吱声，看到无人发言，便阴阳怪气地说：“不好，就去掉嘛！”罗荣桓接着说：“还是去掉好。学习毛主席著作一定要从根本上学，融会贯通。要学习立场、观点、方法，紧密联系实际……”没等他说完，林彪粗暴地打断他的话，喊着“好吧！散会！”站起来拂袖而去。
与会的元帅和将军们，对林彪的突然发作，感到惊讶。罗荣桓竭力克制住愤怒，拿着文件的手有点发抖，他踏着沉重的脚步离开了会议室。
会后，罗荣桓几天心情都不好，夫人林月琴问他怎么回事，他也不说。
对这个原则问题，既然林彪听不进去，只好向中央反映。
他打电话给邓小平，邓小平觉得问题很重要，到书记处会上讨论，大家都同意罗荣桓的意见。
林彪气冲冲离开会场以后，经常发火，暗中算计要报复罗荣桓，想给他扣上“反党”帽子，寻找攻击他的“炮弹”。
1960年10月28日，罗荣桓在政治学院讲话，批评部队有些人不关心地方工作时说，在山东，农村劳动力减少20%，牲口由600万降到2万头，许多土地都荒废了，部队为什么不反映？这样大的灾荒，一平二调共产风，不反映怎么行？
几天后，总参动员部长傅秋涛，到罗荣桓家汇报民兵工作，谈到某省军区副司令下去核查工作，了解一个县非正常死亡3万多人，回来后未向党委反映。有个秘书问动员处处长为何不反映？处长说，首长不反映，我也不敢。
罗荣桓听了，心情非常沉重，他严肃指出，这是一个党性问题。他立即将肖华请来，结合贯彻农村工作“十二条”，决定发一个指示，并以总政名义写个建议，指出各地驻军要及时反映地方动态，在当地党委领导下参加一些地方工作等。
经中央书记处同意，总政立即向部队传达。
部队向地方工作提意见，一年前彭德怀做过，结果被罢官。如今罗荣桓又如此做，林彪抓住把柄，向毛主席写了报告，说通令发下去后，各地驻军与地方党委关系易搞坏，对于党的一元化领导不利，易发生军队与地方对立等。毛主席批示肖华，照林彪的意见办理，总政那个建议停止执行。这件事本来已经了结，可林彪为了打击罗荣桓，现在又搬出来当“炮弹”了！
有一天，林彪当着罗瑞卿和海军某领导人的面，冷冷地说：“罗荣桓的思想可不对头啊！他躲着我，主张军队向地方开炮，这不是反党吗？”罗瑞卿和海军那个干部听了不语。林彪看他们不表态，突然板着脸对罗瑞卿说：“听说这也是你的意见，我就是反对你们！”罗瑞卿看过总政给书记处的报告，根本不是什么向地方开炮，于是回答说：“我没有。”
“没有？”林彪追着问：“怎么没有？有文件为证！”
罗瑞卿只好回答：“要是查到我有这样的主张，我承担责任。”
海军那个干部见此情景，起身告辞。
林彪对罗瑞卿说：
“就照我刚才说的搞，别的不要听。一个新鲜事物，总是有人反对的。”
第二天清晨，林彪又给罗瑞卿打电话，要他对此事保密，声称是为了“保护罗荣桓的健康”。他一面叫罗瑞卿不要公开，一面继续攻击罗荣桓反党，甚至说他反对“带着问题学”，就是反对毛主席。
暗地里，林彪指使他的老婆叶群，放出谣言，说林彪把解放东北的功劳，分了一半给罗荣桓。谣言造的太拙劣，说明林彪贪天之功，把解放东北的胜利记在自己账上。而罗荣桓早在辽沈战役的敌工会上指出：我军的伟大胜利，是执行了党中央毛主席的路线、方针、政策的结果，也是全体指战员英勇奋斗和广大人民群众支援的结果。至于讲到领导者，这就要看到十几位中央委员和各级领导干部的作用。
叶群是蛇一般的女人，过去挨过罗荣桓的批评，怀恨在心，一直挑拨林彪对罗荣桓的不满，现在正好借题发挥。（详见《罗荣桓传》中《同林彪的一次原则斗争》，当代中国出版社）
