嘉靖二十七年（1558年），张居正从翰林院编修，升右春坊右中允，领国子监司业事。唐代的左春坊、右春坊为太子官属，以后历代相沿。明代的左春坊、右春坊的坊官，如庶子、中允、赞善等，实际上仅为翰林官升转的虚衔，翰林院编修为正六品，右中允为正七品。明代南、北两京都设有国子监，长官为祭酒，当时的国子监祭酒为高拱，司业是副职，这是张居正的实职。
嘉靖四十一年（1562年），明廷发生了一个重大的事件：御史邹应龙上书弹劾严嵩之子严世蕃，历数其受贿不法之行，这一次，他没有重蹈杨继盛的故辙。嘉靖三十七年，刑科给事中吴时来、刑部主事张种、董传策三人曾同日上疏弹劾严嵩，均被下狱，廷杖，结果吴时来遣戍横州，张种遗戍都匀，董传策遗戍南宁。弹劾严嵩的几位官员都与徐阶有些关系，杨继盛是徐阶掌国子监时的门生，董传策为徐阶的同乡，吴时来、张种为徐阶的门生，反严的后面，有徐阶的策动。但这时，严氏父子专宠，所以弹劾没有成功。到嘉靖四十一年时，世宗对严氏父子的恩宠已渐淡薄，故而邹应龙的弹劾成功了。严世蕃交刑部审讯后，判充军边疆，严嵩也被勒令致仕。邹应龙擢升为通政司参议。邹应龙此次弹劾严世蕃，仍是徐阶的策划。徐阶对张居正的政治生涯具有举足轻重的影响。
徐阶，字子升，松江华亭人。“为人短小白皙，善容止。性颖敏，有权略，而阴重不泄”。他是一位极善谋略的政治家，是严嵩的对手。当严嵩权势熏天之时，徐阶只是不露声色地等待着，暗中窥测机会，准备倒严。嘉靖三十年（1551年），大将军仇鸾不敢对鞑靼开战，商主张开马市，兵部员外郎杨继盛奏言十不可、五谬，被贬为甘肃狄道典史，徐阶看到仇鸾交结严嵩，又得到世宗的支持，反对无益，竟不发一言。嘉靖三十八年（1559年），徐阶晋吏部尚书，次年，再从少傅晋太子太师。他的地位在逐渐巩固、上升。世宗“有所密询，皆舍嵩而之阶”。嘉靖四十年（1561年）年底，世宗所居永寿宫遭火灾，暂时移居玉熙宫，以其窄小，欲有所营建，召严嵩与徐阶商议，严嵩请世宗仍归大内，有违世宗之意，引起他的不快，精明的徐阶建议，以修建奉天殿、华盖殿和谨身殿的大量剩余材料，重建一宫，深得世宗欢心，遂命徐阶之子徐璠兼工部主事督工，仅10个月便建成了，世宗命名为万寿宫，即日移居新宫，升徐阶为少师，兼食尚书俸禄，予一子中书舍人，徐瑶升太常少卿。徐阶的势力在发展，而严嵩的势力在削弱。在这种情况下，徐阶策动邹应龙弹劾严世蕃，而不是直接参劾严嵩，因为他看到，世宗对严嵩还有所眷顾，直接弹劾严嵩有一定的风险，所以由其子而波及其父，最终造成了严嵩的垮台。
严嵩去职，徐阶取而代之为内阁首辅，住进了严嵩的大学士直庐，他在直庐中书三语，“以威福还主上，以政务还诸司，以用舍刑赏还公论”，表明他与严嵩的不同。此时言路已开，朝士侃佩，诏狱渐虚，任事者皆得终其功名，政治较严氏父子当权时有了很大的好转，论者皆推徐阶为名相。
然而，徐阶没有忘怀严世蕃和归居乡里的严嵩，这是潜伏着的危险。政治斗争充满了起伏和暗礁，如果不把政敌彻底打垮、置之死地，那么，就有可能被东山再起的敌人搞垮，这一点，徐阶是清楚的，况且，世宗对严嵩还有眷恋之情。嘉靖四十三年（1564年），御史林润上书再劾严世蕃，逮严世蕃下狱。嘉靖四十四年（1565年），林润再上疏，历数严氏父子罪状，世宗下令将严世蕃交三法司审讯。严世蕃并不惊慌惧怕，他胸有成竹地说：“任他燎原火，自有倒海水”。他召集党徒，授意他们说：“受贿之事是掩盖不了的，但是皇上对此事还并非深恶痛绝。如果三法司上疏时提出坑害沈、杨继盛之事，皇上一定会大怒，我就可以解脱了。”于是这些党徒们四出散布说，三法司若要重提沈、杨继盛之事，严世蕃便难逃死罪了。沈是锦衣卫经历，嘉靖三十年春，以历数严嵩十大罪状，廷杖，谪佃保安。嘉靖三十六年（1557年），严氏父子指使人杀死沈，并杖杀其二子。刑部尚书黄光升、左都御史张永明、大理寺卿张守直以为此事足证严氏父子罪行，于是，在草拟的奏疏中，将严氏父子陷害沈、杨继盛之事痛责一番，他们带着奏稿去见徐阶，徐阶阅毕，谓：“法家断案良佳。”随后，将三位邀入内庭，屏去左右之人，问道：“诸君子谓严公子当死乎？生乎？”三位都说：“死不足赎。”“然则此案将杀之乎？生之乎？”三位又说：“用杨、沈正欲抵死。”徐阶说：“别自有说。杨、沈事诚犯天下公恶，然杨以计中上所讳，取特旨；沈暗入招中，取泛旨。上英明，岂肯自引为过？一入览，疑法司借严氏归过于上，必震怒，在事者皆不免，严公子骑款段出都门矣。”沈和杨继盛的案子，是世宗的诏旨，一提及此，刚愎自用的世宗必然以为他们归罪于己，那么当事者将无一幸免，而严世蕃反而可以无罪获释。三人顿时愕然，齐推徐阶主笔起草奏疏，徐阶当下便从袖中取出早已草拟好的奏稿。他恐时间一长，有所泄露，败坏了事情。当三人未至徐阶之所时，徐阶已嘱咐他们带写本吏及印同至，当下即命写本吏誊抄，用印封识。在奏疏中，徐阶不提沈、杨二人的冤狱，只说严世蕃“交通倭寇，潜谋叛逆”，一切都安排得非常机密，行事快捷。严世蕃虽耳目众多，善于刺探消息，对此却一无所知，而世宗已经降旨斩杀严世蕃了。之后，又抄了严嵩的家，得银250.5万两。不久，寄食于故旧家的严嵩也死了。
处置严氏父子之后，山西巡抚张槚上疏，请赦曾参劾严氏父子的吴时来、董传策、张种等人，世宗大怒，竟将张槚下狱。按照张槚的看法，既然严氏父子罪恶昭彰，已经伏法，那么，首发大奸诸臣的冤狱自然应当得到昭雪，这是合乎逻辑的想法，然而，他忘记了，世宗处理过的事情是不能推翻的，那样做会有损于他的“圣明”。徐阶深切地了解这一点，所以他不仅不提沈、杨之事，而且也不提吴时来、董传策、张种之事，他没有忘记他们，但是他不能因为感情，也不想为了清名，葬送了政治前途。政坛上永远充满了争斗，勾心斗角、甚至血腥屡见不鲜。推倒了严嵩，由自己出任内阁首辅，这便是政治上的大胜利。其余的一切事情，只能等待时机。世宗去世后，机会来了，在穆宗朝，徐阶将吴时来、董传策、张种三人均起复原职。
徐阶在政治上的胜利，为张居正的政治生涯开了一条通道。嘉靖二十八年（1549年），张居正授翰林院编修时，徐阶见“居正为人，欣面秀眉目”，“勇敢任事，豪杰自许，然沉深有城府，莫能测也”。遂深相期许，引以为志同道合者，“阶代嵩首辅，倾心委居正”。世宗于正德十六年（1521年），从安陆州入都即位，后遂升安陆州为承天府，并修《承天大志》，徐阶当国时，再修《承天大志》，徐阶为总裁，荐张居正为副总裁，嘉靖四十三年，《承天大志》完成，张居正进右春坊右谕德，为从五品，并为裕王日讲官。世宗八子，五子早夭，仅余次子载壑、三子载垕、四子载圳，嘉靖十八年（1539年），立载壑为太子，载垕为裕王，载圳为景王。嘉靖二十八年，庄敬太子载壑死了。照例应立裕王为太子，笃信道术的世宗，听信道士陶仲文之言，以为二龙见面不吉，遂不立太子，这便引发了裕王与景王之间争取王位继承人的明争暗斗，张居正后来讲到：“是时，先帝（指裕王）潜居藩邸，世庙一日忽有疑于先帝，命检成祖之于仁宗故事，阶为之从容譬解，其疑乃释。此一事则惟居正一人知之，诸臣皆不得闻也。所谓‘成祖之于仁宗故事’，指成祖曾一度欲废太子，而立汉王，徐阶在世宗面前多方维护裕王地位，这件宫廷中的机密，只有张居正一人预闻，可见，在徐阶当权之后，张居正的政治地位有了很大的提高。徐阶安排张居正作裕王的讲官，出于深远之虑，世宗百年之后，裕王承继大统，裕王的讲官便可以进官大学士。依徐阶的看法，张居正日后的发展，不可限量，他看准了这是一位难得的济世之才，便用心良苦地尽力栽培他。张居正发达之后，多次提到徐阶对他的厚恩，内心充满了感激之情。”
徐阶留给张居正的，不仅是政治上的安排和提携，还有他在政治生涯中成功的经验和失败的教训。张居正不动声色地观察、学习、揣摩。徐阶初入政府之时，正值严氏父子炙手可热，徐阶“肩随嵩者且十年，几不敢讲钧礼”。嘉靖三十三年（1554年），张居正回乡休养，临行时，他给徐阶写了一封书信，信中委婉地批评徐阶，“相公内抱不群，外欲浑迹，将以立矣时，不亦难乎？”又劝徐阶“盍若披腹心，见情素，伸独断之明计，捐流俗之顾虑，慨然一决其平生”。张居正希望徐阶和严嵩决斗一场。然而，长于张居正二十几岁的徐阶，并不顾人们的议论，他天平的重心是成功与失败，此时在世宗面前弹劾严嵩，无异于以卵击石，不仅于事无济，而且有性命之忧。他忍耐着，和严嵩周旋，严嵩构祸正派刚直的夏言，徐阶只是谨慎地自守其身，严世蕃多行不义，在朝中引起公愤，徐阶更不置一辞。甚至当邹应龙弹劾的奏疏呈上之后，徐阶还到严府拜访，劝慰严嵩，严嵩感动得顿首相谢，而严世蕃则以妻子相托。归家后，徐阶之子私下对父亲说：“大人受侮已极，此其时已。”徐阶装作十分生气的样子骂道：“吾非严氏不至此，负心为难，人将不食吾余。”严嵩去国之后，徐阶一方面与严嵩书信问候不绝，另一方面，暗中策划着彻底清除严氏，在世宗对严嵩尚怀着眷恋时，一切都要稳妥地安排。徐阶对严嵩的胜利，给了张居正很大的启示和示范，他清楚地意识到，道德的高洁，嫉恶如仇，这些世人推重的品行，与政治斗争的成败，没有相应的关系，他看到了徐阶在忍耐中等待的谋略，体会到作为一个精明的政治家，应当具有耐力、气度和谋略，所以在他当政以后曾经自述自己没有其他能耐，但能“耐烦”，这便是一种耐力和坚韧性。以后，海瑞的事件又从另一方面印证了这一点。嘉靖四十五年（1566年），户部主事海瑞感于国势颓败，遂备好棺材，慨然上疏，商谏世宗，措词激烈地指责世宗的虚华、残忍、多疑和失职，批评皇帝和道士们混迹一起的荒唐行为，疏中甚至直言不讳地说：“盖天下之人不直陛下久矣”。这种忠义壮烈之举，足以垂青百世，为历代官吏之典范，然而，结果又怎么样呢？奏疏引起世宗的震怒，政局依旧，毫无改观，自身虽免于一死，却在牢狱之中度过了10个月，值世宗去世，方得释放。清名固然可嘉，可是对帝国的政事又有什么影响和作用呢？张居正体味着政治的务实性，鱼与熊掌不可兼得，舍鱼而取熊掌，只要求得实际的效果，不务清名，这便是张居正的志向和风格。
