庶吉士为明初所置职官，从新科进士中选择文章书法较优者充任。开始时，分设于六科，以安排新进者练习职事，永乐（1403-1424年）后专属翰林院，殿试后授翰林院庶吉士者，称为“点翰林”。庶吉士在翰林院中主要学习、研讨诗文，亦或钻研朝章国故。文学与政治人才，往往出于翰林，故翰林院为储才之所。庶吉士在翰林院中称为馆选，学习三年，期满考试后分发任用，称为“散馆”，优者授编修、检讨等，其余未入选者分别任官。留院者升迁较快，朝中重要职务，亦多出自翰林，故入翰林者，已为众目所关注。《明史·选举志》记：“成祖初年，内阁七人，非翰林者居其半。翰林纂修，亦诸色参用。自天顺二年，李贤奏定纂修专选进士。由是，非进士不入翰林，非翰林不入内阁，南、北礼部尚书、侍郎及吏部右侍郎，非翰林不任。而庶吉士始进之时，已群目为储相。通计明一代宰辅一百七十余人，由翰林者十九。盖科举视前代为盛，翰林之盛则前代所绝无也”。
张居正在翰林院学习期间，他的注意力不在文章诗词方面，他幼而聪颖，以文为人所知，然而他的志向不在以文名世，他有扎实的文字功底，深厚的文学修养，广博的历史知识，“不刻意为文，而庄雅冲夷，直醇正大，无奇谲之态，无藻绩之色，无柔曼之容，无豪宕之气，读其文而得其所以为文，见宏邃之养焉，见精明之识焉，见专刂割之才焉，见笃实之学焉”。文以载道，张居正之意不在文，而在济世之道。他悉心研讨朝章国故，沿着太祖建国初的规制，一直寻觅到现实的种种危机，旁及历代王朝的兴衰，他感到了自己肩上的责任，决意要挽救这一危难局面，开创一个治世。儿时常常诵读着“格物、致知”、“修身、齐家、治国、平天下”，这些儒家哲人的教诲，当时只是作为功课，久而久之，它竟渗透到心灵深处，成为张居正毕生的追求。要做伊尹、颜回，顾磷的期望，时时在张居正的脑海萦回。他有理想，但他不是一个理想主义者，不会把理想当作空谈的基础，这时的张居正，尽管只是一个二十几岁的青年，却具有一种稳健、深沉的气度，他清楚自己此时的地位，也明白自己的阅历和学识，离济世的目标还很远，他在学习、思考、积累、等待，“潜求国家典故，及时务之切要者剖析之，遇人多所咨询”。
嘉靖二十八年（1549年），张居正三年庶吉士期满，授翰林院编修。这一年，他把自己对于时局的思考，写了一封《论时政疏》，其中提出，“今之事势，血气壅阏之病一，而臃肿瘘庳之病五”，所谓血气壅阏指世宗自嘉靖十八年（1539年）起即不视朝，至“群臣百寮不得望陛下之清光已八九年”，上下阻隔，使“大臣虽欲有所建明而未易进，小臣虽欲有所献纳而未敢言”，由此便生出五种臃肿瘘瘅之病，即宗室骄恣、庶官瘝旷、吏治因循、边备未修、财用大亏。在这封奏疏里，张居正表现出改革家所具有的强烈的忧患意识，吏治、边患、财用是他所关注的主要方面，官吏“考课不严，名实不核”，“至或举劾参差，毁誉不定，贿多者阶崇，巧宦者秩进”。边境守备空虚，“虏骄日久，迩来尤甚，或当宣大，或入内地，小入则小利，大入则大利”。财政方面，“国赋所出，仰给东南，然民力有限，应办无穷，而王朝之费，又数十倍于国初之时，大官之供，岁累巨万，中贵征索，奚谷壑难盈，司农屡屡告乏”。这几个方面，成为张居正当国以后整顿和改革的重点。然而在这时，他对如何改革敝政，尚缺乏清晰细致的认识。
这时，朝中的内政外交大事，多决自权臣严嵩。世宗对严嵩的信任和宠爱，使严嵩权倾朝野，到了炙手可热的程度。三边总督曾铣主张收复河套，颇违严嵩之意，世宗将曾铣弃市，不久，支持曾铣的内阁大学士夏言也牵连处死。嗣后，与张居正同科登第的兵部武选司杨继盛，在一腔忠国热忱的驱动下，不避刀镬，斋戒三日，上书弹劾严嵩，历数严嵩十大罪状，情词激愤，多切中时弊，结果廷杖一百，在刑部狱中关押了三年，后来，于嘉靖三十四年（1555年）被处死。时局的岌岌可危，国家的种种积弊，皇帝热衷于斋醮，严氏父子专擅，刚直之士下场悲惨，这一切，张居正都看在眼里，然而他只是翰林院一个清闲的编修，他有弃身为国的舍身精神，有扭转颓政的抱负，有匡济时势的才干，但他更具有一种务实的作风，他无意于清名，不想作无结果的牺牲，只立足于实际的效果。这使他能够理智地驾驭自己的感情。由下层社会上升到上层社会，这地位来之不易，而做伊尹的抱负，一生的事业，离开了这个地位，便会化为泡影。忍耐，等待，“尺蠖之屈，以求信（伸）也”。自小熟读经书的张居正懂得这个道理。终嘉靖一朝，除了例行的章奏和必要的应酬之外，他没有再说什么。
嘉靖三十三年（1554年），深感“荣进之路，险于榛棘，恶直丑正，实繁有徒”，在苦闷与压抑中，张居正感到身体不适，遂上疏告病假，回到了故乡江陵。
在江陵，他在小湖山，筑一陋室，种竹半亩，养一癯鹤，终日闭关不启，仅令童子数人，事洒扫等事。调养身体之余，张居正“博及载籍，贯穿百氏，究心当世之务”。他对时局的关心、对政治的热衷，并没有因恬静的乡间生活而淡漠，要做伊尹的执着追求，已经溶化在张居正的血液中，决定了他一生的发展道路。已登仕途的张居正，对乡间农民的生活，开始从政治的角度进行审视，“宗藩繁盛，骫权挠正，法货于隐蔽”。“田赋不均，贫民失业，民苦于兼并”。要解决民间的疾苦，这也在张居正的思考当中。
张居正越来越感觉到，国家的弊病，已经到了危及其生存的地位，上自朝廷、官吏，下至民间，近在京畿，远及边境、乡村，整个国家都处在危困之中。对国事的担忧，无法实现抱负的惆怅，使他难于安居乡间，无意再去欣赏衡山的壮美景观。怀着匡时济世之志，张居正于嘉靖三十六年（1557年）又回到了帝国的政治中心——北京，投身于政治风云之中，去寻觅机会。
