1916年，以丁文江、章鸿钊和翁文灏为主，创办的地质研究所，在首届学生毕业以后，就宣告结束了。地质研究所撤销后，成立了地质调查所。从此，正式揭开了我国自己地质调查工作的新篇章。调查所用他们自己培养的学生为骨干，开始由过去的研究机构变成实业机构了。
地质调查所的初任所长是丁文江，章鸿钊和翁文灏分别担任地质股长和矿产股长。1921年因丁文江辞去所长职务，到辽宁北票煤矿去任职，所长职务由翁文灏来担任。1928年北伐军到了北京，地质调查所改由南京国民政府农商部领导，新成立的地质调查所，每月只给1 000元的经费，所以经费拮据，困难万状。
1928年年初，翁文灏去南京面见国民政府农商部长易培基，一方面是述职，同时也请求政府拨经费。他来到南京，已身无分文，连住店的钱都没有了。后来同乞丐们一起在鼓楼过了一夜。
后来，翁文灏曾在《五十自述》诗中回忆这段情节时写道：
四十生辰在鼓楼，穷愁焦虑复踯躅。
人生际遇车难常，壮志不为艰困服。
同人相勉竭辛勤，世风不愿相角逐。
燕京旧址是留恋，社会同情赠蔬菽。
（戊辰年余年四十，时寓南京鼓楼）
在翁文灏的领导下，地质调查所的同仁们，不嫌微薄的待遇，从不见异思迁，都努力工作，埋头研究，取得了可喜的地质成果，终于得到了社会的同情与支持。地质调查所就是在这样困难的条件下发展壮大起来的。后来还相继成立了地震、燃料、土壤和新生代等研究室，另外在北平修了陈列馆，在南京建立了地质调查所新楼。这些工作在我国都是具有开拓性的。
翁文灏积极参与并领导了新生代研究室的筹建工作，这是中国最早从事新生代地质、古生物，特别是古人类研究的专门机构，也是中国科学院古脊椎动物与古人类研究所的前身。就是这个研究室在北京附近的周口店，发现了北京猿人，这是世界人类研究史上的重大发现。
1929年，丁文江、翁文灏和由中国政府聘请来华工作的瑞典科学家安特生（Pavidson Blacr，1884—1934）等，经过长期筹划，由地质调查所与北京协和医院解剖科合作，美国洛克菲勒（Rockfelle）基金会提供经费，成立了新生代研究。当我们看到1926年10月18日，翁文灏给当时北京协和医院解剖科主任步达生的信时，就会想到他在这方面所花费的心血了。信中说：
“我收到你16日来信，对我们过去讨论的合作，做了概要的安排。对这具有高度科学兴趣的计划我很满意，并感谢给予中国地质调查所很大的支持。我同意你在信中所提的大纲，为了比会谈的更清楚一些，再略为申请几点：关于周口店的研究，我完全同意你的计划。为这项研究，中国地质调查所将派一位现在在德国学习的中国古脊椎动物学家（指杨钟健），到瑞典了解以前发现的材料和研究情况，以便将来和你所提议的从事这项工作的其他同行更好地合作。必要时，为了地形和地质调查，中国地质调查所还可以提供一两名地质学家。中国地质调查所可能资助小部分工作经费，但我们都赞成最好是由洛克菲勒基金会资助全部费用。关于人类化石和其他遗物及科研成果可发表于《中国古生物志》，还要明确，交给你的人类骨骼当永远保存在中国，是否由人类生物学研究所（指新生代研究室）来实现此事……”就在这封信里，翁文灏还提出，“大量从河南、奉天（今辽宁）和甘肃发现的人骨架，已得到发现者的同意，归中国地质调查所所有”。
“北京人”的发现在考古学史上是富有情趣的。一位瑞典的科学家安特生，在周口店附近一位开采石灰石的工人带领下，来到名叫“鸡骨山”的山上，安特生俯首拾到一块“鸡骨”，清除了附在上面的泥土，仔细地观察着，突然他问带路的工人道：
“这是什么？你知道吗？”
“它就是鸡骨，因为山上洞穴裂隙中有很多这种鸡骨，所以这座山我们就叫它‘鸡骨山’。”工人回答道。
“这不是鸡骨，而是一种小的哺乳动物化石”。安特生说。
“附近有个洞穴，洞内这种骨头有很多。”工人说。
安特生很感兴趣，在山上转了半天。他根据山上出现大量的哺乳动物化石，便预言道：
“这里会有人类的遗物发现。”
这个预言，被新生代研究室的杨钟健教授和裴文中教授证实了。1927年在杨钟健教授主持发掘下，10月16日由步林博士发现一颗完整的人类臼齿化石。裴文中教授于1929年12月2日发现了第一个“北京猿人”的头盖骨。
12月2日下午4点多钟，当时已日落西山，北风呼呼地吹着，挖掘者们感到十分寒冷，但大家仍然紧张地工作着。天色黑暗下来，突然从洞里传出一个喊声：
“这是什么？人头！”裴文中喊道。
考古工作者们很快就围了过去，因为“人头”是人们盼望已久的了。从当时人们的表情看，个个都是那么激动和惊喜。有人急忙说道：
“把它立即挖出来！”
“天晚了，最好等明天吧！免得弄坏了。”
“它已经在这里待了几十万年了，哪里还在乎这十几个小时呢？”人们七嘴八舌地发表自己的看法。
话虽这么说，谁又能等待这难熬的夜晚呢？再说万一被盗，那将会遗憾终生。
裴文中决定连夜取出，他叫人取来蜡烛，在烛光下裴文中教授亲自把它取出。这个头骨一半埋在松土中，一半埋在硬土中，在发掘过程中，由于撬动的关系，一小部分头骨被震裂了，但总体来说还很完整。由于头骨开裂也使人们清楚地看到猿人头骨壁的厚度达10毫米，几乎是现代人的两倍厚，更进一步证实头骨的原始性。
头骨取出后裴文中一夜没有合眼，连夜将其烘干，用石膏将其固定，用棉花和被子将它包了又包，裹了又裹。天一亮，就向翁文灏、安特生拍去电报：“挖得一头骨，极完整，颇似人。”
“北京猿人”头骨和牙齿的发现轰动了整个科技界，从而揭开了中国古人类学研究的序幕。翁文灏又在中国地质学会特别会上，宣读了《中国古人种之搜寻》的论文，汇报周口店发掘成果，该文发表于《中国地质学会志》上。后又撰写《北京猿人学术上的意义》，在《北京大学月刊》上刊登。
翁文灏对中国地质事业的成长、壮大和发展，有很大的贡献。他一方面孜孜不倦地钻研地质科学理论，另一方面又经常到野外去作实地调查，几十年如一日，恪尽职守，任劳任怨。
青壮年时期的翁文灏，作为一位出色的中国地质学家，他的足迹几乎遍及全国。对许多矿种进行勘查，特别是煤和石油，更是付出了大量的心血。
他发表过186篇论文，在国内外产生了巨大的影响。特别是早在1926年，他在泛太平洋科学会议上，以总结中国东部中生代地质构造演化中，首次提出了中生代侏罗、白垩纪时期的大规模造山运动，并命名“燕山运动”，这个概念和名词一直运用到现在。翁文灏在1920年所著的《中国矿产区域论》是对我国地质矿产学的一大贡献。
翁文灏早在1923年就首次引进魏格纳的“大陆漂移学说”观点，写文章论述这个学说的各种证据，而且认为大陆漂移学说是“理论极为新颖，其说明地质时代之海陆分布，诚有胜前人之处……”自20世纪60年代以来，以大陆漂移—海底扩张—板块构造学说为代表的“新全球构造”，已风靡世界，为多数地区工作者接受。由此可见翁文灏在地质科学上的真知灼见，远见卓识。
翁文灏在他的自述诗《回溯吟》中写道：
自问生平乐事秋，纵横禹甸作良游。
岱宗晶石由来古，嘉峪关门瞩望悠。
辽水丰盈藏铁质，贺兰农垦展平畴。
携锥负笈守印计，愿尽终身地宝求。
