1925年秋，丁文江辞去了北票煤矿总经理的职务，1926年5月至12月，在统治长江下游五省的军阀孙传芳名下，出任淞沪商埠督办公署的总办。丁文江就任军阀孙传芳赐给的这个要职，使很多人不理解，认为不可原谅。在国民党看来，他站在北伐的敌人一方；在朋友们看来，他支持混战的军阀之一；在革命左派看来，他像奴才一样为军阀和帝国主义者效劳。遭到大多数人的唾弃，使他的名声蒙上一层阴影。
1927年，在丁文江的一生中是个转折点，他辞去淞沪商埠督办公署的总办职务，隐退回到北京。几个月之后，由于张作霖的敌意，他被流放到大连。这时他感到了政治失宠所带来的痛苦后果。他面临着失业以及与首都科学界的隔绝。在大连他的经济十分拮据，生活穷困潦倒，妻病没钱医病，住在未过门的弟媳妇家里。然而，丁文江并没有被厄运所吓倒，他把大部分时间用于完成他那本《徐霞客游记》，该书于1928年出版。
1928年初，丁文江被广西省立大学聘去广西，给该大学的暑期班学生上课。后又被广西地方当局聘请，于1928年3月到12月，在西南作矿产资源调查。在这次地质调查中，他搜集到了可贵的丰富的第一手资料，后来写成《中国的造山运动》论文，发表在《中国地质学会志》上（1929年7月）。他首次提出了发生于志留纪和泥盆纪之前的相当于加里东运动的广西运动。后又写成《中国的二叠纪及其对二叠纪分期的方向》、《第16届国际地质代表大会报告》（1933）等论文。此次野外勘查的技术笔记搜集在《丁文江先生地质调查报告》中。
1928年6月，国民党军队打败了北洋军阀，建立了新政府，内战告一段落。因此，丁文江又回到北京生活了。此时，北京大学和地质调查所已无人组织，无人过问，但同事们还在，机构还在。于是丁文江自告奋勇重操旧业，立即开始计划和组织工作。他建议沿南方路线修一条由四川通向沿海的铁路，建议得到南京新铁道部的好评，于是丁文江说服铁道部主办探查性勘察。借这次机会，丁文江组织了一次大规模的西南野外考察，地质学家们兵分几路，企图探查云、贵、川的大部分地区，而丁文江个人则搜集了大量资料，例如西南地区的地质结构、土著居民的分布情况等。这次考察在野外进行了一年多，从1929年暮春至1930年夏天。赵亚曾就是在这次考察中在云南被土匪杀害的。
1931年，丁文江成为北京大学地质系的教授，负责野外考察、实验室工作，普通地质学的教学等。他课堂教学富于启发性，生动活泼，情趣盎然。当时学生高振西（中科院院士）著《做教师的丁文江先生》说：
“我很难忘记丁文江先生在课堂上讲课的样子：左手夹着一支雪茄，右手拿着一支粉笔，他那深沉的凝视，镇定自若的神情，以及其生动的言词。他常使用幽默的话去刺激学生搞研究的兴趣，去创造一种生动而轻松的学术气势……他妙语连珠，发人深省，意味无穷，每每引起学生哄堂大笑。每到这个满意的时刻，丁文江总是放下粉笔，用力吹两个雪茄，然后用双手捋捋小胡子。在这种自由讲授的气氛中，疑问与笑声并起，烟灰与粉笔末齐飞。原来是一个颇为枯燥的题目，变成了一门人人喜爱的功课。”
1929年到1934年之间，是丁文江科研成果的丰收年，他连续发表了5篇高品位的地质论文。1933年，由丁文江、翁文灏、曾世英联合出版了《中国分省新地图》，这个地图集是1∶2 000 000的比例，为普通地图。然而，这是中国第一本综合绘图的地图集，书中包括了语言、土著居民、矿产资料分布，以及气候、农业生产及插图等，使用价值达20年之久，并于1948年修正后发行了第5版，作出了宝贵的贡献。
1932年，日本已经侵占了我国东北，丁文江、翁文灏、胡适、李四光等，为了反映独立的知识分子意见，创办了一个刊物，命名为《独立评论》。由丁文江和胡适负责组织主要社论的撰写，把刊物办成正确引导人民群众的阵地。撰稿人多数是政府供职人员，至少是负责政府中有关经济、外交、财政和教育的部、署一级的官员。这份杂志一直办到1 93 7年中日战争爆发，由于拥有广泛读者，完全自给自足。
在为《独立评论》所写的文章中，丁文江基本上谈的是日本侵略和中国的工业化两个问题。他极端错误的反对中国对日本宣战，反而号召同胞把爱国力量集中于经济和工业发展的具体计划。他甚至支持国民党在华北的绥靖政策。丁文江居然率直地对首都大学生说：主张全面战争是不负责的。抵制日货、军事训练、学生报名参军等，都被丁文江说成是错误的。他写公开信批评东北军张学良，甚至要求张学良辞职。所有这些都是错误的，所以长期以来都不能得到人们的谅解，甚至有人把他当反面人物看待。
1939年，丁文江曾去苏联旅游了两个月，他的好奇心被苏联的共产主义吸引住了。这年的7月，国际地质大会在华盛顿召开，丁文江是正式代表，在参加会议回国的途中，曾作过几次停留，在英国和瑞典拜访了老朋友，在德国探望了弟弟，最后到达苏联。在苏联他看到了大规模的工业建设，使他感慨万分，联想到祖国当前的困境，将来何时才能腾飞？
1934年，丁文江成为中央研究院的总干事，这个职务实际上是该机构的行政首脑。院长是蔡元培先生。这是政府执行和协调中国学术研究的机构。作为总干事，丁文江的目标：形成一个在大学、政府和中央研究院以外的，全国一体化的科研体系，完成重大的或国家急需解决的地质课题。
