八月十六日，日军从临清县城撤走，但仍有一万多伪军，在国民党山东省第四区专员兼保安司令熊纪明的挑拨和怂恿下，拒绝缴械，继续与人民为敌。此前，八路军已经先后攻克了堂邑、寿张、阳谷等县城，并攻占了临清外围的龙泽、马店、红庙营、白庄、十二里庄等据点。临清成了一座孤城。
临清是大运河、卫河水上运输的咽喉要道，同时也控制着邢台——济南的交通线。临清北面与德州、天津相连，交通十分便利。而且经济繁荣，商业发达，周围全是棉区。解放临清，可为八路军提供一个很好的补给点；也可巩固和扩大冀南解放区，为将来更大规模作战创造条件。因此，冀南指挥部决定调集四个军分区的四个主力团和十个县大队，约两万兵力，夺取临清县城。
临清城分为由两部分，北部的砖城和南部的西南关。
砖城周长九公里，城墙厚达两米，全是用四五十斤重的大砖砌成，四面皆有城门。此处一向是官府署衙之地。日军所谓的“红部”（即司令部）就在这里。日军撤走后，红部被王来贤占据，成了他的司令部。王来贤以前并不在这里，他是馆陶县伪县长兼警备大队长。七月二十八日，八路军攻打馆陶县城时，他率领伪军逃到临清，投靠了熊纪明。熊纪明将他们改编为山东保安第八旅，王来贤为旅长。他的部队约三千多人，负责防守砖城。砖城的四门上都筑有炮楼，并配备了密集的火力网。王来贤以城门、城角炮楼为防守重点，沿城墙布防。他还在元仓、轧花场以及临清初级中学、文庙小学等地都构筑了火力点。同时，还把从冠县逃来的伪保安大队等几股武装，布置在砖城周围作机动防御。
西南关方圆五六里，是临清城区的主体，也是临清城的经济中心。西南关南端有一道土山。此土山从头闸口向东北，一直蜿蜒至车营街南首，是临清城的制高点。熊纪明对西南关的防守部署是：肖子玉的临清伪保安大队依傍卫运河，防守土山；从冠县逃来的伪县长吴作修部近千人，把守土山旁边的车营街；卫运河东侧的马市街则由老牌伪军头目吴连杰部防守；古运河西面的后营街一带则由伪县长郑延绍所部设防；在临清城西，石槽、姚楼、大辛庄一线的马蹄形外围阵地，则由张敬斋的三十九旅设防。另有第六，七区公所的一股伪军，防守卫河西岸的河西街。
八月二十六日，指挥部下达了攻打临清城的命令。具体部署是：冀南第七军分区第二十四团、冀鲁豫第一军分区第二团和卫东和清平两个县大队，统由赵健民指挥，攻打砖城和东关；以第二十四团为主攻，卫东、清平两个县大队配合，首先攻击城东南方向；第二团在北门外负责火力封锁，如有机会，也可攻城。
负责攻击西南关的所有部队，统一由王宏坤指挥。具体部署是：第六军分区第十九团，由王宏坤亲自率领，主攻土山；第四军分区基干团和由企之、宏毅、清江三个县大队组成的东支队，由第四军分区司令员胥光义和副司令员胡超伦指挥，负责消灭河西街第六、七区区公所的伪军，然后渡河攻击西南关。由邱县、平乡、威县、广宗四个县大队组成的西支队和由临漳县一千多名基干民兵编成的独立营，由第四军分区武委会主任胡代耕率领，于塔湾以北渡河，由北向南攻击西南关。卫东县大队负责包围大辛庄炮楼。另外，还组织了三万多民兵隐蔽在卫河西岸，阻止敌人西逃，并架设了浮桥，准备接运伤员。前线指挥部请来了许多当地老百姓，让他们揭露日伪军欺压人民，杀害共产党员和抗日群众的罪行，以此作为战前动员。大量的血泪史激起了战士们的怒火。他们都立下誓言：坚决为临清人民报仇。
八月三十一日傍晚，卫东县大队悄悄来到大辛庄，将该村的炮楼团团包围：还派出一部分兵力监视城东的姚楼、城东北的石槽等据点，并封锁了消息。
战士们冒着朦朦的细雨，向预定位置前进。前线指挥部跟随第十九团，进到土山以南。城里的地下党组织，派出大批向导，为部队带路。各部队悄悄完成了对临清城的包围。
夜里十二点，一颗红色信号弹升向高空。
刹那间，隐蔽在临清城东南、西南、西北、东门的部队，同时打响。整个临清城被枪炮声所笼罩，到处都是爆炸的火光。
负责攻击东门的第二十四团，由副团长屈乾坤挑选了三百名勇士，组成两个“攻城先锋连”。他让第一连在城南门佯攻，迷惑敌人，让第二连从东门发起猛攻。战士们在一营副营长吴桂珠带领下，冒着敌人猛烈的炮火，搬鹿砦、跃壕沟、砍开铁丝网，奋不顾身地冲到城墙下。紧随其后的是三十名高大的战士，扛着一个由几丈高的杉木做成的特大云梯，向前猛冲。他们来到城墙下，迅速架起云梯。后面的战士集中了十五挺机枪，以密集的火力掩护前面的战士登城。战士们以最快的速度登上城墙，甩出一捆捆集束手榴弹。敌人被炸得血肉横飞，仓皇逃窜。二连占领了东关，随后便冲入城内。
由于东门被二连突破，防守南门的敌人害怕遭到前后夹击，军心顿时动摇起来。一营营长朱少卿趁机率领一连，向城南门发起猛攻。敌人无心死守，向城内撤退。一连攻进南门，并向东追击敌人。这时，向西追击敌人的二连也追到这里。两个先锋连相遇了。他们把这伙残匪包围在当中。四周全是“缴枪不杀”的喊声。敌人见大势已去，全都做了俘虏。
大部队随后便进了城。部队进城后兵分两路，一路由朱营长率领，顺着大街向北冲，很快攻占了元仓据点，并击退了敌人的反扑。另一路向西南关攻击前进。
与此同时，第十九团和基干团攻打西南关的战斗，也打得异常激烈。按照王宏坤的部署，第十九团首先从南面向西南关的土山发起猛烈攻击，战斗打成了胶着状态。基干团和西支队，在消灭了河西街第六、七区区公所的伪军后，也渡河从西面向西南关发起猛攻。两个团经过连续数次的冲杀，吴作修的部队有点招架不住了，开始向后撤退。八路军迅速攻占了车营街。吴作修带领部分残兵败将，向禹城逃去。
十九团的战士则迅速越过围墙，突入西南关。一部分败退下的敌军，钻进土山周围的炮楼工事里，企图顽抗。
王来贤在被第二十四团围住的情况下，还惦记着西南关的战况。当他发现西南关战斗激烈时，马上意识到如果土山失守，砖城也就保不住了。于是，他慌忙派出五个连的兵力，绕到西门向西南关增援。
二十四团第二连在向西南关前进的途中，突然发现了从砖城方向扑来的王来贤部。二连的战士来不及多想，立即利用有利地形对敌人进行迎头痛击，将敌人堵在大街上。这时，在二连阵地的左侧和右侧，都出现了大批敌人。二连遭到敌人三面夹击，伤亡二十多人。就在这危急时刻，二十四团参谋长洛克率领部队从后面赶到，向敌人发起猛攻，为二连解了围。
西支队奉命攻打土山。当他们前进到武训小学附近时，被那里的敌军发现了。敌人立即组织一个营的兵力向二连发起攻击。敌人登上武训小学的木板楼房，居高临下，挡住了西支队的去路。武训小学再往南是养济院，那里的工事很坚固，火力也很猛。眼看着前进受阻，突破无望，胡代耕立即向指挥部请示。指挥部命令他们攻打武训小学。于是，他们又展开了对武训小学的进攻。
第一次冲锋，由于敌人火力太猛，被迫撤回，伤亡了十几名战士。这时，西支队孙参谋站出来，大声说：“这次让我上。我一定把敌人拿下。”
胡代耕点点头，说：“让一营副营长和你一道，组织这次冲锋。”
“好。”两个人立即组织了第二次冲锋。
然而，第二次冲锋又被敌人猛烈的火力挡了回来。这一次孙参谋红了眼了，他向机枪手大喊一声：“机枪掩护！”然后他亲自抱起炸药包，机智地运动到养济院门口，将炸药包放到大门下，拉着了导火索。只听“轰隆隆”一声巨响，大门被炸开了。战士们飞快地冲进院子，与敌人展开了肉搏战。孙参谋手持红缨枪，一连戮倒三个敌人。当他冲到东院操场时，被敌人的子弹击中头部，而壮烈牺牲。年仅二十五岁。战士们一边喊着“为孙参谋报仇”的口号，一边攻占了武训小学。
三十一日上午，战士们都要求用野炮轰击敌人的指挥部。王宏坤点头批准。第一发炮弹正好落在敌人指挥部的大院里。只听“轰隆隆”一声，顿时腾起一个烟柱。虽然并没给敌人造成多大损伤，但这一炮彻底动摇了敌人的军心。
下午一时，吴连杰准备逃跑了。他打扮成一个士兵的模样，在一群残兵败将簇拥下，从砖城东门向外逃跑。误打误撞地跑到了第七军分区的指挥所门前。
当时，军分区政委许梦侠、副司令员白云、副政委张希才和作战股长高希增，正在指挥部里分析敌情。哨兵发现敌人后，立即跑进去向首长报告。警卫员赵桂清一听就急了，马上向其他警卫人员大声说：“你们快带领几位首长转移，我掩护你们。”说完，便冲到了大门外。当他正要向敌人开枪时，却发现自己穿的是一件伪军的上衣。同时，还发现许多敌人簇拥着一个士兵模样的人，犹如众星捧月一般，他马上就明白了。于是他用手枪向东面一指，向敌人吼道：“快！掩护长官，朝那边打！”
这些敌人把赵桂清当成了他们的指挥官，喊一声“是。”便转身向东南方向跑去。当这股敌人跑到三里堡以北、小黑庄以南的野地里时，被八路军包围，全部被歼灭。吴连杰也被二十四团活捉。
围攻土山的战斗更为激烈。八路军架起数门迫击炮，在土桥附近向土山高地猛轰。高地上顿时火光冲天。
肖子玉急忙换上士兵的服装，仓皇逃命。没跑多远，就被八路军包围了。于是他便躲在俘虏队伍中，企图蒙混过关。不料，在土桥南面不远处，被俘虏队伍中的内线陈东祥认出，随后被卫东县委派民兵押送到司令部。首长向肖子玉讲明八路军的政策，并要求他向他的部下喊话。肖子玉很快便答应了。
这时，西南关还有一个炮楼没有攻下，那就是土山炮楼。于是，大家把肖子玉押到阵地前。肖子玉扯着嗓子喊道：“弟兄们，我是肖子玉。我被八路军活捉了，你们也跑不了啦！赶紧投降吧！八路军优待俘虏，只要放下武器，不打不骂不杀。愿当兵的可以参加八路军，愿回家的还可以发给路费。”
炮楼里的敌人见他们的长官都投了降，只好也走出炮楼，做了俘虏。
紧接着，各路攻城部队直逼砖城。指挥部根据砖城工事坚固，且守敌又多的特点，决定采取“围三阙一”战术。从东、西、北三面发起攻城，唯独留下南门，让敌人从这里逃跑。并决定让第四军分区基干团，在距离南门不远处的一片洼地周围设下埋伏，将这股敌人一举全歼。
总攻击打响后，各部队纷纷打过城墙，接连攻占了县立第六小学、省立第十一中学、文庙等砖城重要火力点。包围圈越来越小，最后只剩下王来贤司令部附近的一小片地方。王来贤躲在水泥工事里，并命令士兵用土屯住西门。企图利用密集的火力，阻止八路军进攻。
晚八时，指挥部发出最后的攻击令。整个砖城顿时被枪声和手榴弹、野炮的爆炸声所笼罩。王来贤见大势已去，命令士兵点燃了后院里几千个大棉包的棉垛。他想在浓烟的掩护下，扒开西门逃跑。
八路军战士冲进来后，奋力将火扑灭，保住了这些棉包。
王来贤诡计多端，他先是向西北逃跑，然后又调转方向，向东逃窜。不过，他这一招被八路军识破。指挥部在城东北方向埋伏了一支部队。等他和他的残兵败将进入伏击圈时，战士们一齐开火，又给敌人来了个一勺烩。王来贤一个人落荒而逃，逃向禹城。……
九月一日，临清宣告解放。
