1940年2月21日，八路军总部发出第三期整军训令。山东纵队于2月到8月，进行了第三期整军。这次整军的任务是以加强党的政治工作为中心，要求主力部队正规化、党领导军队化，游击部队组织化，巩固新发展的部队。

根据斗争形势和山东纵队的实际，徐向前在整军中明确提出抗日武装力量要进行"九化"建设，即主力兵团正规化、地方武装基干化、游击队组织化、自卫团普遍化、党的领导绝对化、战斗力顽强化、行动积极化、生活艰苦化、纪律严肃化。这次整军，是山东纵队走向正规化的重要阶段。

通过有计划地培训部队各级干部，使其学习掌握基本的政治、军事常识和游击战争的战略战术，提高各级指挥员的素质。在战斗的实践中，及时地总结经验教训，对部队进行现实的教育，不断提高战斗力。大量发展优秀战士入党，使党员的数量达到部队总人数的31.7％以上。在整军过程中，苏鲁支队、第六支队、陇海南进支队等部分别划归一一五师和新四军建制。在此情况下，山东纵队所属部队编成21个团（其中18个正规团）,3万余人。另有地方武装2万余人。

1940年3月初，鲁西军区命令六支队参加讨伐顽军石友三战役。六支队从各县独立营抽调部分精干武装充实兵员后，先由何光宇率二营开赴讨伐石友三战役前线。继之，六支队副参谋长胡超伦带司令部机关及特务营西去讨顽，暂留一营在泰西作基干营。此后，根据山东纵队第三期整军计划，六支队编为鲁西军区运河支队四团，何光宇任团长，刘汉任政委。泰西军事工作由李冠元等负责。从此，这支由泰西地区创建、发展起来的部队，调离熟悉的家乡，走向全国战场。

1940年4月，泰西军分区成立，列入鲁西军区战斗序列，为第一军分区。王叙坤任司令员，李冠元任政委，马宗凯任参谋长，辛俊卿任政治部主任。军分区辖陕北营、骑兵连、电台队、通信排、锄奸队，以及地委、行署警卫连等，兵员千余人。泰西各县独立营列入军分区战斗序列。

至此，泰西地区武装力量的发展产生了巨大的变化。诞生于泰肥、峰山地区的游击队，历经战争的考验，在血与火的锻炼中，不断发展壮大，并走向成熟。八路军山东纵队第六支队在改编为运河支队四团后不久，即升级编为一﹣五师教导三旅九团。从此，该部隶属一﹣五师战斗序列，跟随主力部队南征北战。

9月，泰西军分区司令员王叙坤调离，由刘贤权接任。为粉碎日伪军不断对泰西抗日根据地的进攻，泰西地委、军分区决定发动汶（河）南战役，以振奋抗日士气，打击日伪军，鼓舞汶南人民群众的革命斗志。汶南地区的日伪军力量，除驻东平、汶上两县的日军外，还有汶上的汉奸王鸣绍部4个伪军中队、东平伪军中队百余人，共约500人。   

泰西军分区参战部队主要是陕北营，县独立营予以配合，兵力近600人。战斗于12月23日晚发起。我军首先攻克彭集伪据点，歼敌50余人，后又攻打沟头、李集、松山3个据点，由陕北营3个连各包打一个，战斗进展顺利。军分区部队两夜连克伪军4个据点，活捉伪中队长1人，共毙敌180余人，缴获了敌人所有武器装备及其它物资，吓跑了宁阳县周庄、罗山两个据点的敌人，取得了重大胜利，使汶南及整个泰西地区的抗日军民人心大振。

战后，地委、专署、军分区机关转移到平阿山区，刘贤权带陕北营等部，留在汶南牵制敌人。1941年元旦，东平、汶上、肥城、宁阳、泰安等地日伪军千余人，分5路包围了驻泗汶一带的泰西军分区部队。经激烈战斗，陕北营等杀伤日伪军200余人，突出重围。在突围战斗中，分区政治部主任吴涛身负重伤，不久牺牲。

1941年，日伪军对泰西抗日根据地开始了空前规模的大"扫荡"。自6月至9月，日伪军分别对平阿山区、泰肥山区及大峰山区我抗日根据地大举"围剿"，泰西抗日根据地对敌斗争形势发生重大变化。在这期间，泰西军分区及各地方武装在艰苦的斗争环境中，与广大民众一起展开了英勇顽强的反"扫荡"战斗，先后与敌作战30余次，毙伤日伪军近千人，并于6月25日在大峰山区反"扫荡"作战中击毙日军土屋兵驻少将，受到八路军总部的表彰。尽管如此，我抗日军民面临的斗争形势依然十分艰难。7月1日，冀鲁豫、鲁西区合并，成立冀鲁豫区。鲁西军区第一（泰西）军分区遂改为冀鲁豫军区第一军分区，刘贤权任司令员，李冠元任政委，刘克奎任参谋长，辛俊卿任政治部主任。从此，泰西军分区列冀鲁豫军区战斗序列。10月，泰西地区党、政、军机关转移到黄河以西。

为支持泰西各抗日根据地的对敌斗争，泰西军分区多次派部队插入平阿、大峰山区、泰肥山区等根据地，相机歼敌。10月下旬，军分区部队在平阿山区的小营一带，被到平阿、东阿、肥城、长清等地"清剿"的日伪军包围。在刘贤权司令员指挥下，军分区参战部队击退数千敌人多次冲锋，苦战终日，于当晚突出重围，转入泰肥山区。

为扭转我军对敌斗争的被动局面，军分区组织几支部队返回泰西根据地。一路以军分区基干营为主，在几个山区间穿插活动，机动作战；一路以平阴独立营为主，主要活动于平阿山区；一路以峰山县大队为主，活动于大峰山区；一路以泰（安）西独立营为主，深入泰肥山区作战。

1942年1月，峰山县大队和泰（安）西独立营分别在长清、肥城遭遇重挫，峰山大队政委侯承奇（侯晓章）、泰安（西）独立营营长安春华身负重伤，党总支书记吕冠三牺牲。敌我力量对比悬殊，几支部队被迫撤回黄河以西。

1月，泰安（西）县委书记邹靖国叛变投敌，致使泰西党的组织遭受严重破坏。2月24日，东平县长崔宜平在六区开展工作遭敌袭击，在突围中壮烈牺牲。同月，肥城县大队大队长安振田投敌，致使一批党员干部被捕。3月31日，泰西地委副书记王晋亭在大峰山区岚峪村遭敌袭击，突围中不幸中弹牺牲。泰西根据地的对敌斗争处于极其艰苦的时期。

为坚持对敌斗争，泰西军分区对机关人员进行精简，扩充作战部队，以适应新的斗争形势变化。6月，军分区以基干营为基础，抽调了部分县大队武装组成分区基干一团，白醒亚任副团长，尚守义任政委，张有壬任党总支书记。一团辖6个连，600余人，大大加强了军分区的战斗实力。

遵照军区开展夏秋季军事、政治攻势的命令，军分区积极投入对日伪军的作战中。泰西军分区与运（河）东军分区配合，在对敌作战中多次获胜，拔除日伪军据点30余处，歼敌4000余人，缴获枪支千余支，同时，还向日伪军展开政治攻势，迫使部分伪军、伪政权与我抗日政府建立联络。

自1941年春、夏至1942年10月，我泰西抗日根据地广大军民英勇作战，沉重打击了敌人，多次挫败日伪军对我根据地的"扫荡"和"清剿"。据军分区1942年10月统计，全区有日军据点36个，伪军据点108个，日军1145人，伪军3464人。1至10月，军分区武装与日伪顽作战172次，毙伤俘1046人，缴获各种武器、物资近万余件。我方伤亡、被俘、失去联络者419人。

12月，根据冀鲁豫边区党委要求，泰西与运东地委、专署、军分区合并为冀鲁豫区一（泰运）地委、专署、军分区。合并后的泰运军分区由刘致远任司令员，石新安任政委。军分区辖3个团，一团由泰西武装部队编成，马宗凯任团长，罗英任政委；二、三任政委。团为运东武装部队编成，刘克奎任二团团长，王克寇任政委；王中兴任三团团长，徐冀泰运地区此时有日军据点78个，日军五十九师团驻泰安，其所辖五十四旅团一0一大队驻泰安、肥城、大汶口一带。一一五大队分布于东阿、平阴、东平等地。

伪军据点183个，除大股伪军外，余为地方伪团队。泰运地区计有日军1410人，几乎占冀鲁豫边区全部日军作战部队的1/4多。日伪军在泰运地区驻有重兵，多次组织发动大规模泰西抗日根据地处于冀鲁豫战略区的斗争前沿。"清剿"、"扫荡"，并修筑聊（城）济（宁）公路，企图割断运东与泰西地区的联络，根据敌我力量变化及斗争态势，泰西军分区决定将部队化整为零，采取"敌进我退"克服困难，坚持斗争，为此后的反攻积蓄力量的斗争策略，大胆深入敌后，寻机打击敌人；整顿县区武装，团结依靠广大群众，坚持斗争，为此后的反攻积蓄力量。