1939年7月至11月，日伪军采用“分进合击”战术，连续对冀鲁豫支队进行了3次大规模“扫荡”，妄图重击这支年轻的八路军队伍。杨得志针对敌人的战术，指挥部队适时跳出合围圈，在敌人侧后频频出击，使敌人的“扫荡”屡屡失败。冀鲁豫支队的蓬勃发展，也引起了当地国民党顽固派的不安。顽固派极力限制支队的行动，特别是定陶县县长姚崇礼，多次向支队进行挑衅。杨得志指挥部队进行反击，一举歼灭定陶顽军500余人，有力地惩罚了顽固派。
战斗间隙，杨得志还对如何开展平原抗日游击战争进行了总结。他认为：一、要进行平原游击战，必须动员和组织民众。只要广大民众投入抗日洪流之中，就能形成平原游击战所依赖的“活的人山”；二、要进行平原游击战，必须执行正确的战术。如：“硬的不打，软的打”，“敌打我，我不打；敌不打我，我打敌”，进行夜战等。杨得志这些创造性的概括，丰富了我军开展平原游击战的经验。在开展游击战争、建立敌后抗日根据地的过程中，杨得志十分重视群众工作和地方党的工作。支队初到鲁西南时，地方党组织的力量比较薄弱，群众团体还没有发展起来。支队虽与地方党组织没有正式关系，但杨得志还是积极支持帮助地方党组织开展群众工作，并在经济上予以帮助。1939年7月，鲁西南地委成立，各种群众团体也建立起来了，鲁西南抗日游击根据地逐步形成。与此同时，部队也得到了发展，仅一年时间，就发展到了4000多人。
创建冀鲁豫边区抗日根据地
1939年冬，中央军委电示杨得志：冀鲁豫边区战略地位极为重要，要坚持边区抗日游击战争，建立边区抗日根据地。冀鲁豫边区所辖的直南、豫北、鲁西南等地区，处于平汉、陇海两条铁路干线的交会处，虽然地区不大且狭长，却是华北与华中抗日根据地的连接枢纽，也是太行与鲁中两大山岳地带抗日根据地的连接枢纽，战略地位十分重要，不论是日军还是顽军，都志在必得。在此创建根据地，面临着复杂而残酷的斗争。
1940年春，杨得志奉命率部向顽军丁树本等部发动大规模讨伐。杨得志制定了一个讨伐方案：用“联合”的名义，派部队到与丁树本有联系的县驻防，待机行动，各个击破。一切准备好后，杨得志便和丁树本“摊牌”，揭露他依靠日寇，妄图挤走、挤垮八路军的反动计划。丁树本拒不认账，杨得志便指挥部队从各地同时发起进攻，打得丁树本措手不及。丁树本的2万多人及地方顽军大部分被歼灭，他只得携残部逃往豫西。
