杨得志出身贫寒，参加红军前没上过学，只是1937年上半年在延安抗日军政大学第二期学习过，这是他在革命战争年代惟一一次学习深造。作为一名从士兵成长起来的高级军事将领，他特别注意从战争中学习战争，结合战争实践，自觉学习和运用毛泽东军事思想，指导部队建设和作战。在反“围剿”过程中，他体味正反两方面的经验教训，对毛泽东军事思想有了深刻的认识和理解。
1940年4月，黄克诚率领新组建的八路军第2纵队主力由太行来到冀鲁豫边区，与冀鲁豫支队统一整编，杨得志任第2纵队司令员，黄克诚任政委；至此，冀鲁豫边区抗日根据地正式形成。6月上旬，中央军委命令黄克诚率第2纵队部分主力南下与新四军会合。黄克诚离开以后，杨得志任第2纵队司令员兼冀鲁豫军区司令员，这时边区的八路军主力部队实际上只有相当于1个团的兵力。6月10日，恰在黄克诚率部南下之际，日伪军2万多人分12路合围濮阳地区，妄图一举摧毁新生的冀鲁豫边区根据地。杨得志发动“活的人山”，指挥部队分散突围，“硬的不打，软的打”，从背后打击“扫荡”之敌。经过13天的斗争，奇迹般地粉碎了敌人的“扫荡”。1941年3月，敌人在华北推行第一次治安强化运动。4月12日，日军1万余人、伪军1万余人对濮阳、内黄、滑县交界处的沙区进行“铁壁合围”。根据“敌打我，我不打；敌不打我，我打敌”战术原则，杨得志率领纵队机关和主力一部突出重围，跳到鲁西观城县。然后，奔袭敌人后方清丰县城及周围据点。这一行动，打破了敌人的部署，缩短了敌人原定的“扫荡”时间。
这一次“大扫荡”之后，冀鲁豫边区敌情更为严重，周边地区驻有敌人重兵，根据地有日伪军7万多人，第2纵队的回旋余地越来越小，斗争形势更为严峻。1941年7月中旬，为了统一冀鲁豫平原抗日斗争力量，中共北方局、八路军总部决定，冀鲁豫边区和鲁西区合并为新的冀鲁豫边区，杨得志任第2纵队司令员、区党委委员。两区刚一合并，杨得志和政委苏振华就主持召开了边区军队高级干部会议，研究严峻形势下的军事斗争问题。这次会议，坚定了冀鲁豫边区坚持平原根据地的信心，开始探索争取主动权的策略和方法，在边区根据地的建设史上具有重要意义。
1943年起，杨得志展开了积极的对敌斗争，派遣游击支队(亦称小部队)深入近敌区和敌占区开展反“蚕食”斗争，是实行敌进我进、开展分散游击战争的重要一环。在这方面，以吴忠为支队长、邵子言兼政委的昆(山)张(秋)支队表现很突出。自1942年底到1943年2月，昆张支队前后三进敌占昆山、张秋地区，配合地方党政组织发动群众，开展对敌斗争，很快打开了局面。边区党委、军区总结并在全区推广了昆张支队的经验。
1943年里，全边区共派遣124支游击支队。这些游击支队积极开展群众性游击战争，阻止了敌人的进一步“蚕食”，坚持了根据地，扩大了游击区。1943年11月，在反击伪第2方面军孙良诚的战斗中，杨得志时任八路军冀鲁豫军区司令员，当他得知孙良诚的主力第4、第5军同时离开老巢——河南濮阳东南的八公桥向抗日根据地进攻，内部空虚时，果断采取ct牛刀子钻心”战术，避敌主力，攻其虚弱，调集部队直插八公桥，全歼了孙良诚总部和直属队，捣毁了敌人的首脑机关并俘虏了伪第2方面军参谋长甄纪印，一举击退了孙良诚伪军的进攻。战役取得了巨大成功，收复了八公桥及周围200多里的地区。
到1943年底，冀鲁豫边区的革命斗争取得了巨大胜利。全年攻克敌碉堡、据点比1942年增加了4倍多，收复、扩大根据地和游击区约4000多个村庄。在这些战果中，凝结着杨得志的大量心血。
1944年元旦刚过，中央军委电令杨得志率部保卫延安，出任陕甘宁晋绥联防军教导第1旅旅长，担负守卫黄河河防、保卫延安、保卫党中央的重任；在冀鲁豫边区的5年零3个月，他为建设敌后重要抗日根据地——冀鲁豫边区做出杰出贡献。
