1939年2月，驻河北和山东的日伪军，又纠集了约万余兵力，同时对冀南和鲁西北抗日根据地展开“联合扫荡”。其中，冀南日伪军将“扫荡”的重点，指向了设在南宫县的我军机关总部。

冀南和山东西北部分属不同的抗日根据地，但为粉碎日伪军此次跨区“联合扫荡”，我冀南和鲁西北各部也临时归129师刘邓首长指挥，在统一部署下，协调各处的反“扫荡”行动。其中，八路军115师344旅688团临时归属386旅陈赓旅长指挥。

本来，陈赓打算让688团这支战斗力颇强的劲旅对运动之敌实施伏击，于是便于2月8日将该团调至肥乡至威县公路一线，令其打击从邯郸出动之敌。时任688团团长的韦杰率部遵令而行。不过，当地地势平坦开阔，而日军又汲取了此前遭八路军伏击的教训，从同一个方向出动的部队间距大为缩小，让688团打伏击变得难上加难。

坚持“实事求是”，只唯理、不唯上的韦杰，将实际情况上报陈赓，请求撤出伏击地域另寻战机，得到了陈赓的同意。

不过，部队指战员们憋足了一口气，准备打个漂亮的伏击战给兄弟部队看看，结果却无果而终，令许多人想不通。深知部队士气“可鼓而不可泄”之理的韦杰，在给部队讲清楚个中道理的同时，也派出侦察员四处寻找战机。

不久，有消息传来，说敌伪军一个重要的补给据点威县县城，因为抽调兵力外出“扫荡”，城里只剩300余日伪军，且分属不同建制。韦杰寻思着，眼下正值日伪军大规模“扫荡”初期，威县留守之敌恐怕做梦也料不到八路军竟然前来“摅虎须”，思想上应该比较麻痹。虽说以688团的装备，恐怕难以在援敌赶来之前攻克威县，但冷不丁地揍敌人一顿，吸引外出“扫荡”之敌回援，争取在日伪军往来调动之际找到合适的歼敌战机，还是可以做到的。

于是，韦杰下令3营11连加强1个重机枪排和1个迫击炮排，于2月9日23时许，对威县东门发起奇袭。3营10连在威县县城南门作牵制骚扰，以壮大声威，让敌人作出我军对该城势在必得的错误判断。3营的9连、12连及机炮连主力作为机动兵力，随时准备应对回援之敌。