第二次来山东的干部更多了，近200人，其中有一部分红军干部和白区工作的干部，还有一部分是抗大和陕北公学结业的学员。行前，毛主席等中央领导又召集大家讲了话，动员我们去山东。主席先讲了形势，讲了山东抗日根据地的重要性，又讲了去山东应持的态度以及如何开展山东游击战争的问题，要求大家去后要密切联系群众。他说，山东出了个“菩萨司令”（指廖容标），你们要学“菩萨司令”，要团结群众，依靠群众，和群众打成一片，努力开创山东抗日根据地。最后黎玉为大家作了个报告，介绍了山东的情况，说山东有得天独厚的抗战条件，那里物产丰富，民性强悍，枪支很多，可大展宏图。又说山东遍地是宝，盛产小麦，水果很多，打到烟台有烟台苹果，打到莱阳有莱阳梨，打到德州有德州西瓜，打到肥城有肥城桃。山东人民深受日本帝国主义侵略之苦，只要抗日，人民是拥护支持的。
在延安做了些准备工作后，我们于1938年8月21日出发了。出发前组织了临时指挥部，名义为八路军鲁东游击纵队指挥部，张经武任指挥，黎玉任政委，下设司令部、政治处、直属工作队、干部大队等。江华任政治处主任，分配我任政治处组织科长兼指挥部总支书记，并兼管图书。从延安乘汽车到西安后，仍住八路军西安办事处，住了两天，适逢朱德总司令从前方回延安，路过西安，总司令给大家讲了话。我们仍乘火车行进，但这时西安至开封的火车已不畅通了，我们到绳池就下了火车，徒步到达黄河，过了黄河，抵达山西垣曲县。在垣曲遇到了去延安开六中全会的彭德怀、邓小平。他们向我们介绍了山西的情况，说晋东南大都是我们的地方，可以放心大步走。于是我们从垣曲经阳城、晋城、高平、长治，顺利到达屯留。屯留是八路军总部所在地。在屯留崔蒙村住下休整一个月，检查了行军纪律，严格执行三大纪律八项注意，对个别违纪行为进行了严肃的批评和纠正。同时还调整了指挥部领导机构，把原来的临时指挥部下设的司令部政治处改为军事科和政治科。江华任政治科科长，我任副科长；吴克华任军事科科长，刘海涛任副科长。直属工作队和干部大队仍保留，胡奇才仍任干部大队大队长，徐斌洲仍任大队政委。我们还配备了勤务人员，每两个科长配一匹马。
在休整期间，我们去黎城一二九师师部参观学习，一二九师师长刘伯承讲了粉碎日军对晋东南九路围攻情况和合围战术。八路军总部左权副参谋长讲了司令部以及参谋工作。八路军政治部副主任傅钟讲了如何做政治工作，等等。
大家听后进行了讨论，受到了很好的教育。另外，在这期间，张、黎还向中央提出要一个警卫营，作为护送部队。待我们到目的地后，此警卫营就作为山东八路军领导机关的警卫部队。
