1938年徐州会战以后，日军主力向南推进，在山东的兵力比较薄弱，中共领导的人民抗日武装，得到迅速发展。1938年正式编成八路军山东纵队，共2.45万人，并且初步开辟了鲁中、鲁南等抗日根据地。但是起义部队没有红军部队的基础，既缺乏经验，武器装备更是落后。中共要在山东独立自主地负担起抗战的责任，建立巩固的根据地，迫切需要一支主力部队作为骨干。而抗战初期，八路军在敌后实施战略展开时，没有到达山东。1938年4月，黎玉去延安汇报工作时，曾要求党中央派一个团到山东去，毛泽东胸有成竹地说：“看来还要多去一些！”7月到9月，小部分八路军进入冀鲁边区。1938年9月至11月召开的中共六中全会，确立了大力巩固华北，发展华中的战略方针。会后，中央军委派八路军分散布置于华北敌后。11月25日，毛泽东致电彭德怀：陈（光）、罗（荣桓）率师部及陈旅主力（两个团）全部去山东、淮北为适宜。12月，第一一五师第六八五团进入湖西。1939年3月1日，第一一五师师部和第六八六团在陈光、罗荣桓率领下，以东进支队的名义进入鲁西。在此前后，第一一五师第六八七团、六八八团各一部进入鲁西，第一二九师第三八六旅和先遣支队一部进入鲁西北。最后一支进入山东的八路军部队是第一一五师独立支队。总的来看，主力进入山东后，与地方党政军民一起，在冀鲁边、鲁西、湖西、鲁南独立自主地发展抗日根据地。从1939年7月小部分八路军部队进入冀鲁边区，到1940年7月最后一支入鲁的队伍第一一五师独立支队挺进鲁西，八路军主力部队挺进山东在过程上可分为两个阶段。
　　第一阶段：1938年7月—1939年3月，先后抵达冀鲁边区、鲁西北，创建鲁西北抗日根据地。
　　1938年7月7日，按照中共中央指示，八路军第一二九师津浦支队和第一一五师第五支队到达冀鲁边。9月上旬，中共中央决定，八路军第一一五师六八五团亦来山东。27日，师政治部主任兼第三四三旅政委肖华奉命率第一一五师三四三旅机关部分人员百余人，由山西出发抵冀鲁边区之乐陵城。随后成立了冀鲁边区军政委员会，肖华任书记，并整编了当地武装，组成八路军东进抗日挺进纵队，肖华任司令员兼政治委员。军政委员会还明确提出了创建冀鲁边平原根据地的任务和大发展的方针。10月1日，第十八集团军总部电告苏鲁豫皖边区省委，为了配合保卫武汉，八路军第一一五师出鄂豫皖参战，原定第一一五师六八五团来山东的计划暂停。11日，张经武、黎玉电告党中央，迫切需要派一个主力团来山东。21日，中共中央派来山东工作的张经武到达第一二九师驻地。第一二九师师长刘伯承决定将进入冀鲁边区之津浦支队调出，随张经武去鲁南。津浦支队和八路军挺进支队分两批由冀鲁边区，经由泰西向鲁南进发。11月13日，日军由泰安、东阿出动两个联队，向聊城进犯，第一二九师决定由冀鲁边的孙继先支队支援范筑先部，后在鲁西北活动，以后在泰西归第一一五师指挥（1939年10月后，并入山东纵队建制，后来这支武装是山东纵队第二旅的骨干）。同年11月25日，中共中央军委和毛泽东致电第十八集团军总部，令第一一五师师部率第三四三旅两个团迅速进入山东、淮北新老黄河间，包括津浦路东西、胶济路南北广大地区，以开展山东地区的游击战争。与此同时，刘震率第一一五师第六八八团第三营和第六八七团一部合编的独立团由豫北林县挺进鲁西南地区。12月27日，八路军第一一五师第三四三旅第六八五团由晋东南进抵鲁西南。首战崔庄、韩庄，歼灭伪军王显忱部 800余人，并击退了由丰县县城出动来侵之敌，鼓舞了湖西人民的抗日斗争。这年冬季，第一一五师三四三旅六八五团团长杨得志率一个营从山西东渡黄河，进驻东明、濮县一带。不久，以该营为骨干成立了冀鲁豫边区支队。
　　1939年2月，根据中共中央积极创建抗日根据地的指示精神，第一二九师先遣纵队和在陈庚统一指挥下的八路军筑先纵队粉碎了敌人对鲁西北的“扫荡”，创建了以冠县、馆陶、丘县为中心的鲁西北抗日游击根据地。3月2日，第一一五师代师长陈光、政治委员兼政治部主任罗荣桓率第三四三旅六八六团2000余人组成东进支队，由晋西出发到达鲁西郓城七区。1939年5月泰西陆房突围前，第一一五师师部曾派两批人员越津浦铁路进入沂蒙。一批是由胡大容、黄玉昆率领的集训班排干部的军政干校和由王贵生、刘放、邱国光带领的师后方医院及供给部部分人员。他们先到中共山东分局驻地沂水，然后进入费县北部。另一批是冀鲁边调到泰西整训的挺进支队第七团，后来改为路东支队，支队长为彭雄，政委为周贯五（后为彭嘉庆）。他们先后在泗水、新泰、蒙阴、费县一带活动。在蒙山前费县北部马家峪一带，第七团先后打退日军对仲村、马家峪的两次进攻。在第一一五师帮助下，费北蒙山前抗日根据地初步建立。陆房突围后，第一一五师政委罗荣桓、代理师长陈光又派司令部参谋处长王秉璋和师政治部副主任黄励，率领师司政机关和直属队大部人员，以东进支队名义，于5月20日从无盐村出发，越过津浦铁路进入沂蒙山区蒙山山脉西北部的马家峪一带，统一指挥路东的第一一五师各单位。师后方留守处和李梓彬、刘兴元率领的师教导大队，也一起跟随师直属部队转移到津浦铁路以东。6月，八路军第一二九师副师长徐向前离开冀南到达鲁中地区。
　　第二阶段：1939年9月抵达抱犊崮，逐渐打开鲁南抗战局面。
　　1939年6月21日，中共中央军委与第十八集团军总部指示山东部队：鲁南在日军“扫荡”后，局面混乱，国民党军损失很大，我应趁此机会将第一一五师师部、第六八六团和肖华纵队一部开赴鲁南，以巩固鲁南根据地，并派得力的党政机关干部任专员、县长、区长，建立我党领导下的抗日民主政权。根据这一指示，第一一五师主力陆续向鲁南挺进。由彭雄、周贯武、彭嘉庆率领的路东支队，从鲁中沂蒙山区的费县北部南进鲁南；由张仁初、刘西元率领的第六八六团，东越南阳湖，从邹县、滕县一带进入鲁南；8月，师参谋处处长王秉璋、政治部副主任黄励率领师直属大队，从马家峪出发，于9月1日进入抱犊崮山区的大炉村（今属苍山县）。9月4日，第十八集团军总部给第一一五师发出指令，指出：肥城山区甚小，我一一五师主力应转移到泗水、费县、临沂地区；肖华所部驻区粮食困难，敌之封锁严密，应转入鲁西。9月下旬，肖华奉命率东进抗日挺进纵队机关和主力一部由冀鲁边区转移到鲁西。清河区第三支队奉省委指示，将主力移至淄河流域的池上地区。同时，八路军第一一五师苏鲁豫支队第七大队调回湖西，进行恢复工作。第七大队改番号为第三大队。第四大队改番号为第二大队。罗荣桓则率师部、第六八六团及津浦支队由鲁西越津浦铁路去鲁南，于10月下旬，到达大炉。罗荣桓在大炉师直党的活动分子会上作了《目前政治形势及政治任务》的报告。报告全面分析了国际和国内政治形势，指出当前总的方针是贯彻中央提出的三大口号：坚持抗战，反对投降；坚持团结，反对分裂；坚持进步，反对倒退。加强部队的政治工作和党的建设，巩固和扩大现有阵地，充实自己的力量，坚持模范的游击战争。
　　12月26日，八路军第一一五师政治委员罗荣桓在第一一五师召开的干部会议上提出：目前师直属队的任务是建立以抱犊崮山区为中心的鲁南抗日根据地，并使之成为我军单独的抗日根据地，以配合坚持平原地区的游击战争。30日，八路军第一一五师制定战略计划，主要内容是：（1）创建以抱犊崮山区为中心的鲁南抗日根据地，以后再向东北发展，与山东纵队活动地区连成一片。（2）留主力一部坚持冀鲁边区的斗争，由肖华统一指挥鲁西地区各部队，巩固鲁西、泰西根据地，使之成为我军独立坚持山东的辅助阵地（鲁西、泰西根据地已有11个县政权，部队17000人）。（3）苏鲁豫支队率领第三大队仍留湖西地区；第二大队到鲁南；第一大队配合新四军开展苏皖边工作。不久，八路军第一一五师部队进入抱犊崮山区。鲁南以抱犊崮山区为中心的抗日根据地已扩大南至郯马、东至仓山、西至邹滕边、北至梁邱一带及费西北一部分地区，先后建立了6个抗日民主政权。
　　1940年7月，一直在晋西坚持战斗的第一一五师独立支队在陈士榘、黄骅和王麓水率领下由山西抵鲁西。至此，最后一支派往山东的八路军队伍进入山东，八路军在山东的各部已扩大到7万余人，并建立了30余个县民主政权。
　　八路军挺进山东，打击了国民党反动势力的嚣张气焰，粉碎了日寇的多次“扫荡”，创建了鲁南、湖西、鲁西等抗日根据地，打开了山东抗战的新局面。八路军主力进入山东后，在贯彻中共中央军委对于抗日战争的路线、方针、政策上，在逐渐实现对山东抗日武装的统一领导和指挥上，在抗日武装斗争的指导上，在军队建设上，都取得了许多成就，在整个抗日战争中，胜利完成了具有历史意义的战略任务。