兵分两路后，鉴于青岛党组织的力量发展到一定规模，“东工委”决定：撤销青岛特支，成立中共青岛市委，由陈振麓任书记，王景瑞任组织部长，李西山任宣传部长，王焕章任职工运动部长，李明海任武装部长。这是抗战时期第一届青岛市委机关，直到青岛解放，市委机关一直驻在郊区。当时，中共青岛市委准备在浮山后、沙子口、登瀛、桃林、北疃、大北曲及沧口附近的十梅庵、楼山后、大枣园一带组织四五个中队。在毕家村、蓝家庄一带，已经组织起来的六七十人的队伍为第四中队，由陈振麓任中队长，宋中堂任中队副，王儒林任指导员，高嵩负责讲游击战术。这支队伍的每一个成员都是民先队员，其中有50多人是山大的“民先”，除了已经恢复组织关系的老党员，市委又从中发展了一些新党员，所以这支队伍的新老党员很多，政治、文化水平很高，完全可以称得上是一支革命干部队伍。由于其他中队没来得及正式成立，习惯上说的崂山抗日游击队，就是指崂山抗日游击队第四中队。第四中队当时只有王儒林带着一支手枪，其他人都是两手空空。于是，大家一起动手千方百计收集武器，好不容易弄来了1支鸡捣食土枪、1支日本三八式步枪、4颗地雷、6颗手榴弹、3把大刀和1把指挥刀。

1937年12月23日，日军渡过黄河，国民党山东省主席韩复榘不战而退。12月25日，日本驻青总领事率员降旗回国。12月26日，日本海军封锁了青岛海面。12月28日24时，国民党青岛市市长兼第三舰队司令沈鸿烈执行蒋介石“焦土抗战”政策，下令沉没港内全部军舰，炸毁了日商在青的9家纱厂，12月31日拂晓，沈鸿烈率海军陆战队撤离了青岛。驻胶济路东段的国民党51军，也匆匆撤向徐州。在这期间，国民党的顽固势力，在崂山周围一些地方，打着抗日旗号，拉起了一些武装。当时，国民党青岛市党部成员孙殿斌也拉起一支队伍，驻在崂山地区北面的惜福镇。由于群众反感，他虽然枪多，却招不来人。当他得知崂山抗日游击队是共产党领导的，深得群众拥护，组织起了不少人之后，就想以合作为名，以武器为诱饵，将崂山抗日游击队吃掉。孙殿斌多次派代表到埠落小学来说合，要游击队拉到惜福镇去合作，保证发给枪支弹药。中共青岛市委虽对其诚意怀有疑虑，但从党的统一战线政策和游击队的实际情况出发，并在报请上级党组织批准后，决定联合，但是坚持独立自主的原则，不与孙部合编。同时兵分两路，部分队员在陈振麓、王焕章等人率领下前往惜福镇，另一部分队员留守毕家村作后盾，以防不测。先期到达惜福镇的游击队在与孙部联合的过程中，发现孙殿斌意图强行整编崂山游击队人员，便借晚上行军的机会，在毕家村游击队员的接应下，带着从孙部得到的十几条枪和一些手榴弹，巧妙地脱离了孙部。

在崂山抗日游击队组建的过程中，还遭到反动地主的暗算。沙沟村地主李代华，游击队在去惜福镇的途中指名要其将手枪交出来后，怀恨在心。就在崂山抗日游击队自孙部返回途中，暂住沙沟小学的第二天上午，李代华伙同几名反动分子，暗中向游击队员开枪，队员肖维成中弹后牺牲。李代华还抢去游击队的物资。袭击崂山抗日游击队后，李代华害怕报复，托人求饶，表示愿出1200元钱赔偿损失。市委研究决定，要凶手，不要钱。李代华求饶不成，竟狗急跳墙，贿赂了国民党即墨县常备队，开来三卡车士兵向游击队进攻，并开炮轰塌埠落小学校舍。因游击队撤离及时，避免了伤亡。看来，这支小小的游击队要存在下去，并非想象得那么容易。