反观二龙山兵马，却是龙精虎猛，训练有素，进退之间暗合阵法，指挥起来得心应手。梁山泊人马若是能够按照二龙山的标准经行整训，以后必定有机会一血前耻，用云天彪的人头来祭奠晁天王的英灵。吴用也知道今后梁山泊人马肯定不会成为一支独立建制的军队，但是能够利用梁山泊旧部为晁天王报仇还是很有象征意义的。
吴用心中瞬间转过这许多思虑，当即向宋江拜倒：“梁山泊全体人马愿听从主公吩咐，今后定当遵守二龙山一应规章制度。”林冲等人也紧随其后向宋江表明自己的心迹。
宋江赶紧扶起众人道：“大家在一起共事，虽然尊我为主，但今后不必行此大礼，拘泥于这些繁文缛节，以后还多有仰仗各位之处。”吴用等人再次致谢后，便接着谈论如何妥善安置梁山泊人马的问题，杨志名义上是二龙山的兵马统领，自然也参与了进来。
梁山泊三军加在一起原有四五千人，经此一战，折损颇大，尤其是水泊大寨一战，留守的八百名步卒为了保护梁山泊的家眷几乎损失殆尽，就连五百名水军也在掩护众人撤退之时损失过半，这对于缺少有经验的水兵的二龙山来说，可谓是一个重大损失。
梁山泊原有的两百名骑兵由于没有直接参与战斗，倒是没有什么折损，步兵的损失就要严重得多了，梁山泊兵马本就没有经过严格的训练，此番与官军交战吃了不少亏，再加上晁盖中了埋伏致使军心慌乱，被官军所乘杀伤不少，如今只剩下两千余人，竟然损失了一半之多。
宋江在前来救援梁山泊之前，就曾与朱武暗中商议过如何安置他们的问题，考虑到二龙山原有军队基本编制工作已经完成，宋江有心建立一个新军。
这样做的好处就是能够为军队培养足够多的骨干成员，一旦大战将启，可以通过广泛征募百姓入伍扩充该军的规模，一个军有了这些基层组织和骨干成员的存在，经过一段为期不长的突击训练，就能使得扩充后的军迅速形成战斗力。
朱武不禁为宋江的这个设想惊叹，宋江的这种建军思想可以说已经超越了这个时代，他不知道宋江是如何想到这样一套高效的精兵思想的，但这并不妨碍朱武对这套建军思想精髓之所在的理解。
在与杨志、吴用等人商议后，宋江宣布成立第二军——梁山军，原有的青州军（即二龙山原有军队的新名称）定为第一军，第二军暂定为三个营（梁山剩余下来的两千余人加上冷艳山、清真山的六百人共三千人组成三个营），林冲任中营将军兼梁山军统领，下辖一千步兵，刘唐、杨烈、焦挺、鲍旭为中营都将军；颜树德任前营将军，下辖一千步兵，沙摩海、邝金龙、杜迁、宋万为前营都将军；秦明任后营将军，下辖一千步兵，强大力、李云、皇甫雄、王伯超为后营都将军，秦明的职务由黄信接任，王俊和周兴调去黄信麾下接任颜树德与黄信离任之职。
梁山泊两百骑兵分由杨再兴、罗延庆负责管带，暂归花荣统领；两百水军仍由阮氏三雄统带，暂归李俊统领。考虑到朱富、朱贵善于经商，调归商务司，由朱贵暂任商务司总管，负责在全国范围内建立起一张商业网，为将来二龙山举兵积蓄经济实力。由于戴宗的一再辞让，公孙胜接任道术司总管之职，戴宗副之。
与此同时，宋江在二龙山建立了另外一个新的部门——参谋部参赞军机，主要负责制定作战计划，担负战争勤务，选择行军道路和宿营地，构筑阵地以及为将帅起草报告和文书等任务，由朱武任总参谋长、吴用副之，军机营归属参谋部管辖，战时由参谋部派出参谋人员随军参与作战。
宋江的这一次分划，其实是深思熟虑过的，梁山泊刚刚归降，自然不宜将原有人马打散。但是梁山的可用之才却也不多，除了林冲有过带兵的经验之外，其他人都是绿林出身，宋江这才将秦明和颜树德调来负责其中两营兵马的统带工作。
颜树德、杨再兴、罗延庆三人在与云天彪交战的过程中，梁山泊人马都见识到了他们的能力，让他们分别统带一营步兵和骑兵也能镇得住场面，秦明乃是将官世家出身，更兼武艺高强，让他统带一营人马也是绰绰有余，梁山泊众人也不好说闲话，阮氏三雄积蓄管领梁山水军，倒也说得上是人称其职。
梁山泊众人看到宋江这番安排并没有故意拆散梁山泊人马，并且将新成立的第二军定为梁山军，心中倒也欢喜，因秦明等人的介入而产生嫌隙也逐渐消弭。