御驾亲征是杨广最喜欢干的事情，听说刘子秋也要御驾亲征，众文武纷纷相劝。赵凌拱手说道：“陛下如今乃是千金之躯，岂可亲身犯险！刘武周一介草寇耳，举手可擒，何劳陛下亲自动手？”
刘子秋摆了摆手，说道：“朕也想过几天安生日子，然天下未定，百姓困苦，朕寝食难安。刘武周非卢明月、王薄之流可比。他手下的宋金刚精于谋略，尉迟恭勇冠冠三军。说起来，尉迟恭还是朕的结义大哥，朕不忍兄弟相残，必须亲自走一遭。”
众文武晓得刘子秋素重情义，知道劝不住他。但从大的方面来说，大汉王朝的兴衰皆系于刘子秋一身，从小的方面来说，他们的荣华富贵也均由刘子秋而来。因此众人又不可不慎。
裴寂沉吟道：“陛下要御驾亲征，臣等不敢违旨，但请陛下多带人马，以备不虞。”
刘子秋哈哈笑道：“自古道，兵在精而不在多。昔日杨广每战，动辄五六十万大军，兴师动众、劳民伤财，甚为不智。朕此番御驾亲征，有五万兵马足矣！”
按照刘子秋制定的新军事制度，大汉王朝的正规军很少，总兵力不过二十四万人，比起大隋的百万军队少得太多，甚至瓦岗军现在也已经发展到了二十万人。但这二十四万人是真正的职业军人，而且他们的任务就是训练和作战，除了一些重要的关卡和隘口，普通城池的守卫根本不需要他们操心，因此军队的战斗力比隋军要强悍得多。
当然，这二十四万人当中，有五万游牧骑兵，刘子秋是不会随便动用他们来中原作战的。一方面，这些游牧骑兵都由异族组成，刘子秋不希望自己做出借异族的手屠杀汉人的事情。另一方面，他对漠北实行的是松散型的控制，仍然需要一支强大的武装时刻对漠北保持压力，免得那些草原上的豪强再生异心。
另外，在中原作战，两万水军也派不上用场，真正可以用的只有十七万人，这十七万人中有四万人已经被派驻到各处关隘，如果刘子秋再抽调十万大军北伐的话，驻守洛阳、长安等地的兵力就剩下区区三万人了。因此刘子秋并不肯采纳裴寂的意见，只肯带五万人出征。
虽然只有五万人，但这支军队的实力却不容小觑，其中包括了两万精锐骑兵和一万陌刀兵。大军出了洛阳向北而行，仍然发挥汉军的一惯作风，一路急行军，日夜兼程，并不作丝毫停留，连过河内、长平、上党三郡，五天之后便进入了太原境内。
此时，太原城以北的交城、汾阳、木井、寿阳均已经失守，刘武周纠集了二十万大军，将太原城围得水泄不通。
马邑、雁门都是边郡，经常与北方的游牧民族打交道，因此当地百姓多习骑射，民风也极其彪悍，刘武周并不缺少兵源。另一方面，当初咄吉世匆匆撤退回漠北，劫掠得来的财物、粮食和女人都留给了刘武周。这样一来，刘武周在钱粮方面就没有了任何困难，可以大肆招兵买马。为了笼络人心，他还把大批妇女分赐给部下将士，一时深得三军拥护。
让刘武周的实力得以大增的还有一个重要原因，那就是咄吉世撤退的时候，尉迟恭拦截了突厥人的后卫部队，抢夺了大批战马。这些战马都是草原上的好马，在大隋王朝的时候要花费无数代价才能得到这样的马匹，如今刘武周一下子就获得了两万多匹，足以让他组建一支强大的骑兵部队。正是得益于这支骑兵部队，刘武周才能够在太原耀武扬威，把守军困在城中。