四月初，就在张全准备出兵的时候，长安传来消息，大将军卫青病故。卫青病了多年，病情时好时坏，所以这个消息也不算太突然。不过这么多年了，卫青一直是汉军中的精神支柱，军中许多将军都是跟着他一刀一枪杀出来的。得到这个消息，张全又歇兵十日，率领全军在渔阳祭奠大将军。
十日之后，张全从渔阳正式起兵，进攻东胡南部地区。三日后，赵破虏也从狼居胥山的受降城起兵，进攻东胡西部和北部地区。
赵破虏之所以迟了几天，是因为进行了长时间的战前动员。在张全的建军思想中，不应该出现单一民族自成一军的情况，而是采取各民族混编，而且汉人的比例应该占八成以上，骑兵部队中，汉人的比例也应该不低于五成。不过这次，赵破虏带出的这五万边军铁，匈奴及其他胡人比例高达七成，为此，刘据特别下旨，给这些临时征募的胡人以普通汉军同样的待遇，不仅有军饷，而且受伤了有朝庭养，死了家里也有钱拿，这在以前是从来没有过的。
这道圣旨无疑提升了部队的士气，这也给了生活在边疆的胡人一条新的出路，那就是参加汉军，为大汉出力。
虽然汉军在四月就出兵了，可一直到了五月，双方还没有进行大规模的交战。因为北部的拓拔信一直避免与赵破虏交战，在等待南线的结果，他希望达奚望能迅速打败汉军，然后北上支援他；而达奚望也在避战，他不愿现在就和士气正旺的汉军交战，所以一退再退，已经撤到了东胡的中部地区。
张全就怕这样的事，打仗他不怕，就算打败了，可只要能削弱东胡的实力就行。不过碰到这种情况，张全也没有急，他知道着急只能乱了自己的方寸，于是他干脆停留在东胡南部地区，把部队都派了出去，强行搬迁那些留在南部的东胡各部。张全也不管男女老少，反正找到一个部落就搬一个，直接派兵先把人围了，然后抓起来交给跟在后面的边军步兵和民夫，让他们回去的时候一同带进长城，最后再统一安排，打散后分到全国各地，尤其是西疆、南越、东越等地。
张全给部队的命令是，能不杀人就不杀人，只要能解除对方的武装就行。张全的初衷是好的，可现实却没有张全想的那么简单，开始的时候大家是这么做的，就算碰到几个反抗的也没什么，可时间一长就出了事，先是有个别部队的围剿的时候遇到反抗出了人命，最后动起手来，死伤甚多。再了最后，干脆发生了屠杀整个部落的事，不过这些都是小部落，也就百八十号人，没有引起张全的注意，直到有一天，三千人被杀，才让张全开始考虑军纪的问题。
这天，张全正在布置搜索任务，二师副师长金日磾找来了。刘彻死后，金日磾不愿再留在宫中，希望能够在疆场上建功立业，因此提出进入北军，鉴于他在平定刘丹等人的叛乱中有功，刘据就答应了，先让他进入虎贲营做郑度的副手，虎贲营改编之后，他又做了二师的副师长。金日磾原本是刘彻的贴身侍卫，虽然是刘彻的近臣，但职位不高，这次能做到副师长的位置，已经算是破格提拔了。
金日磾是来找张全告状的，原来，二师四旅的一个营在围剿一个大点的部落时遇到反抗，结果十几个人被杀，连尸首都没抢回来，四旅长刘延一听就急了，带着十和十一两个团就把对方围了起来，结果那个部落拼死抵抗，四旅又死了十几个人，到了最后，总算把局面控制住了。可刘延一看自己战死的士兵全部被对方剁成了肉酱，完全失去了理智，下命杀光所有的人，为死去的战士报仇。于是，整个部落近三千人全部被屠杀了。
金日磾知道了这个消息，立刻去找郑度，要求他严惩刘延及其手下，可郑度考虑到开战在即，现在正是用人之际，不愿把这事闹大，所以找了一堆理由帮刘延等人开脱，金日磾见他不管，干脆直接来找张全。