和叛军以及羌人交战，马宁也做了充分的准备，他从山丹军马场购买了大批的优良战马，近水楼台先得月嘛，然后将安定、北地、上郡三郡的郡国兵和边军以及羌人士兵统一整编成护羌军。
以他和臧霸带过来的一千禁军以及烧何羌的三千羌骑为核心，马宁又从汉军和其他羌人部族里面挑选了四千人，组建了一支八千人的护羌军，全部由骑兵组成。
根据他以往游侠的经历以及从军这几年的作战经验，马宁对这支骑兵有了一些新的想法，并且大胆的进行了尝试，效果非常的好。
这支护羌新军拥有汉军标准的强壮体魄、严明的军纪和游牧民族的骑射功夫，甚至是上马就是轻骑兵，下马就是标准的步兵，汉军的强弩、长矛代替了羌人的角弓和铁叉，黑铁盔甲、青铜盔甲装备到每一个人。
汉人和羌人打乱编组，马宁要求他们明白每个人在战场都是并肩作战的兄弟，是可以把后背交给对方的，不分羌人、汉人，在护羌新军，所有人的战功奖赏是一样的，没有种族区分。
马宁重新编组了护羌军的建制，十人为一队，设什长，五队为一屯，设屯长，另外设一个书记官，负责统计军功和军纪，书记官必须识文断字，十屯为一营，设军侯和督导各一人，分别负责作战和军纪监督。
五营为一团，每团设军司马和监军各一人，同样是分别负责指挥作战和军纪监督、战功统计，护羌军现在就整编了三个团，马宁、臧霸和麴义分别担任三个团的军司马。
马宁在组建护羌军的时候，尤其注重官兵的文化素质，他优先挑选识字甚至是念过书的人加入护羌军，反正这个时代的寒门子弟，要想进入仕途，参军不失为一个良好的选择。
马宁要求每个书记官在训练之余，都要教导本屯的官兵学习汉字，他认为读书识字能够让一个人聪明起来，更能够明事理，有利于训练、作战和保持严明的军纪。
马宁没有想到这一举措成为了马宁所辖军队日后的一大特色，也是帮助他取得一个又一个胜利的巨大保障，虽然他自己也没有领悟其中的全部道理，却不影响他走在一条正确的路上。
马宁从匈奴人和羌人那里学到了很多骑射方面的先进之处，并且加以改良，比如他给他的骑兵装备了马鞍和马镫，还给所有的战马打了马掌。
马鞍是跟羌人学的，这样可以让骑兵保持长久的战斗力，节省体力，增加舒适度，马镫则是跟匈奴人学的，这样可以在一定程度上解放双手，使得奔驰之中瞄准射箭成为可能。
马镫还有一个更重要的功能，却是帮助护羌军装备的秘密武器，取得更好的效果，马掌则是从西域传过来的，有利于增强战马的负重和长途奔袭的能力。
护羌军的首战就是攻打先零羌，马宁首先放出消息，自己要攻打牢姐羌，一路上护羌军都是大张旗鼓的前进，一直到达上郡。
然后马宁突然率领护羌军一个转向，沿着秦长城，一路向西，奔袭近千里，突然出现在了被先零羌占据的富平城下。