董卓死后，随后牛辅也被杀，王允开始以诛杀国贼的首要功臣自居，在如何安排和处理他的旧部时，反复无常，态度极不慎重，他先是想全部赦免董卓的部下，可继而又对群臣解释说：“本来，他们是没有罪的，只是身不由己，跟随董卓，所以不得已听从董卓差遣，犯了错误。现在如果给他们突然加上恶逆的罪名，而且特定赦免他们，恐怕反而使他们猜疑恐惧，心理承受不了，所以，赦免他们无罪不是使他们安心的上上之策，还不如让他们承受惩罚。”</p>
凉州兵是董卓的嫡系部队，战斗力强，而且对董卓最忠心。董卓死后，如何处置凉州兵，是关系王允本人和东汉政权的大事。王允企图削夺凉州兵将领的兵权，取缔全部凉州兵，并且计划利用关东兵去控制他们。</p>
</p>
可是后来有人对王允说：“凉州兵素来害怕雷云，畏惧关东兵，而今，如果派关东兵去解散他们，凉州兵人人都会担心性命不保，这样，很容易引起兵变和混乱。还不如任命皇甫义真为将军，去担任凉州兵的统帅，并让他长期留在那儿，以便安抚军心。”</p>
王允坚决反对：“这样绝对不行，关东兵是反董卓的义兵，与我们是同一条路线，现在董卓已死，如果继续把他们屯驻在险恶之地，虽然安抚了凉州兵，但是关东兵将领会疑心我们不重视他们。”</p>
凉州百姓听到王允想解散凉州兵的风声后，便到处传言，说王允要杀掉所有凉州人，一时之间，整个凉州人心惶惶，一片惊慌。凉州兵将领本来就成了惊弓之鸟，对自己的前途深感忧虑，当他们得知王允要削夺他们的军权，解散凉州兵的消息后，更是惊慌。绝望的凉州兵寻思：反正是一死，不如死个痛快。于是他们迅速召集军队，严阵以待，准备见机起事，并且互相传告：王允不仅没有丝毫赦免的意思，反而想剥夺我们的兵权，置我们于死地。我们除了联合起来，别无选择。</p>
当时，凉州军中李傕等人归来时无所依托，本欲解散部队逃归家乡，又怕仍得不到赦免，而凉州军最有影响和实力的将领是李傕和郭汜，李儒找到了他们说道：“听长安人议论说欲诛尽凉州人，各位如果弃军单行，则一个小小的亭长就能抓住你们了。不如率军东进，攻打长安，为董卓报仇。事情如果成功了，则奉国家以正天下；如果不成功，再走也不迟。”</p>
李傕等人采纳了李儒的建议，到处说：“朝廷不赦免我们，我们应当拼死作战。如果攻克长安，则得天下了；攻不下，则抢夺三辅的妇女财物，西归故乡，还可以保命。”</p>
部下纷纷响应，于是同郭汜、张济等人结盟，率军几千人，日夜兼程，攻向长安。</p>
王允听说后，派董卓旧部将领胡轸在新丰迎击李傕，胡轸率部投降。李傕沿途收集部队，他们将所有凉州兵集合起来，誓师进发都城长安，到达长安时已有十余万人。</p>
四月八日东汉官兵不堪一击，不久，李傕、郭汜的部队便攻陷长安。城陷后，与吕布展开巷战，吕布虽然勇猛，但是好虎架不过一群狼，更何况他这只老虎带着一群绵羊和一群狼作战，他的军队被李傕、郭汜的军队冲散，吕布无奈只好慌忙领兵出逃，在青锁门停住，招呼王允一同逃走。</p>
王允断然拒绝，对吕布说：“如果天子祖先在天有灵，能赐福社稷，保佑我们的国家平安无事，我就心满意足了。如果这一愿不能实现，我愿意献出自己的生命，以死来报效朝廷。皇上年纪幼小，少不更事，只能靠我们来辅助他。国家遭受如此灾难，如果弃下皇上，只顾自己逃命，我实在是不忍心。况且，我身为宰相，不仅不能使国家平安无事，反而导致逆贼的反叛，我的责任重大啊!请你出城以后，多多鼓励关东豪杰，要常常念及皇上!”说完，便扶着皇帝逃到宣平城楼。</p>
李傕、郭汜追到宣平门下，叩头便拜。汉献帝壮起胆子询问道：“你们目无王法，作乱京城，到底打算作什么？”</p>
李傕回答说：“董太师对陛下忠心耿耿，却无缘无故遭人杀害，我们只想替太师讨回公道，不敢造反。等到捉拿处决凶手后，我们愿意接受审判。”</p>
王允哈哈乐道：“你们这些奸贼，一心助纣为虐，哈哈哈，你以为我会相信你们么？”</p>