因此，听说洛口的粮食还没烧掉，李密做出的第一个反应就是夺回洛口仓，洛口南边的罗士信也是如此想的。
李密亲领荥阳以及周边紧急调来的五万多兵力从东面直扑洛口，罗士信则从二十多万大军中分出一半由裴仁基父子统领从西面杀向洛口。两相合兵十五万余人将洛口仓围成铁桶一般。洛水河道也被封锁起来。但是洛口仓面向黄河那一面的水门却是瓦岗军无法封锁的。
黄河水道宽阔，无法从两岸对河面上的隋军维京战船展开袭击。岸上的隋军试图设置拦江铁索，就会被河中乘坐维京船的维京水手们所攻杀。
面对近十倍之敌的来护儿自是龟缩在洛口仓中闭门不出。除了朝黄河开的水门，所有城门都被用麻包封死。
由于瓦岗军反击的太快，城头上都没来及准备滚木擂石，他来时在那些维京船上装载了不少轻型弩炮。杨广将从南方带来的火爆弹全给了他。但奇怪的是，这些轻型弩炮并没有布置在城墙之上。
现在是守城的不急，攻城的急。随着时间的流逝，瓦岗军只能陷于越来越不利的境地。因此李密，裴仁基没做什么充足准备，没有打造足够多的攻城器具就发起了攻击。
巨型投石车将上百斤的巨石抛向洛口仓的城墙，城墙上的每个人都能感觉到大地的颤抖。但也就仅此而已，洛口仓的城墙虽不高，和普通城池标准一样仅三四仗的高度，但洛口仓城墙的厚度却十分大，宽达十仗有余。垒砌这些城墙的泥土都是就地取材，取自挖掘那些粮窟时挖上来的土方，所以才能堆的如此之厚。
所以威力再大的投石机也只能在这宽厚的夯土城墙上留下几个巨大的凹陷，却不能将整个城墙砸毁。投石车连续投射了一个时辰，将城墙砸的坑洼不平，城垛几乎都被击碎，但城墙主体结构却是没有丝毫损坏。连个裂缝都没有出现。
李密看到没用，就命全军从四面八方发起总攻，他连常规的攻城技巧策略都不屑使用，准备用十五万大军的人海战术将洛口城踏平。他是铁了心要全歼了这支隋军，暗自发誓攻下此城后，要活剥了这些隋军的皮。还要被活烹叛徒程咬金。
黑压压的瓦岗军兵士如同归巢的蜜蜂一般，向洛口城脚下涌来。他们首先冒着城头不断袭来的冷箭，用柴薪，碎石填平了壕沟。城头上的两千长弓手用精准的远射一个接着一个消灭瓦岗军。
因为城垛全部被投石机击毁，为了防止城下放箭进行反击，每名长弓手前面安排一个手持橹盾的骁果军刀盾手进行防卫。当城下的密集箭雨袭来时，他们就蹲伏到这名刀盾手身后来躲避箭矢。等箭雨过后，趁着两波箭雨之间的间隙放出自己一箭。