正当日军一一六师团发动攻势的时候，六八师团那边发生了一件有趣的事情，师团长佐久间为人为了发动下一轮攻势，亲自跑到前线勘查地形，正当召集手下军官商量作战方案的时候，被华军八枚国产的迫击炮弹打个正着。佐久间为人重伤，在搬回长沙的途中毙命，其下各级重要军官重伤甚多，致使六八师团一度瘫痪。
司令横山勇情急之下临时任命岩永旺全权指挥两个师团，可是岩永旺不了解六八师团的情况，只好下令按照原计划进攻，使得六八师团在进攻中被华军收拾得很惨。
七月二日，日军暂停进攻。十一日清晨，日军发起了第二次总攻击，向衡阳城垣倾泻大量的炸弹、燃烧弹和毒气弹。日军也付出了极大的代价，无法接近守军的核心阵地。
日军的伤亡惨重而且没有任何的成效，只有休战。日军在此次的攻击期间，使用了毒气，让华军猝不及防，给华军造成了较大的伤亡。
十二日，日军攻占虎形巢。十五日，守军退至西禅寺、张飞山，改守第二阵线，日军攻击重点从衡阳西南转向城的外廓。十六日，市民医院南端的高地失陷，日军攻击转向西北郊。
十七日，日军对衡阳城猛烈的轰炸，逐次夺取城郊的据点，压缩包围圈。十九日，日军再次停止进攻。二十一日，日军佯装退兵，引诱守军出击，又空投归来证，向第十军诱降。
日军的空军两个战队的轰炸机对市区和西、南两面的山头阵地反复的进行轰炸和扫射，将华军阵地上的工事、战壕、据点摧毁殆尽。最糟糕的是华军的通信线路被敌机炸毁，只能靠最原始的方式传令联络。
华军将士并没有慌乱，他们利用敌机炸弹所炸出的弹坑作为掩体，用手榴弹以近距离与日军进行肉搏战，使得日军不能前进一步。
日军只得使用大炮和飞机对阵地反复的轰炸，只要山头上还有一个活着的士兵，胆敢冲锋的日军一定挨手榴弹的炸。
日军再度发起总攻击之后，除了夺取极小部分的阵地之外，依然无所进展，而损伤更为惨重，两个师团的连长，已经所剩无几，大部分的步兵连，已经变为由士官代理连长，勉强支撑战斗的惨况，攻击的前途仍不见乐观，于是攻击再度的停止。
日本的国民强烈不满首相东条英机，导致内阁下台，衡阳之战日军受到重挫是促使他下台的一个重要原因。
日军轻敌，作战计划居然仅是用一到三天的时间拿下衡阳，所以两个师团的进攻都是在没有炮兵的情况下开始的。后面炮兵赶到了，可是总共才有三十门，炮弹只不过是四百五十发。日军跑得太快有好处，把华军拦截部队丢到了后面，但坏处也不少，只带了四天的粮食，而后援部队跟不上。也可能日军根本就没打算后援，以为四天的粮食加上四百五十发的炮弹就可以拿下衡阳。