淮阴是一个非常古老的地方，早在旧石器时代，这里就有人类居住。先秦时期，淮阴是徐文化的中心地域，地处淮河南岸，旧以山之北、水之南为阴，因此名为淮阴。
据《禹贡》记载，夏代，淮阴以淮河为界，分属徐、扬二州之域。商周史籍称为东夷、淮夷之地。
春秋末，属吴。吴被灭后属越。周贞定王二十四年，楚国屡侵泗水流域，淮阴归属时越时楚，后来终属楚。
秦王政二十四年秦灭楚，始设淮阴县，属泗水郡，淮阴县治所设在今楚州区。西汉初，分出淮阴县西南地域置富陵县，封韩信为淮阴侯，淮阴为其封邑。十一年，韩信被杀，淮阴侯国取消，仍称淮阴县。武帝元狩六年，置临淮郡，淮阴、富陵为其属县。
王莽篡汉，改淮阴为嘉信，并改临淮郡为淮平郡。
东汉初并临淮郡入东海郡，淮阴县属之，且撤富陵县，其地入淮阴县，永平十五年分临淮郡故地立下邳国。
建安十一年，下邳国名废除，仍为临淮郡，淮阴属之。
三国时属魏，魏承汉制，没有变更。
晋武帝初，仍属临淮郡。
太康三年，移广陵郡治于淮阴，至晋元帝渡江，广陵郡移去，其间共三十四年。
东晋以征北、镇北将军，青兖二州刺史或徐州刺史镇淮阴，淮阴遂为重镇。
永和八年，荀羡以北中郎将徐州刺史镇守淮阴。他认为淮阴旧镇“地形都要，水陆交通，易以观衅，沃野有开殖之利，方舟运漕”，却“无地屯兵”，因而在秦汉故城之南一里许，营造新的城池，自此淮阴为南朝国防要地。
石闵率领十万精锐之师赶到了淮阴，可是他连淮阴的城头都没有见到，眼前的这条淮河天堑，就足以让他望而兴叹！
庾翼是下令淮阴和寿春的晋军坚壁清野是没错，但是这淮河也是可以依仗的有利地形，所以曹据专门在淮河的南岸建造了一座巨大的营寨，只不过赵军来得太快了，几日的时间，营寨只是完成了一个大概，实质上防守能力是很差的。
绕是如此，想要在晋军的阻击之下强渡淮河，谈何容易？
“大王，末将愿率部渡河！”李信第一个站出来表态。
“大王，末将也愿往！”在场的将领各个都摩拳擦掌，跃跃欲试。
石闵却是摇摇头道：“淮河险阻，没有坚固的战船无以渡河。传令下去，就地扎营！一切等到咱们的战船抵达淮阴再说！”
“诺！”
军令已下，无可更改。
赵军随即就在淮河的边上扎营下来。
石闵果真是一个深谋远虑的人，不打无准备的仗。这不，他早就知道南方水网密布，战船的作用远远大于战马，所以石闵一早就让人抽调了北方所有的战船和水师，就准备大干一场了。