公元前486年，吴王夫差开邗沟，沟通江淮，欲北上与中原诸侯争霸。邗沟开凿本身，就是一项军事工程。公元前482年，夫差北上与中原诸侯会盟黄地，欲为霸主，越王勾践乘吴王远出，国内空虚之际，兵分两路进攻吴国，一路攻打吴国都城，一路经海道逆入淮水，堵住末口，迫使夫差不得不诸和于越。
  以后若干年，邗沟在国家统一时，则主要用于经济运输、人员往来，成为和平水道，国家一旦分裂，爆发战争，邗沟内则峰烟滚滚，战船往来，邗沟北端的末口处在淮河下，而淮河在中国历史上，凡国家发生在规模战乱，或群雄割据，或南北政权对峙时，往往成为敌对政权或势力的天然分界线，位于末口的山阳、淮安，自然成为兵家必争之地。
  由北方流入淮河的河道，有清河、汝河、颖河、涡河等五道，而淮河向南出口的河道只有一个刊沟，这更加突显了淮安国事地位的重要，故史志书淮安为“南北之咽喉，天下之控扼”，“形势之险，甲乎天下”，“中国（指中原地区）得之可以患江表，江表得这可以患中国”顾炎武称淮安：“南必得而后进取有资，北必得而后饷运无阻”。
  一般来说，在封建社会，一个地区的军事中心，往往成为政治经济文化中心。我们这里重点讲述，山阳县（前身为射阳县）经过魏晋南北朝纷争，如何从一个普通县份成为一地的政治军事文化中心、并被唐代列入全国十大紧州的过程。
  汉高祖六年（-201），刘邦封项伯为射阳侯，立射阳侯国，汉惠帝三年（-192），国除为县。
  东汉建安初，曹操与孙吴相持于江淮之间，曹操为了战争的需要，下令居住在江北沿岸的居民全部撤退。建安五年（200），迁广陵郡治于射阳，陈登为太守，广陵吏民“拔郡随之”。陈登开邗沟西道，自樊梁湖直入白马湖，不再绕道博芝湖和射阳湖。又在射阳县西筑堰三十里，“西为富陵湖，湖西为淮，每淮溢入海，赖此堰障之”，阵登还降伏“海贼薛州之群万有余户”。
  魏黄初五年（224）八月，曹丕兴师伐吴，时吴魏以长江为分界线，魏军由涡河入淮河，再由末口至江边。东吴为疑城假楼，绵延数百里，曹丕见江南势盛，遂退兵。吴孙韶遣高寿率敢死之士500人，抄近路邀击，曹丕大惊，高寿夺其副车、羽盖而还。曹丕还至射阳，时山阳池（一名精湖，疑即后来的管家湖）水已枯，魏军战船数千皆不得行。曹丕遂令镇守广陵郡的尚书蒋济，把战船都烧掉，以免被东吴夺去。
  蒋济回奏，请主上先回来，我会处理此事，曹丕走后，蒋济组织人在行将于涸山阳地中筑五道渠，复在射阳湖筑堤数道，将湖水引入五道渠中，待渠中水满，然后命人将数千战船分别拖到各渠中，各渠亦分梯次筑堰以蓄水，于是战船扬帆入淮，浩浩荡荡驶向魏都，以及曹丕到刚到京，蒋济率船队也到了，曹丕到盛赞蒋济，蒋济创造战争史上成功实现战略撤退的典范。
  晋太康三年（282），广陵郡治由射阳移淮阴，东晋初年（317）还治扬州，射阳县于刘宋间废。
  东晋及宋、齐、梁、陈四朝，南北朝皆以淮河
  为分界线。因而直面清河口的淮阴，控制末口的射阳，及后来崛起于末口的山阳，都成为南朝的边防防重镇的要镇。应该说，东晋大部分时期，淮阴的军事中心地位尤其突出，因而经历了更多的战乱。被称为“北门锁钥”。
  建兴元年（313），司马睿任命祖逖为奋威将军，豫州刺史，给他一千人的口粮，三千匹布，不给铠仗，让他到淮阴开炉铸造兵器，招募壮士，兴师北伐，祖逖短期内招募淮阴子弟二千人，一路势如破竹，不断有百姓参加祖逖的部队，多次打败北方石勒的军队，恢复了黄河以南的土地，后因后援不继而失败，淮阴故城相传有祖逖冶兵处。
  永昌元年（322），王敦反，刘隗镇守淮阴，奉诏入卫，军败。隗至淮阴，为刘遐所袭，隗投奔石勒。
太宁初（323），刘遐为北中郎将，兖州刺史，镇守淮阴，咸和元年（326）卒。以郭默代之，刘遐妹夫田防等不服，欲立刘遐子刘肇代郭默，刘遐妻邵氏止之，不从乃秘密放火，烧甲仗都尽，但朝廷终立刘肇镇守淮阴。
  永和八年（352），以荀羡镇淮阴，屯田于东阳之石鳖，“公私利之”。
  太元三年（378），前秦符坚遣其将俱难、彭超、邵保等步骑七万攻占淮阴，留邵保镇守。太元四年，前秦军在三阿被谢玄击败，彭超退屯淮阴，谢玄遣舟师沿淮河乘潮而上，焚淮桥，又与俱难合战，斩邵保，前秦军遂退出淮阴。
  太元十二年（387），以朱序为青，兖二州刺史，镇淮阴。
  综上所述，东晋年间，淮阴饱受战争创伤及内乱之害，为此，朝廷不得不在末口所在地的山阳，建设另一个边防重镇，义熙四年（408），北魏南侵，“自彭城以南，人民皆保聚于山阳，淮阴诸戍皆不复立，”晋廷使并州刺史刘道怜镇山阳，进号征虏将军，督淮北诸郡军事。
  晋廷这样做，原因有二，一是山阳、淮阴之间有六七十里的缓冲地带，北方军队由泗水南下，淮阴首当其冲，即使淮阴陷落，山阳仍可作为指挥中心和后勤保障基地，从容应对，重新部署战事。二是山阳位于邗沟和淮河的交叉点，保住了山阳，即阻断了北军通向扬州和京城的水路，使北军船队无法由邗沟直攻都城。
  一般说法，山阳建县始于晋义熙七年（411），其实据史书记载，山阳地名早就存在。东晋哀帝隆和元年（362）十二月，“庾希自下邳退屯山阳”。废帝太和四年（369）十月，大司马桓温北伐失利，“温收散卒，屯于山阳”十一月，“大司马温自山阳及会稽王昱会于涂中，将谋后举”。
  元兴元年（404），刘袭兄冀州刺史（刘）轨邀司马休之、刘敬宣，高雅之等共聚山阳，欲起兵攻（桓）玄。义熙二年（406），诸葛长民为青州，徙山阳。义熙六年（410），为镇压徐道复，卢循叛乱，刘裕班师自下邳，“以船运辎重，自率精锐，步归至山阳。”以上记述，都是义熙七年前的事，说明山阳早就有名，义熙七年（411），只是对山阳县的一次确认。当然，义熙七年（411），还有一个重要举措，就是设立山阳郡，辖山阳、左乡、东城、盐城四县。时淮阴县归属临淮郡，治所在海西。山阳郡治所在山阳县，山阳郡的设立，进一步确立山阳的地位，后阳平郡亦寄治山阳，辖泰清、永阳、安宜、丰国四县。宋、齐、梁、陈四朝，山阳郡县并存的格局未变，宋元嘉二十七（450）十二月，魏主拓拔涛起兵攻宋，进至山阳，山阳太守萧僧珍早有准备，他将城外居民及北方流民全部迁入城中，时朝廷运往滑台及盱眙的粮草军器，因前路不通，也都放在山阳城中，时“城内垂万家，战士五千余人”。
  萧僧珍还组织兵民将郡城附近的白水陂畜满水，扬言水灌魏军。魏军得知信息，在山阳不敢停留，放弃了由“高凉王郡出山阳”的计划，转而西向攻打盱眙。魏主两次攻打盱眙，都以失败告终，最后拓拔涛自己也被部下所杀。
  此魏不敢进攻山阳，说明山阳城池的坚固。“城内垂万家”更显得城市的繁荣，须知山阳立郡时，全郡才二千八百一十四户，现时光山阳县城就近万户，是原来全郡户数的三倍多，实在令人惊叹。
宋泰始二年（466），徐州刺史薛安都等拥立晋王受挫，逐反。三年，围攻山阳，山阳太守程天祚降。萧道成（以为齐高帝）以冠军将军的名义，特节都督北讨前锋诸军事，镇守淮阴。
  肃道成击败薛安都及其侄索儿。晋廷立北兖州于淮阴，淮阴复为重镇，齐建元四年（482），朝廷将北兖州治州所由淮阴移置盱眙。是后兖州或治盱眙，或治出阳。
  齐建元三年（481），北朝魏军功淮阴，齐遣领军将军、山阳太守李安民与军主周盘龙一周抵御，周盘龙率子周奉叔疾行至淮阴，未及休息，即率二百人冲入淮北敌阵，左冲右突，杀敌无数，”魏数万之众莫敢当者“魏师遂退，都督兼山阳太守李安民又引兵追之，战于孙溪渚，又获太胜，后用盘龙任东平太守（属北兖州）。
  此间，南朝曾组织多次北伐，均无功而返退回淮阴，淮阴由于山阳的支撑，北朝始终未能踏入淮南一步，后淮阴亦多次成为州、郡治所。
  梁武帝太清二年（548），南朝发生侯景之乱。
  梁武帝愤恨而死之后，侯景别立简文帝，江北数郡皆降侯景，山阳太守萧邺弃城走，兖州（淮阴）刺史萧祗出奔东魏，侯景派心腹萧弄障接管兖州，州民组织起来，协同士兵严守城门，拒绝萧弄璋入境，侯景派直阁将军羊海率兵助萧弄璋，谁知羊海乃以全部人马投奔东魏，东魏遂占有淮阴、山阳。直至陈太建五年（573），大将吴明彻率师北伐，由繁梁湖入淮河，突然包困淮阴城，”淮泗义兵相率响应，一二日间繁众数万，遂克淮阴、山阳、盐城三郡”。
  隋将山阳，淮阴并为山阳县，属江都郡（开皇初废山阳郡，开皇十二年[592]，置楚州，大业初，州废。开皇元年[581]废淮阴郡，并立楚州，大业初，州废，县并入山阳），这应该是淮阴首入山阳。
  唐建楚州，治山阳。武德四年（621），复置淮阴县，武德七年，再并入山阳。这是淮阴第二次并入山阳，唐立楚州为全国十大紧州之一，紧，意味着地理位置重要，地域较大人品众多，经济开发程度较高。
  综上所述，山阳县兴起于东晋，终过东晋及南朝短短二百年时间，就演变灾煌煌都市——楚州。    
  由于地理位置的优势，和人民的勤劳、勇敢，邗沟带给山阳县的不仅是经济、文化、社会发展以及人员交流的方便，战略地位的重要性也成为了山阳发展的重要原因。