一、是改变魏吴战场荒凉景象的需要
  山阳郡及其辖县位于苏北平原中部，其地在三国时乃魏吴战争场所。战争造成的荒凉景象，在战后几十年内依然存在，直至东晋义熙间始有改变。不信，请看以下记载：
  《三国志•蒋济传》云：“明年（建安十四年，公元209年），使于谯。太祖（指曹操）问济曰：昔孤与袁本初对官渡，徙燕白马民，民不得走，贼亦不敢钞。今欲徙淮南民如何？济对曰：“是时兵弱（迂疾疫）贼强，不徙，必失之。自破袁绍，北拔柳城，南向汉江，荆州交臂，威震天下，民无他志。然百姓怀土，实不乐徙，惧必不安。太祖不从，而江淮间十余万众皆惊走吴。”
  天启《淮安府志》云：“三国一魏，淮之南北皆徐州，统广陵、治淮阴。瑯琊、东莞（今宿迁）、东海、东安（今海州）、下邳为南徐诸郡，吴曰屯重兵以备吴，而吴亦城广陵以窥徐，由是空淮南北数百里之地，更无人居。”
  乾隆《山阳县志》云：“三国一魏，淮南北皆属徐州，广陵郡治淮阴。考三国志，建安十四年，魏武欲徙淮南民，民转相惊恐，江淮间十余万众尽走入吴，由是空淮南北数  百里无人居，是此地五六十年间竟成瓯脱矣。”“宋书•书：三国时江淮为战争之地，其间数百里虚无民户。吴平，民还本地，故复立焉。射阳，三国时废，太康二年（公元281年）复立。又广陵太守，武帝太康三年治淮阴故城，后又治射阳，江左治广陵。又射阳县，元帝侨置江南，安帝义熙中复以其地置山阳县，山阳之名于是始。”
  《山阳志遗》云：“三国志•吴，孙韶为广陵太守，徙徐、泗江淮之地，不居者各数百里。通典：广陵初属魏，为重镇，后属吴。孙亮孙兴三年（应为建兴三年，公元254年）城广陵。宋书地理志：射阳、盐渎、江都、海陵、高邮等县，三国时俱废。又云：三国时，江淮为战争之地，其间不居者各数百里。淮南虚其地，无复民户。吴平，民各还本土，故复立。又三国志蒋济传：建安十四年，太祖欲徙淮南民，济曰：百姓怀土，惧必不安。不听。民转相惊恐，江淮间十余万众尽走入吴，地遂空。由是观之，三国时，吾郡城廓未建，且数十年无居人，其荒寂可胜叹哉！”
  二、是加强东晋政权建设和巩固边防的需要
  东晋十六国时期，东晋政权统辖江淮以南广大地区。其东北边境（山阳郡所在地）常受到后赵和南燕的威胁。以下记载就是明证：
  1、《十六国春秋•后赵录》云：赵王四年（晋元帝永昌元年，公元322年）复四月，晋镇北将军刘隗降勒。赵王五年（晋明帝太守元年，公元323年）春三月，勒寇彭城、下邳，徐州刺史卞敦与征北将军王邃退保盱眙。赵王七年（晋明帝太守三年，公元325年）五月，司州刺史李矩、颖川太守郭默军数败，又乏食，乃遣使附于赵。六月，矩又率众自荥阳循归。矩长史崔宣率众二千降勒，于是尽有司、兖、豫三州之地，青、徐滨淮诸郡县皆来降附。
  2、《晋书•明帝纪》云：“太宁元年（公元323年）三月，石勒攻陷下邳，徐州刺史卞敦退保盱眙。八月，石勒将石季龙攻陷青州，刺史曹嶷遇害。二年（324年）春正月，石勒将石季龙寇兖州，刺史刘遐自彭城退保泗口。”“太宁三年（325年）夏四月，石勒将石良寇兖州，刺史檀赟力战死之，将军李矩等并众溃而归。石勒尽陷司、兖、豫三州之地。
  3、《淮阴史事编年》云：“325年（太宁三年），后赵兵屡次南攻，晋淮北诸将或败或叛，司、豫、徐、兖等州几全为后赵所有，遂与晋以淮为界。
  4、《南齐书•州郡志》云：“义熙二年（406年），诸葛长民为青州〔刺史〕，徙山阳。时鲜卑接境，长民表云：‘此蕃十载，故相袭，城池崩毁，荒旧散伏，边疆诸戍，不闻鸡犬。且犬羊侵暴，抄掠滋甚。’乃还镇京口。”
  5、《宋书•刘道怜传》云：“义熙四年（408年），鲜卑（指南燕慕容超）侵逼，自彭城以南，民皆保聚山阳，淮阴诸戍并不复立。道怜（并州刺史、刘裕弟）请据彭城，以渐修创。朝议：以彭城县远，使镇山阳，进号征虏将军，督淮北军郡事，北东海太守、并州刺史、义昌太守如故。”