古今史志和有关文献对山阳名称的由来说法有四种：
  一、“因山而名”之说
  《钵池山志•叙》云：“淮安旧县治曰山阳，以位于钵池山南而名焉者也。”
  《淮安艺文志》载朱涵《钵池山炼丹台仙迹记》云：“郡城西北二十里，有山曰钵池，盘纡凹曲，形若钵盂。”“邑在山之南，故以山阳名焉。”
  《淮安县地名录》云：“东晋安帝义熙七年（公元411年）设山阳郡，治山阳县，因西北曾有钵池山，故名山阳。”
  乾隆《山阳县志》中，张检讨鸿烈曰：“至於寰宇内山阳凡四：在河内者，太行山之阳；在兖州者，泰山之阳；在陕西者，商山之阳；其淮安山阳，或谓指钵池山而言。予谓太行、泰山、商山，乃天下名山。钵池山，一年阜耳，安得指此名县耶？”
  钵池山究竟是怎样的山呢？
  《明一统志》云：“钵池山，在府城西一十五里，形如钵盂。故老云：昔仙人王乔（周灵王太子晋，字子乔）炼丹于此。山中一方土赤，草木不生，是其验也。”
  《钦定大清一统志》云：“钵池山，在山阳县西北十五里，以形似名。冈阜盘旋，凡八九里。杜光庭七十二福地，此其一也。今堤此，以御河患。”
  同治《山阳县志》云：“钵池山，在治西北十五里，冈阜盘纡，外高中凹，形如钵盂。唐杜光庭《洞天福地记》载：此山为七十二福地之一。相传王子乔炼丹于此，丹台、丹井，皆在其下。台旁有祠，杞子乔像。邑人朱涵为之记。”
  《淮阴城镇史话》对钵池山的概况及其消逝原因作了比较详细的介绍。钵池山原是一个“附培楼之末”的冈阜，漫山赤砂，却无片石。“周匝可十里许，环以水”，形如钵盂，因而得名。过去山上古迹很多，有传为王子乔炼丹的丹台、丹灶及弃丹的丹井，有专祠王子乔的显真亭，山子湖心有爱莲亭，还有隐士的住宅、名流的陵墓点缀其间。最值得一提的是，山阳还有建于宋末的景慧寺。该寺“背淮面湖，境最清旷。”寺的规模一度很大，有山门、钟楼、鼓楼、天王殿、大雄宝殿、伽兰堂、祖师堂、法堂、异庐阁、藏经楼、宝塔及僧众饭食起居的处所等。“城北红楼望里开，萝松柏似天台。”站在淮安城北门，就可望见景慧寺的红楼重叠、藤萝含烟。而山为水环，鱼鸟嬉戏，此境直如蓬莱仙境。山上的乾元道院也很有名。乾元道院毁圮后，又建有三元宫。然道佛并存一弹丸小山，却颇有些不伦不类的。遗憾的是，乾隆三十九年（1774年）黄河暴涨，在老坝口决溢，【注：道光元年（1821年）曹镳著《淮城信今录》卷五云：“乾隆三十九年八月十九日卯时黄河老坝口溃。”】汹涌的浊流直泻东南，水入马家荡、射阳湖和淮安三城，板闸及河下湖嘴一带水深及檐。待决口堵塞，洪水消退，当其冲途的钵池山，已只剩下一个高土坎了。可怜历代经营、历时千年的古迹、古刹同时毁于一旦，而环山的山子湖则淤为平陆。钵池山的赤砂是很好的建筑材料，近几十年来，由于滥采滥挖，把大水后尚存的那点高土坎也夷为平地。所以，现在的钵池山，只能比划其方位，而寻不出什么痕迹了。
  二、“因水而名”之说
  乾隆《山阳县志》在【辨讹】中称：“此地旧为淮阴、射阳二县地，晋安帝义熙中始置山阳郡，县亦同时并立。自晋以前，此地不称山阳。虽有山阳池、山阳渎、山阳湾之名，而未尝以名郡县。”在【古迹】中称：“山阳池，三国志蒋济传：魏文帝欲烧战舰于山阳津者是也。亦曰津湖，亦曰山阳渎。至晋义熙间，始立为郡县，盖以水名为地名，欲存其遗迹耳。”
  同治《山阳县志》在【古迹】中云：“旧志，淮水由清口经甘罗城达清江浦，至相家湾，趋柳浦湾，迤逦迂折，即古山阳湾也，一名山阳渡，一名山阳津。”在【杂记】中按：“山阳池，通鉴引作湖。戴延之西征记又作山阳津，实一水也。”
  顾祖禹《读史方舆纪要》云：“义熙中置县，为山阳郡治，以境内有山阳津而名。”并引戴延之《西征记》曰：“县有山阳津，晋因以名郡。”
  吴玉搢《山阳志遗》云：“吾淮在汉魏时，东南有射阳县，西北有淮阴县。由淮阴以至射阳，中间相距百余里，元城廓井市，有大泽，名山阳池，又名精湖。三国志蒋济传：魏文帝伐吴还，惧战舰为吴所得，欲烧船于山阳池。蒋济尽驱船入池，又别开地四五道，使船入淮。帝嘉其功。一池之中，可容战舰数千，又别凿地四五道，其宽广可知。山阳池正当今郡城左右。”“东晋末，安帝义熙中，乃于此建立郡县。”“其以山阳名者，当是以故水名为郡县名，如钜野县之因钜野泽，云梦县之因云梦泽，存其旧，以志不忘耳。”
  天启《淮安府志》曾云：“然则山阳之为县，亦犹云梦之为云梦县，钜野之为钜野县，以故以水为县名，欲存其遗迹耳。
  以上各种水名（山阳池、山阳湖、山阳津、精湖、山阳渎、山阳湾、山阳渡），按照有关文献的说法，似乎是同一水域的不同名称，其实未必尽然。比如“津湖”（山阳津、精湖）与“山阳池”就不是一回事。人们可以从《宝应图经》的几幅附图和“邗沟十三变”的文字中清楚地看出：（1）山阳池位于山阳郡城所在区域，其东北与末口相连；（2）汉时山阳池面积与白马湖不相上下，唯池形近园，湖形较扁（东西长、南北短）；（3）三国时山阳池面积缩小约五分之二；（4）西晋时山阳池已淤涸；（5）津湖位于白马湖以南，汉时面积约为山阳池之半，湖形椭园（南北长、东西短）。元时津湖改称界首湖。不过，以上各种水名，论其地理位置，都在山阳郡县辖境之内
  三、“因地而名”之说
  北宋《太平寰宇记》曰：“晋义熙元年省射阳县，置山阳郡，属滁州（考宋书州郡志，其时属徐州），又立山阳县以隶焉。以境内有地名山阳，因名郡。”
  《宋书•州郡志》曰：“山阳令，射阳县境，地名山阳，与郡俱立。”
  《资治通鉴》卷七十注引宋白曰：“楚州山阳县，本射阳县地，晋义熙置山阳郡及山阳县，以境内有地名山阳，因以为名。”
  南宋《方舆胜览》云：“郡名山阳，境内有地名山阳。”
  《明一统志》云：“晋末立山阳郡，以境内有地曰山阳，故名。”
  天启《淮安府志》在“晋淮南为广陵郡，安帝时立山阳郡”一语后注“实质云：以境内有地名山阳，故名。”
  乾隆《山阳县志》中，张检讨鸿烈曰：“及考宋志，乃知山阳者，本境内地名，千百年沿革，始昭然若发蒙矣。”
  上述诸文献之所以共称“境内有地名山阳”是山阳郡县名称的由来，主要因为山阳郡县设置之前几十年内，“山阳”作为地名已与不少军政要事联系在一起。例如：
  1、晋明帝太宁三年（35年），郗鉴为兖州〔刺史〕，镇广陵，后还京口。是后兖州或治盱眙，或治山阳。（见《南齐书•州郡志》）
  2、晋哀帝隆和元年（362年），北中郎将瘐希助陈祐守洛阳，十二月，瘐希自下邳退屯山阳。（见《十六国春秋》）
  3、晋废帝（海西公）太和四年（369年）冬十月己巳，大司马〔桓〕温收散卒，屯于山阳。（见《资治通鉴》晋纪二十四）
  4、晋安帝元兴三年（404年），刘裕以诸葛长民都督淮北诸军事，镇山阳。（见《资治通鉴》晋纪三十五）
    四、“因人而名”之说
  唐《杜氏通典》云：“山阳县，汉射阳县地，晋立山阳郡。或云汉吴王濞反于广陵，山阳王率众于此拒之，因以山阳为名。”
  北宋《太平寰宇记》云：“汉吴王濞反于广陵，山阳王率众于此拒之，因名山阳，以旌忠也。”
  乾隆《山阳县志•辨讹》云：“通典谓吴王濞反，山阳王率众于此拒之，因名。按：汉有两山阳王：—元帝之子名康，与吴楚反时绝不相及；一梁孝王之子名定，景帝中〔元〕六年（公元前144年）立为山阳王，亦后于吴楚反时十年。吴楚反，乃梁孝王以兵捍之。孝王在，诸子固未尝王，且吴初起兵于广陵，西涉淮，并将楚兵破梁于剌璧，未闻有人拒之于射阳者，年分与地，俱不符合。”（吴玉搢《山阳志遗》所云与此间）
  《钦定大清一统态》在介绍淮安府古迹“山阳旧城”之后按语：“太平寰宇记谓汉山阳王率众拒吴濞于此，因名其地为山阳。共说本之通典。今考濞反时，汉无山阳王。梁孝王之子名定，立在后此十年，于事不合。今汉建武十五年封子荆为山阳公，山阳之名盖本此也。”
  北宋《舆地广记》云：“山阳县，本汉射阳县，属临淮郡。东汉建武十五年，封子荆为山阳公，治此。十七年为王国，后属广陵郡，晋因之。义熙七年置山阳郡，改射阳县为山阳县。”
  乾隆《山阳县志•辨讹》云：“郡城有都土地祠，其神封山阳公，本不必实有其人。俗因曹丕奉汉献帝为山阳公，遂以为神即献帝。不知后汉书献帝纪注明言河内山阳，何得妄指此地。旧志亦知此说之非，乃云汉查祖建武十五年封子荆为山阳公，治山阳，十七年为王国。按：此说见于郦道元水经注，宜若可据，而实非也。光武时，此地郡县，并未有山阳之名。建武十五年封皇子十人，如右翊、楚、东海、济南、东平、淮阳、临淮、左翊、瑯琊九处，非郡即县。何独子荆乃封以非郡非县之山阳？盖道元因明帝本纪永平元（公元58年）徙山阳王荆为广陵王，山阳、广陵接壤，遂以建武之山阳移之义熙之山阳耳。荆之所封，实兖州山阳，见后汉书注。”
  综观以上四说，乃知山阳郡县之名，实源于地名，地名又源于水名。“山阳”作为地名，其所以到东晋初始见于史，是因其地乃山阳池在西晋时淤涸后形成的陆地。而山阳郡县治所，正是一百多年前淤涸了的山阳池所在。山阳地名和水名，皆因位于钵池山之南而起。若无钵池山，则该地即不会有山阳之名。至于“因人而名”之说，乃前人猜度、附会、以讹传讹所致，毋足信也。