“卫”是源于明朝洪武年间设立的都司、卫、所制度，始由明太祖朱元璋所创，其构想来自隋唐时期的府兵制度。《辞海》亦有对卫所的记载，即明初之时在京师以及要害之地设卫所，屯驻军队。以数府划为一个防区设卫，下设千户所和百户所。五千六百人称卫，一千一百二十人称千户所，一百二十人称百户所。军士均有军籍，世袭罔替。主力屯田，其余驻防，军饷主要由屯田收入自给。卫的军事主官称为指挥使，明朝时为正三品武官职，卫、所、千户、百户分属各省都指挥司署管理，统由中央的五军都督府分别管辖。卫所制为明朝的最主要军事制度，是明代的地方军事机构。通常一府设所，几府设卫，在不设府、州、县的地区也兼理民事，具有行政职能，也成为明朝地方行政制度的一个组成部分。在明朝初年设卫时起，淮安府境在设有道、府以及总兵的情况下，一府之内连设三卫，即淮安卫、大河卫和邳州卫，其中前二卫均置于淮安城中，尤显淮安城在封建时期的重要地位。

卫所制是明朝最主要的军制，其中军户一为前朝军户，二为明朝现役军人之户，此项政策在洪武二十一年（1388）黄册编造之后加以确立。军户需有一男丁赴卫参军，称作正军，其余称余丁或军余。正军免全部差役，因正军参军需有一名军余陪同，照料其生活，所以军营内军余亦可免差役，以保障其生活。正军服役之时，妻子必须随军并生儿育女，用安定生活的方式来稳定正军服役。每名军人亦有房、田，固定有月粮，衣装自备，武器自产。所有现役军人，分屯田和守备两类，屯田需固定上缴粮食，以供给守备军日常，此做法可以养兵千日而不消耗国家财力。如若军中正军离世，即以其户中壮丁弥补，但实因军人生活艰辛困苦，逃兵甚多，又有根补、勾补之法。根补即抓回逃兵，勾补则为其户中以其他壮丁补缺。但实际当中，军人的逃亡，也与其社会地位高低有关。明朝初年，为了巩固统治阶级的政权，相对重视军队。但政权相对平稳、巩固之后，军人地位就大为降低，加之以罪犯充军，军队的总体素质也随之大大降低。相对而言，淮安卫和大河卫在淮安城内的建立，以及随部队迁徙来的数万军民，对恢复因元末动乱造成的淮安城市破败以及解决民生问题起到了不可磨灭的作用。据明正德《淮安府志·卷十·兵戎》中载：“甲兵，淮安卫：守城操练官军八百五十六员名，管操指挥一员，千百户共七员，军余五百五十名。岁造兵器六千四十件。”又载：“大河卫，守城操练官军一千五百三十员名，管操指挥一员，千百户共九员，额军舍余三百四名，军余一千二百一十七名。岁造兵器六千四十件。”乾隆《淮安府志·卷十二·赋役》中还载，淮安卫：“原额户口军丁六千七百二十名，内除逃亡、故绝军丁五千七十四名，实存当差屯丁一千六百四十八六（不纳丁银）。额外清出军舍三百七十四名，共屯田军舍二千二十名（该军舍丁银七十五两五钱）。节前增丁一千二百二十四名，增丁银、月粮银十九两二钱七分二厘五毫零。今订实在屯丁、军舍三千二百四十四名……”大河卫：“原额户口军丁八千九百七十丁，内除逃亡、故绝军丁四千八百四十九丁，又除运粮军丁三千二百六十三丁、门军四十丁，系出力不纳丁银外，止存军丁八百一十八丁，又于康熙三十三年（1694）清出减丁三百四十六丁。今订实在纳银军丁一千一百六十四丁，内中则军丁五十二名，每名纳银三钱，下则军丁一千一百一十二名，每名纳银二钱，共征丁银二百三十八两。”乾隆《淮安府志·卷十二·赋役·淮安卫田赋》中还统计得淮安卫：“原编田地八百一十顷五十九亩二分三厘，实征银三千六百四十二两四钱八分六厘五毫零。本色麦、米、豆一千二百二十石四斗九升八合五勺零。”

明朝初年朝廷始设之淮安卫指挥司署，位于在淮安府署南侧，即沿用元朝淮安路总管府建筑。据南宋嘉定《山阳志》载，此处官署建筑始建于宋乾道六年（1170），由录事陈敏兴修。至元朝至元癸巳年，郡守阿思对府署进行重修。元朝至正二十六年（1366），明太祖朱元璋攻克淮安，任命以国辅运推诚宣力武臣、荣禄大夫、大将华云龙为指挥使，敕封淮安侯，统兵镇守淮安。指挥使因系明改革元代第一官，据考证《明史》中明太祖取淮安年份，以及设立指挥之始，以华云龙为明代职官第一人。其入淮安后，以元淮安路总管府府署为治。明朝洪武九年（1376），指挥徐哲加以修葺，景泰五年（1454），指挥丁裕重建门厅九间。成化五年（1479）复修正堂和后堂，弘治十二年（1499），署内正堂与经历司毁，正德元年（1506），指挥王雄重建仪门三间、正堂五间、后堂五间、耳房四间、司房东西各十间、架阁库二间、东西夹室各三间、经历厅三间。卫镇抚在大门之东，元朝时为录事司，建有大门一座、正厅三间、司房东西二间、监房二十一间。其余左、右、前、后、中左、中右六千户所均在淮安卫东，各有正厅三间，以及左右厢房六间。其他如旗纛庙在卫东，谯楼在卫大门前，还有制造军器局在卫署西南，有正厅三间、造作房五十间、库房三十六间，还在淮安城南门外二里有校场一处，成化年间开设，有演武厅三间、厢房左右各三间，后厅三间、将台一座，牌楼一座。至万历七年（1579），设漕抚衙门于此，淮安卫指挥司署迁至青龙桥东侧，隍庙以东的原都察院内。依秩按例设中左、中右、左、右、前、后六千户所，原系八所，分二所于海州。据乾隆《淮安府志·卷九·漕运》中记载，淮安卫：“原额屯田七百五十一顷四亩五分有奇，内除水冲堤占田二百六十四顷八十九亩六分二厘，又除康熙三十二年（1693）蠲豁挖废田四十五顷二十三亩九分有奇，实存屯样田四百四十顷九十亩九分五厘六毫。”其余，“赡运果园地二百七十二顷九十四亩”、“赡运屋基地六顷一十七亩二分”、“荒熟田一十二顷九十四亩六分有奇”，“续清出荒熟田并升科田三十二顷三十八亩四分五厘”。以上人丁、田地两项，可实际征得米、麦、豆一千一百八石七斗三升六合之多，实际征银三千五百六十九两九分六厘，外按船计丁征收月粮银四两四钱七分二厘，共计实际征银三千五百七十三两五钱六分八厘。淮安卫屯样田主要位于淮安府首县山阳以及阜宁、安东三县境内，共有十五屯伍以及马草场一处。淮安卫直属朝廷中军都督府，编制千人，年造兵器六千余件，屯田千顷。明朝初年淮安卫设指挥使一员，指挥同知二员，指挥佥事四员，卫镇抚一员，经历一员，知事一员，六所共正千户六员、副千户十二员、所镇抚二员，百户十员。至清朝，淮安卫指挥司署改为淮安卫守备署，设输运千总八员、随帮百总四员，又改所为头帮、二帮、附载帮。康熙三年（1664），淮安卫划归江南都司管辖。康熙十八年（1679），淮安卫归并邳州卫前后两帮为四帮、五帮。康熙十七年（1678），朝廷归并卫地，将淮安卫官奉旨裁撤。康熙十八年（1679），三院会题后复留，并监管邳州卫事。额设守卫淮安旧城四门以及联城东西二门门军共计五十八名，楼军一名。原设军器局在淮安卫旧署西南，后改为察院，此时并于总督漕运署之内。雍正三年（1725），江南都司奉旨裁撤，淮安卫归属江安粮道管辖，一切钱粮解赴江苏布政使司、江安督粮道两署。淮安卫军中，头帮兑运苏州、常州二府漕粮；二帮兑运淮安府、海州所属漕粮；四帮兑运淮安府，邳、海二州所属漕粮；五帮兑运苏州府属漕粮。实际在役兑运官兵丁共计一千九百三十名，运转船只一百九十三艘，但实际拥有船只数，据记载近四百艘，年运输漕粮十万余石。

大河卫是于明朝初年于淮安卫并设，其官署位于淮安新城颁春坊，址于旧太清观基。明洪武二年（1369），大河卫指挥使毕寅在此创建。洪武十年（1376），指挥时禹增修。后年久失修，正德初年指挥崔恩进行重修。卫署建有前门一间、仪门三间、正厅五间、后厅五间、司房东西各七间、穿廊三间、厨房三间、经历厅三间、后厅三间、穿廊三间。卫镇抚在仪门外西侧，建有仪门三间，正厅三间，司房二间，库房一间，监房九间。其左、右、中、前、后、中左、中右、中前八千户所在卫署仪门东西，各建有仪门一间，正厅三间以及司房、库房各五间。造作军器局正厅三间、造作房六间、库房九间。大河卫原有校场在新城南门外，后废除，附于淮安卫教场。原设有指挥使一名，指挥同知二名，指挥佥事四名，卫镇抚一名，经历一名，知事一名，八所正千户八名，副千户十六名，所镇抚二名以及百户十名。据乾隆《淮安府志·卷十二·赋役》中记载，大河卫“原额屯样田一千四百三十二顷九十三亩八分有奇，除去堤工挖废田一百六十七顷一十七亩四分有奇，实在田地一千七百七十二顷五十九亩三分又奇。内屯田一百六十四顷五十亩。屯田八顷。赡运果园等田一百二十七顷五十一亩三分二厘。赡运荒田六百七十三顷四十七亩四分有奇。赡运熟田五百二十五顷六十六亩五分有奇。中等所屯田二百七十三顷四十四亩一分有奇。以上人丁、田地二项，共征折色银三千五百六十九两七钱九分八厘有奇……”大河卫屯样田均位于阜宁、清河、桃源以及安东、沭阳五县，共计二十三屯伍。明朝末年，大河卫指挥使司署改为藩镇府。至清朝之时，改大河卫指挥使司署为大河卫守备署，设输运千总三名，随帮百总三名，又改所为前帮、二帮、三帮。顺治三年（1646），署被改为总理漕储部堂衙门，后毁以民房修葺后为衙署，在新城中右所。设有左、右、中、前、后、中左、中右、中前八千户所。康熙三年（1664），大河卫划归江南都司管辖。康熙四十一年（1702），动用杂款钱粮购得民房使用，后又售出归还动用之款项。乾隆二年（1737），政府拨王天一官方居住。乾隆三年（1738），因与新城卫丁相隔甚远，输粮不便，仍按原估官房价格，于新城中右所附近置民房，修葺以作大河卫衙署。雍正三年（1725），江南都司奉旨裁撤，大河卫归属江安粮道管辖，一切钱粮解赴江苏布政使司、江安督粮道两署。至雍正十三年（1735），前帮兑运淮安府、海州所属漕粮。二帮兑运常州府所属漕粮。三帮兑运苏州、常州二府所属漕粮，共计运输官兵一千七百四十三名，船只一百七十四只。此外额设淮安新城五门以及联城天衢一门门军共四十名，原大河卫所设军器局废止后附于淮安卫。校场位于新城南门外，始建之时，淮安旧城与新城之间尚未建造联城，就是校场还有演武厅三间、东西厢房各三间，后厅三间。此外大河卫还设有武学，位于淮安新城大街大河卫右方，明初建立，是为培养卫属人员军事技能的专科学校。

淮安城中两卫在一定区域、范围之内实行行政管辖。两卫所属，卫属不仅有军人还有百姓、田地、贡赋，有学校、城隍庙、厉坛以及祭祀之所。其中军民在卫内拥有有别于地方的的户籍。即淮安卫籍和大河卫籍。淮安城内两卫于光绪二十八年（1912）奉旨裁撤，此时淮安卫尚存屯田四百四十顷九十亩，大河卫存屯田一千七百七十二顷五十亩。卫撤后，全部土地、人员均转业地方。封建王朝统治阶级不惜耗费巨大的人力、财力，精心打造的拥有战略位置的淮安城，从此从极高的战略位置被搁置。日后，淮安只以其城池最为高大坚固、易守难攻、驻军人数颇多等原因，共同组成了“铁打淮安城”的口碑，流传后世。