书院之设立，始于唐宋。伴随官学的设立，淮安书院、社学、义学、武学相继出现在城内外。一些书院，一时著名。明清时期，淮安城是漕运总督坐镇之地，作育人才更是兴盛。淮阴书院是淮安城内颇为著名的书院之一，兴盛之时有生员百数十人，《淮阴书院记》中称“淮阴之盛不异于省会之区也”位于淮安城西南天妃宫后，旧时有君子堂为讲堂，有环号舍十五间，供学习者居住。乾隆六年（1741），漕运总督常安命淮安知府李璋在此建书院，袭淮安古称，名为淮阴书院，士绅捐金四百两，周以廊庑，造桥立亭，以资束修膏火，以此淮阴书院建成。乾隆七年（1742），漕运总督顾琮、淮安知府傅桩益振兴此，延先达之有道而文者为诸生师。乾隆十年（1745），淮安知府卫哲治、山阳知县金秉祚遴选生童，勤加省试。提调事务者为府学教授沈惊远，训导汪克绍。徐州、扬州二府众多学士自远而至，济济弦诵，堪称极盛。漕运总督常安有记。淮安向来人文荟萃，文人名士多会聚会于淮阴书院，书院有数十人组成的七艺社，每季会于书院，操觚角艺，夜以继日。四方游观者咏歌八景，传其胜概。《淮阴书院记》中还称其“无城市之喧嚣，而有藏修息游之乐，于以成天下善士不难矣”。
  明洪武八年（1375），朱元璋诏立社学，教化民间弟子。实际淮安城早有社学，而费多存少。自明朝洪武年间兴学开始，又逐步兴盛。山阳县社学共计有六十五所，分别位于淮安城内东南、西南、东北、西北，新城东南、新城西北、北辰坊三处，城外满坊、安乐关厢各二处，南锁、柳淮、淮北三关厢各三，大义、淮北、柳淮、安乐四乡各二，马逻、羊寨、添差三乡各四，辛店南、北二乡各五，淮阴（今淮安区）南北二乡各四。明隆庆六年（1572），山阳知县高时重修县内各处社学。清康熙初年，江南学政胡在恪岁试淮安，奉部文，考取社师数十人以教社学子弟。淮安府内除首县山阳外，又在盐城、庙湾、清河、桃源以及安东设有多处社学，教育子弟。康熙年间，礼部下文，于省、府、州、县设立义学，延名师，供修脯，立规则，课余之时宣明圣谕。时任漕运总督兴永朝对此事尤为重视，于康熙三十二年（1693），在淮安城中首创义学四所，此时学徒最盛。康熙三十三年（1694）兴永朝迁职之时，童生哭送总督离淮安，一直传颂于淮安城内。兴永朝在城内创建的四所义学，一为秋礼堂，由总督漕运部院督察并监管，位于总督漕运部院西南隅南市桥北，雍正九年（1730），由漕运总督性桂重修。二为春诵堂，由淮扬道署督察并监管，位于总督漕运部院之东二郎庙南侧。三为冬书堂，由淮安府署督察并监管，位于高公桥大军仓西，乾隆五年（1740）淮安知府胡振组有修。
  至乾隆十一年（1746），淮安知府卫哲治重修。四位夏弦堂，由山阳县署督察并监管，位于淮安西城常平仓之东三牌楼。武学主是我国古代的军事学校，始于北宋。庆历三年（1043）五月，朝廷置武学于武成王庙，武成王庙主要祭祀武成王太公，并从祀十贤，即管仲、孙武、范蠡、田穰苴、乐毅、张良、韩信、诸葛亮、李靖、郭子仪。此外，驻守淮安的两处卫级军事机构均设立武学，即淮安卫武学和大河卫武学。淮安卫武学位于淮安城东南明臣祠左，明朝初年建立，有泮池一方，砖桥一座，大门一间、二门一间，正殿五间，两庑各建有厢房八间。清时有武学官蔡时春、周世英等人。大河卫武学位于淮安新城大街大河卫右，明朝初年建，有大门一间，正殿五间，两庑厢房共计十间。至乾隆年间，武学官有陈栋、蔡纯臣、徐世选等人。
  科举制发展到清末，日趋没落，弊端也越来越多，虽然朝廷对科场舞弊的处分相当严厉，但由于科举制本身的弊病以及舞弊越演愈烈，最终导致消亡。光绪二十九年（1903），由政务处大臣张百熙、经济特科阅卷大臣张之洞、会试副考官（充）荣庆等人奏拟，清廷颁布了我国历史上第一套学校正式课程《奏定学堂章程》，其中明确了学校的教育制度，并规定了各级学校的课程，因处癸卯年，又称《癸卯学制》。除规定学制外，还设《学校管理法》、《教授法》、《学校设置办法》等管理法规，制定了《学务纲要》、《大学堂章程》、《通儒院章程》、《优级师范学堂章程》、《初级师范学堂章程》、《实业教育讲习所章程》、《各学堂管理通则》、《任用教员章程》、《各学堂奖励章程》等。规定教育年限，学徒自六岁入学，九年小学、五年中学，高等学堂及大学堂六至七年，至辛亥革命后废止。《癸卯学制》是中国近代首个以教育法令形式公布并全国实行的学制，明确的初等教育、中等教育、高等教育阶段划分，对课程设置、教育行政及学校管理等作了明确规定，也对中国后来的教育起到深远影响。淮安此时应随变革，儒学废除，学堂兴起。仅城内外新设、改建各类学堂约有百所，名列周边属县前茅。除各阶段文科学堂外，淮安在裁撤的漕运总督部院旧址，由江北提督刘永庆奏请创办了官立江北陆军学堂，设步兵、马兵、工兵、辎重等科，定额学生二百名，首年授普通军事学，次年授专业军事学，并实行野外操演、作战计划。三年毕业。清末废除科举，改革教育制度后，新的教育制度代替了传统科举制度，此后淮安府儒学功能丧失，其建筑也逐步改为他用，淮安府儒学渐渐地从封建时期兴盛的科举教育制度的载体变成了淮安漫长教育变迁的历史，淡出人们的视线。
  今址淮安府儒学泮池仍存，高大的“宫墙数仞”照壁修葺如故，还有零散存在的府学建筑，还仍然记载着淮安封建时期儒学教育的鼎盛。