1898年到1902年间，东文学堂如雨后春笋，纷纷诞生，掀起了创办日语教育的一个高潮。第一家有影响的专业日文学堂是罗振玉等人兴办的上海东文学社。“此社之立，由同志君子集资为之，多寡皆拜惠凡有志赞成者。”开办之时，社址在上海新马路梅福里（今黄河路、凤阳路口）农学报馆对门萃报馆内。1898年2月26日（夏历二月初六），东文学社正式开学。
  东文学社的创设宗旨，《东文学社社章》说得很明确：“日本同处一洲，而研习其语言文字者顾寥寥焉。彼都认识莅止中国，中国士夫往往不能与通姓字；彼国书籍流传中国，中国士夫往往不能通数行。不便孰甚。蒙等不揣固陋，创立学社以为之倡，但见闻浅陋，资力未充，尚冀同仁襄成此举。”开办的原因，在罗振玉的以实用主义为目的的“取法日本”思想指导下，《东文学社社章》指出：“因将来中东交涉之事，必繁而通东文者甚少故；因译书译报动须远聘故；因中东人士语言不能相通，将来游历交接种种不便故。”很显然，“培养通晓日文、日语人才及翻译日文书报人员”是为了给中国培养更多的翻译外国农书的人才。
  该校起初是1898年农历正月由吴县蒋黼、溧阳狄葆贤、钱塘汪康年、山阳邱宪、上虞罗振玉共同创办的。学社实行理事负责制，凡社事一切事由其主持，包括负责改定章程，延聘教习，传布助款之人，登报布告每年的出、入款项，悉心虚受同志有惠书商告本社应办各事者。同时，学社拟聘司账一人，雇工二三人。经费问题是办学的重要事项，《东文学社社章》指出，“此系初办，力求节省，将来或须加增之处，临时酌议”，规定理事每人每月工资二十元，司账六元，傭资五六元，而且要求“社中学生学习至数月后，令其学习译书，所译之书由社中印行，所得利息永充社中公用”。社中经费稍裕，即加添教习，增广学生，再积有余款，则增立学社；他处有立东文学社，托本社聘师购书等事，本社理事当极力赞成，不得诿辞。对于捐款至五十元以上的人聘为社绅，得与闻会事；总理倘不浃众望可由社绅另举。将来俟逐渐开拓，事务日繁，即添设监院一人，照料社中杂务，理事有事，监院摄之，此刻事属办始，经费不敷，暂不设置。
  《东文学社社章》规定，招收学生额数不得逾40人，3年卒业，不到3年而学成者亦为卒业；学生不限年龄，15岁以上至30岁以内都可入社学习，但必须精通中文；学生每人每年出修金二十元，按节先期交出；学生入社不得中途辍业，中辍者以日之多寡徵罚金；学生每日读东文约定某点钟至某点钟，不得迟到；学生住馆不住馆，悉听之，住馆及留餐应出资如干；对于那些不出修金的学生，经保人担保亦可来社习学，但前提是“将来学成必在社翻译以译资酬学费，其供职之年如所学之年，翻译限内，若欲他就者向担保加倍索偿学费”；而捐款至百元以上者，捐款者的子弟来社学习不收束脩；捐资五十元者，束脩减半；学成之学生，毕业后“充分学教习及各报馆翻译皆可由本社推荐及聘请”。
  为了加强对东文学社的管理，制定了《东文学社规则》。《规则》中指出，学生入社学习的目的不徒学习文字也，首以涵养德性，激发志气为主愿；专门学班是为专学东文的人开设的，必须是汉文已通之士，每日自九点钟至十二点钟止；普通学班是为小学生来社学习言语文字而开办的，每日自午后一点钟至三点钟止；所用教材先尽现时已有之书授读，其余学问统俟新书购到再行传授；课堂纪律方面，要求学生上课听讲皆依限定时刻，不得进退参差，除每七日许体沐一日外，不准托故告假；听讲过程中，理宜肃静，不得任意喧哗及交头评论，如诸生所学有未能明了者，俟讲毕时各在本座起立请问，惟不得横截插口以紊学程；课堂上不许吸烟。并且告诫学生，在社学习每天不过几个小时，放学后必须随时温习功课，才能看见学习的功效，务须谢绝酬应及游戏等事。
  学社的课程以日文、日语为中心，除此之外，英文、数学、物理、化学等自然科学以及社会科学也都兼授，可以说是当时中国首屈一指的日语学校。如何管理一所近代新式日文学堂，罗振玉等是缺乏经验的。于是他和汪康年商量：“东文学社事，或由公径与藤公妥商，总以学社独立，不为农会附庸，一切由藤公主持为妥，缘藤公一片热心，不宜加以限制他。”实际上是把该校的管理大权交给了藤田丰八。是年夏天招生，学生满额，教员不足，于是藤田丰八便聘请他的大学时代的知友田冈岭云来沪帮忙。
  戊戌变法失败后，胆小的出资者蒋黼和管理校务的邱于蕃先后离开，学生也多中途辍学。罗振玉在刘坤一的支持下，勉力维持。罗振玉在《集蓼编》中这样写道：“学社创于戊戌仲夏，及八月，政变发生，校费无出……生徒散者三之一，而高材生若海宁王忠悫公，山阴樊少泉，桐乡沈昕伯两文学，均笃学力行，拔于俦类之中，不忍令其中辍，乃复由予举私债充校费。幸一年后社中所授史、地、理、化各教科，由王、樊诸君译成国文，复由予措资付印，销行甚畅，社用赖以不匮。”1899年东文学社就学人数渐渐增加，原社址地隘不能容，于是迁到制造局前的桂墅里。从当时的“东文学社告白”中得知，开设近一年的东文学社，其学生“头、二班已能译书，成效昭著”，正准备“添招三班三十人，以期推广”。而且这一年，罗振玉在老家淮安也开办了一所东文学社。
  1900年7、8月间，因“庚子之变”，东文学社停办，王国维等提前肄业。虽说东文学社办学时间不到3年，但学社却培养出不少知名的学生，如吴尔昌、胡浚康、萨端等，上述好几位都参与了上海农学会“农学丛书”的翻译，如吴尔昌译出法国蓝涉尔芒著《农具图书》；胡浚康译出美国啤耳《厩肥篇》和美国风车公司编《奇埃衷安摩太风车图说》；萨端译出日本吉田健作《草本移植心得》和重译美国夫敦氏之说的《畜疫治法》等。后来成为金城银行董事长的周作民，15岁时也入东文学社读书，师从罗振玉。1902年前往广东，进入广东公学，学费也是由罗振玉资助的，后以优异成绩考取广东官费留学日本，进入京都第三高等学校。在该校学生中，罗振玉提及的最优秀的三位，即被目为“东文学社三杰”的王国维、沈纮与樊炳清。
  沈纮（1879—1918），本名沈承怿，字昕伯，一字忻伯，浙江桐乡人，东文学社主要成员，清末著名日文翻译家。他是东文学社最早培养的一批翻译之一，译书时间早，周期短，翻译量大，专业性强，翻译书籍涉及领域广泛，内容丰富，质量上乘，且重视文章和书籍时效性、实用性。1899年发行的《农学丛书》第一集中就收有其翻译的书籍，在1899年至1903年短短的5年时间里，翻译收入《农学丛书》中的农学类书籍就有21种，如日本高桥久四郎的《陆稻栽培法》、日本农事试验场编的《甘薯试验成绩》、山本钩吉的《薄荷栽培制造法》等。
  樊炳清（1877—1929），字少泉，一字抗父，又作抗甫，号志厚，浙江山阴（今绍兴）人。清末诸生，1898年入东文学社。1899年，23岁的樊炳清开始其贯穿一生的编译生涯，翻译出版《东洋史要》一改中国以往史书的面目，该书以多种式样重版印行，风行于东南各省。1901年，受罗振玉电邀，与王国维同赴湖北农务学堂任教译，翻译了多种农书。同年，与王国维和沈纮等译著并主编《科学丛书》（初集），一人独立译出近代科学著作8种10部。1902年至1903年，江楚编译局出版了他和沈纮等人编译的教科书20多种。1902年，王国维在上海主持《哲学丛书》，樊炳清为之译出《社会学》两本。随后的1903年，樊炳清主编《科学丛书》（二集），是年译出的井上哲次郎的《伦理教科书》（两册），《伦理学教科书》（四册）、《伦理学教科书总说》以及文部省撰的《伦理书》等四种伦理学著作，在当时影响较大。
  王国维（1877—1927），初名国桢，字静安，亦字伯隅，初号礼堂，晚号观堂，又号永观，谥忠悫，浙江省海宁人。王国维是中国近、现代相交时期一位享有国际声誉的著名学者。1898年2月22岁的王国维进入《时务报》报馆任书记，经汪康年同意，以每天午后3个小时到刚刚成立的东文学社学习日文。由于报馆事务繁杂，自修时间不足，入学半年后考试成绩不及格。按规定，学生不及格者应该退学，但罗振玉慧眼识才，仍准许他继续学业，藤田丰八还专门向汪康年提出，给予王国维以更多的学习时间，很快王国维就入了门，不久就已经能翻译日本书籍报纸。9月，维新变法失败，《时务报》关闭，罗振玉遂聘用王国维为庶务一职，而免除其学习期间的一切费用，还请他参与《农学报》的编译工作，担当史、地、理、化类教科书的编译。这是他后来能顺利进入东京物理学校留学的基础。1899年秋，罗振玉还提升他担任东文学社的学监，但不久王国维因与学生不和而放弃了职务，但罗振玉仍然支付月俸。期间，王国维有机会从该社助教田冈岭云文集中知道了康德、叔本华，遂开始对西方哲学发生浓厚兴趣。王国维后来还随其学习英语。通过学习，他在《农学报》上发表了他译介的日本池田日升三的《农事会要》和饭岛魁的《动物学》。可以说，这所学校为他日后进入他的“独学时代”，并成为学贯中西的大学者打下了良好的基础。
  罗振玉的教育活动始于在上海开办的东文学社，在当时没有专门教授日语的学校背景下，东文学社首开风气，成为当时中国第一所教授日文的学校，也是少数教授科学和英文的学校之一，培养了中国第一代日语翻译人才，他们直接翻译或者通过日文转译的农学和教育学书籍，促进了近代先进农学技术和教育理念在中国的传播，对于清末中国农业和教育的进步起到了不可忽视的作用。王国维、沈纮、樊炳清等人在编译事业上取得的有目共睹的成绩，不仅是东文学社办学的成果缩影，也是罗振玉兴办近代学校教育的成功尝试。