上海市第二中学前身务本女塾，创始人吴馨，字怀久，曾用名畹九、怀疚，上海县人，光绪二十三年以邑庠生入南洋公学师范院，三年学成。他目睹当时妇女“习于脂粉华服，金莲三寸，弱不禁风”，立志兴办女学。1902年10月24日（清光绪二十八年壬寅之岁），吴馨将西仓桥原家塾迁至花园弄，公开招生，定名为“务本女塾“，这是国人创办的第一所女子学校。 办学宗旨就是“务做人之本”，吴馨先生禁止学生崇尚奢华，提倡学生放足，努力改革妇女中的陋习。 校训为“勤朴勇诚”。正像务本校歌歌词所说的：“干寻之木始于苗，百川之水朝宗遥，海上首创女曹。”务本的创立为妇女求得解放，以自己的学识，争得应有的社会地位，作出了切实努力。学校始终以比较严谨的治学态度培养教育学生，以“勤朴勇诚“的校训严格要求学生，务本的学生，学习上刻苦，生活上俭朴，在社会产生了影响，在政治上爱国，有志气、敢于斗争，也受到社会赞扬。 解放后，学校党政领导在改造旧学校的同时注意加强思想政治工作，调动师生的积极性，发扬务本学生学习勤奋，生活俭朴，敢于斗争的好传统，组织师生参加庆祝中华人民共和国的成立、校庆纪念，建立团队学生会组织，开展反封锁、反轰炸教育，批判崇美、恐美、亲美思想，抗美援朝等形势教育。通过这些活动提高了广大师生的觉悟，在建党、建团时发展了一批党团员， 国民经济恢复时期，务本女中积极贯彻向工农子弟开门的方针，注意吸收工农子弟入学，为了减少工农子弟入学困难，一是建立了人民助学金和减免费制度，减轻工农家庭的教育费负担；二是招生时降低分数优先录取工农子弟。 为了增强女学生自立自强的信心，为了培养学生为社会主义事业献身的责任感，在很长一段时间里，学校深入开展了向英雄人物学习，以英雄模范人物的名字命名班级的活动，取得了显著成效。最早的是1952年11月20日，高一甲班以苏联卫国战争中的青年女英雄卓娅的名字，命名为卓娅班，英雄的精神激励着她们前进，很快这个班成为全校一面旗帜，她们曾向党中央领导写信表示自己立志成才的决心，得到党中央的鼓励。当卓娅的母亲来中国访问时，接见了该班代表常美英同学，并一起拍照留念

上海市第二中学现有徐汇、梅陇两个校区，徐汇本部共有3个年级23个班级1200余名学生，140余位教职员工。梅陇校区共有3个班级，120余名学生。