上海古籍出版社前身是上海古典文学出版社、中华书局上海编辑所。上海古典文学出版社成立于1956年11月，1958年3月，与中华书局上海办事处合并改组为中华书局上海编辑所，成为上海地区整理出版古籍的专业机构。1978年1月改为今名上海古籍出版社。

中华书局上海编辑所成立之初便已开始对中国古典文学作品、不同时代有代表性的作家及诗词散文等不同文学门类的作品选读、选辑，加以通俗的解说、详尽的注释。有的更用现代汉语翻译。精选历代名篇，加上说明、注释，以单篇或合订本形式，出版《中华活页文选》。还有古代重要典籍的今译，如《四书》、《五经》、老庄诸子，以及《孙子兵法》等，语译而外，有的还附原文。并出版一部分高等学校的文科教材。出版当代老中青著名学者对中国传统文化各个方面的学术论著，如陈寅恪、郑振铎、郭绍虞、钱锺书、饶宗颐、吕思勉、岑仲勉、俞平伯等著名学者，或编为文集，或作为专题论著。此外，对海外汉学研究成果，有选择地出版《海外汉学丛书》。1962年起出版了不定期的学术刊物《中华文史论丛》。已成系列的有《文化春秋丛书》、《三百题系列新刊》、《十大系列丛书》、《生活文化丛书》、《文物鉴赏丛书》、《中华文明宝库》等等。