由现代作家、“湖畔诗人”应修人（1900～1933）发起创办。1917年前后，在上海福源钱庄做店员的应修人以自己的藏书为基础，建立了“修人书箱”，供同仁借阅，是为“上海通信图书馆”的雏形。1921年5月1日，他发起组织“共进会”，是一个上海钱庄业、银行业青年职工互动性的读书团体，附设有图书馆。后来藏书增加，读者增多，便在天津路44号成立了上海通信图书馆，对外开放。1925年五卅运动期间，成立了中国共青团支部；同年，应修人等几位办馆骨干加入中国共产党，在商务印书馆的共产党组织领导下开展活动。1925年，图书馆迁至宝山路三德里。1928年，藏书由创办时的138种增加到5000余种，读者达到两三千人。图书馆借书范围遍及全国以至海外。为联系读者和便利通信借书，1925年 8月起出版《上海通信图书馆月报》，多次编印《上海通信图书馆书目》(1926年10月出到第6版)。1929年5月4日，国民党上海市党部公开出面，上海市教育局、公安局配合军警特务以“反动嫌疑”为理由查封上海通信图书馆。此后图书、设备被上海市教育局接收，1930年改组为上海市立流通图书馆。

上海通信图书馆在图书馆管理技术上也有创树。试行以汉字拉丁化拼音组织著者号，自编了新的图书分类法，并于1929年经新书推荐社修订，正式定名为《S.T.T.图书分类法》。该分类法对当时盛行的杜威十进分类法体系持批判态度，在类目设置上突出中国的国情与马克思主义。其大类顺序如下：总类、社会科学类、哲学类、文学类、艺术类、自然科学类、应用技术类、语言学类、历史类、地理类。在“社会学”类中列举了“唯物史观”“马克思主义”，在“经济学”类中首先列出“马克思派经济学”子类，在“政治”类中设有“反日帝国主义”等子类。

上海通信图书馆是上海第一个真正开放的图书馆，以“使得无产者有得书看”为宗旨。因共进会会员所购书籍和少数外界的捐赠，图书馆成为“远近人们底藏书库，只以邮筒往还，便能以余暇读爱读的书报，不受制于路途，不受制于经济，不受制于职务，也不受制于时间”，也成为“大规模的上海图书馆的先导”。