1916年11月，34岁的蔡锷因病去世，梁启超为了纪念自己的学生，遂在上海发起设立松坡图书馆。不过在当时的条件下，筹建图书馆并不是一件容易的事，最关键的便是“集资不易”
不过，仅仅依靠个人力量想要建立一座图书馆可谓难于上青天，这一点梁启超当然也心知肚明。1923年，梁启超上书时任民国大总统的黎元洪，再次提起筹建图书馆的事情。不久，黎元洪下总统令，拨北海公园的快雪堂作为馆址。当年11月4日，松坡图书馆正式成立，梁启超出任馆长。
不过，图书馆虽然建设好了，但如何维持图书馆的正常开支和员工生活，又成为摆在梁启超面前的一道难题。为了解决这个难题，梁启超除了多方奔走借垫外，甚至还将自己的人寿单拿出来，向信托公司抵押借款。而图书馆接待外宾的费用，也一度从他个人薪金中支付。
因为工作强度太大，梁启超身体健康逐渐出现问题。不过，他在给儿女们的信中，依旧兴致勃勃地讲述着他的雄心壮志，还特别强调要借此培养人才：“我要放我心血在里头才能成，尤其要训练图书方面的人才，非我亲自出马不可。”字里行间，让人真切感受到梁启超为了图书馆事业不遗余力地奉献与付出，读来令人心酸与动容。值得一提的是，梁启超的次女梁思庄后来成了著名图书馆学家，也算是了了父亲的一桩心愿。