藏书楼长期以来不对外开放，读者需凭单位介绍信才能进入查阅资料；因几十年来管理维护不善，曾出现地下室进水、地基下陷等严重建筑问题，九十年代徐家汇地区建设地铁站，市政府曾考虑拆除该楼，后经巴金等知名知识分子联名呼吁才得以保留，并进行大力修缮，于2003年7月重新向公众开放，普通市民可凭上海图书馆的阅览证（需有参考阅览功能）进入二楼的阅览室查阅资料（周一至周六上午9点至5点），一楼另有一展览馆举行不定期的展览会或其他会议。每周六下午2点至4点，藏书楼还在导游的带领下让公众进入藏书库参观整体内部建筑（每批10~15人，历时20分钟左右）。