市立中山圖書館舊址位于越秀區(qū)文德北路71號(hào)。年代為1933年。
1927年6月，當(dāng)時(shí)的市政委員長(zhǎng)（相當(dāng)于現(xiàn)在的市長(zhǎng)）林云陔提出籌建廣州市立中山圖書館，后獲美國(guó)、加拿大、墨西哥、古巴四國(guó)1.5萬名華僑捐贈(zèng)20多萬美元（合當(dāng)時(shí)的廣東毫洋30多萬元），最后定址久負(fù)盛名的廣府學(xué)宮———此地從宋紹圣三年（1097年）起，先后是廣州府儒學(xué)（文廟）、番山書院、萬木草堂所在地。工程由當(dāng)時(shí)著名的建筑學(xué)家林克明設(shè)計(jì)，于1933年10月落成，系宮殿式建筑物，綠瓦朱檐，頗為壯麗。
1938年，廣州被日軍攻陷，幸而早在抗戰(zhàn)之初，該館就將藏書中的珍善本及重要資料5萬余冊(cè)疏散到市郊龍歸及廣西象縣保存。1946年圖書館復(fù)館，接收偽市立圖書博物館書刊12萬多冊(cè)，掛圖168幅，取回前存龍歸的藏書，并追回被日寇掠去的一部分圖書。
民國(guó)時(shí)期，著名史學(xué)家羅香林先生及其夫人朱曾先后擔(dān)任過館長(zhǎng)。1946-1949年朱任館長(zhǎng)期間，在財(cái)力、人力極其匱乏的情況下將圖書館重開，并收回大部分流散的圖書，還首創(chuàng)巡回書車進(jìn)入各區(qū)，將書籍大批借給學(xué)校、團(tuán)體閱覽研究，成為廣州最早的“汽車圖書館”。
2002年7月，被廣州市人民政府公布為第六批廣州市文物保護(hù)單位。