白云区图书馆创办于1956年，前身是郊区图书室，隶属于郊区文化馆；1974年4月郊区图书室对外改称为郊区图书馆。1983年9月迁至广州市先烈东路137号。

1987年郊区图书馆正式更名为白云区图书馆。1988年7月该馆正式单独建制。2005年迁至白云区机场路1035号白云区文化活动中心院内。2006年11月，成立广州市少儿图书馆白云分馆。