Рязанская публичная библиотека была открыта 14 (2 по старому стилю) января 1858 года. Замысел ее создания возник значительно раньше. Первым библиотекарем служил воспитанник Московского Императорского университета К. П. Архангельский.
В 1937 году была образована Рязанская область. 8 февраля 1938 года библиотека получила статус областной. Были созданы новые отделы: справочно-библиографический, междубиблиотечного абонемента, отдел обработки и комплектования, методический кабинет. В 1950-е годы библиотека активно способствовала экономическому развитию области.
На 1 января 1969 года фонд библиотеки составлял 856 тысяч экземпляров, выписывалось 549 наименований журналов и 58 газет. С 1992 года в библиотеке ведется электронный краеведческий каталог, с 1993 года начал создаваться электронный каталог на фонд библиотеки. Для координации телекоммуникационного взаимодействия внутри библиотеки и за ее пределами организован отдел автоматизации.
В 2011 году открыт новый, современный корпус библиотеки. В корпусе располагается кафе, центр книги и чтения, читальные залы, сервисный и библиографический центры, книгохранилище. У читателей библиотеки появилась возможность воспользоваться Wi-Fi доступом в Интернет.