Рязанский историко-архитектурный музей-заповедник является одним из старейших музеев России. Он был основан 15 июня 1884 года. Первым экспонатом музея стала икона святых мучеников Флора и Лавра XVIII века, подаренная собранию полковником А. А. Мариным. В 1890 году музей, располагавшийся в здании присутственных мест, впервые был открыт для посетителей. Коллекции музея насчитывали 10727 предметов.
В 1918 году решением губернского отдела народного образования из национализированных музеев был образован губернский историко-художественный музей.
Для значительно пополнившегося музея в 1922 году предоставляется новое просторное помещение — Дворец Олега в Кремле, где сохранился уникальный ансамбль гражданских и церковных памятников архитектуры XV-XIX веков. В 1923 году здесь начинает работать экспозиция историко-художественного музея.
В 1937 году происходит разделение музея на два самостоятельных – краеведческий и художественный. В 1950 годы по проекту главного архитектора музея-заповедника И. В. Ильенко начинается научная реставрация архитектурных памятников кремля и их последующая музеефикация.
В 1968 году краеведческий музей и комплекс архитектурных памятников кремля приказом Министерства культуры стал историко-архитектурным музеем-заповедником. В его состав вошли также историко-археологический комплекс Городище Старая Рязань, историко-архитектурный ансамбль Солотчинского монастыря, церковь Спаса на Яру, 10 филиалов в районных центрах и селах области.
В 1993–1995 годах Солотчинский монастырь, церковь Спаса на Яру и Гостиница Знати перешли в ведение Рязанской епархии, Успенский собор и Соборная колокольня, с 2002 года Христорождественский собор оформлены в совместное пользование музея и епархии, в соборах возобновлены службы.
Указом Президента № 1219 от 6 декабря 1995 года Рязанский музей-заповедник включен в Государственный свод особо ценных объектов культурного наследия народов Российской Федерации и с 1998 года перешел в федеральное подчинение.
В 2004 — 2009 годах музей полностью обновил экспозиционный комплекс, открыв четыре новые экспозиции.
В 2007 году по инициативе управляющего епархией РПЦ при поддержке Президента и Правительства РФ начался процесс демузеефикации Рязанского кремля. Архитектурные памятники передаются в пользование епархии и приходских советов, музейные экспозиции демонтируются.