Впервые Рыбное упоминается как село Рыбино в писцовых книгах 1597 года. Более точные сведения о возникновении неизвестны. В 1634 году село подверглось полному разорению и уничтожению во время последнего набега крымских татар на рязанскую землю, но вскоре вновь возродилось. В XVI-XVII веках через Рыбное проходила укрепленная сторожевая линия Московского государства – Вожская засека.
В 1842 году в Рыбном открылась церковно-приходская школа, а в 1895 – земская школа. В 1905 году Рыбное стало центром Рыбновской волости. В 1917 в селе без жертв и кровопролитий была установлена Советская Власть. В 1929 году был организован Рыбновский район, в с 1961 года Рыбное носит статус города.
В Рыбном находятся два крупных Всероссийских научно-исследовательских института: НИИ Пчеловодства и НИИ Коневодства. Также в городе находится крупная железнодорожная узловая станция.