Początki Starego Ogrodu sięgają, aż lat 20 XIX wieku, a dokładniej roku 1820. W tym okresie Radom przeżywał szybki rozwój, co związane było z ustanowieniem miasta stolicą województwa sandomierskiego.
Radom otrzymał plan regulacyjny w którym znalazła się między innymi wspomniany park. Jego lokalizację za murami miejskimi na podmokłym terenie za dawnym szpitalem św. Ducha została wybrana przez ówczesnego namiestnika królewskiego gen. Zajączka.
Park, który powstał w latach 1822-1824 stał się jedną z głównych ozdób miasta. Główne wejście do parku znajdowało się od strony Grobli Mlecznej (obecna ul. Okulickiego), natomiast z półokrągłego placu w kierunku północnym rozchodziły się cztery aleje. W centrum parku utworzono staw z wysepką, zasilany przez rzekę Mleczną.
Drzewa którymi obsadzony został park pochodziły z różnych miejsc, np. z hodowli książąt Czartoryskich z Puław.
W tym samym okresie w parku odbywały się liczne wystawy, festyny oraz koncerty (Wystawa Rolno-Przemysłowa w latach 1885 oraz 1899).
W roku 1899 w parku została otwarta restauracja, natomiast w czasie I wojny światowej w południowej części parku rozpoczęto budowę obiektów sportowych.
Największe zmiany w Starym Ogrodzie przyniosła II wojna światowa, a dokładnie okupacja niemiecka. Park został zdewastowany, a na jego terenie został zlokalizowany magazyn materiałów budowlanych.
W roku 1946 park został nazwany imieniem polskiego marszałka Konstantyna Rokossowskiego.\
Konstanty Ksawerowicz Rokossowki – był synem polskiego kolejarza Ksawerego Wojciecha i nauczycielki Antoniny Owsiannikowej z drobnej szlachty rosyjskiej. 2 sierpnia 1914 roku Rokossowski wstąpił do armii rosyjskiej, a w 1916 otrzymał stopień kaprala. 6 listopada 1949 roku, na zlecenie Stalina został powołany na urząd polskiego Ministra Obrony Narodowej oraz mianowany na stopień Marszałka Polski. Wprowadzone przez niego uchwalenie nowych kredytów dla wojska, doprowadziło do włączenia Polski w sowiecką infrastrukturę wojskową.
W związku z rozbudową ulicy Mireckiego, która miała miejsce w 1967 roku, obszar parku został zmniejszony i do dziś pozostaje w takim kształcie.
Stary Ogród został poddany pracą pielęgnacyjnym (2012-2013 rok), podczas których wycięte zostały topole i inne chore drzewa, a także zostały nasadzone nowe gatunki drzew i krzewów. W tamtych latach utworzono na terenie parku również plac zabaw oraz siłownię na świeżym powietrzu.
W parku znajduje się głaz upamiętniający księdza Romana Kotlarza – zwanego także “radomskim Popiełuszką”, był on polskim księdzem diecezji radomskiej, kaznodzieją oraz działaczem opozycji w PRL, a także uczestnikiem protestów robotników, mających miejsce w Radomiu w 1976 roku (brał udział w pochodzie i błogosławił on strajkujących robotników). Sam stał się ofiarą represji komunistycznych, które zakończyły się jego śmiercią 18 sierpnia 1976 roku.