Родился в семье рабочего, партизана гражданской войны.
В 1927 семья переехала на прииск Еленинск Баунтовского района Бурятии, где И.А. Рубленко окончил среднюю школу.
В 1939 был направлен учиться в Томское артиллерийское училище, после его окончания в звании лейтенанта служил в артиллерийских частях Средне-Азиатского военного округа.
С июля 1941 — на фронтах Великой Отечественной войны. Участвовал в боях под Ельней, был ранен. С сентября 1941 воевал в 51-м гвардейском артиллерийском полку в должности командира батареи, адъютанта старшего дивизиона и командира дивизиона. Участвовал в боях под Москвой, освобождал Украину, Польшу. Член КПСС с 1942.
26 января 1945 во главе семнадцати разведчиков начал переправляться в лодке через Одер под огнём врага. На середине реки лодка была разбита, бойцы добирались до берега вплавь. На противоположном берегу уничтожили врага и отбили три контратаки. Иван Рубленко корректировал огонь артиллерийского дивизиона и способствовал захвату и удержанию плацдарма.
За проявленное мужество указом Президиума Верховного Совета СССР от 10 апреля 1945 командиру артиллерийского дивизиона 16-й гвардейской мехбригады майору Рубленко присвоено звание Героя Советского Союза.
После Великой Отечественной войны И.А. Рубленко служил в группе советских войск в Германии на командных должностях.
С 1950 был слушателем Военной артиллерийской академии.
Демобилизовавшись в 1956 он приезжает на постоянное жительство в Иркутск, здесь оканчивает Институт народного хозяйства, работает начальником межобластного управления Союзцветмет, был заместителем директора Института неорганической химии.
В 1970-х живет и работает в городе Южно-Курильск.
С марта 1980 вновь живет в Иркутске, работает заместителем начальника производственного объединения пассажирского автотранспорта № 1.
Полковник в отставке И.А. Рубленко умер 12 февраля 1981. Похоронен в Иркутске на Радищевском кладбище.
В Иркутске на доме, где жил Иван Рубленко, в память о нём установлена мемориальная доска.
В 2011 в селе Багдарин Баунтовского района Республики Бурятия установлен бюст Ивана Рубленко.
Был награжден орденами Ленина, Красного Знамени, Отечественной войны 2-й ст., Красной Звезды и медалями.