Завдяки центральному положенню Кременчука відносно військових поселень на Україні та мобільному пересуванню через зручну дніпровську переправу, саме його було вибрано для розташування Головного штабу інспектора резервної кавалерії та військових поселень.
У 1852 році поблизу Дніпра на Скатній площі з’являється чудовий архітектурний ансамбль. Він складався с трьох головних корпусів, двох флігелів для квартир чиновників, дерев’яних приміщень для конюшень, сараїв та «льодників». В комплекс споруд увійшла і стара вежа, яка залишилася від «присутственных мест» останньої чверті 18 ст. і використовувалася до цього часу як складське приміщення у відомості Чорноморського флоту. Інспектором резервної кавалерії і військових поселень 1 серпня 1840 року призначається вже літній генерал від кавалерії граф Олексій Петрович Нікітін (1777-1858рр.), який і приїздить у 1852 році до Кременчука. До речі, в ад’ютантах при О.П. Нікітіні з 1844 року перебував молодий Олександр Олександрович Остроградський з відомої на Кременчуччині родини Остроградських, батько Василя Олександровича – майбутнього голови Кременчуцького дворянства, члена ІІІ Державної Думи. Тут, в Кременчуці О. О. Остроградський отримує звання поручика і згодом переводиться у Гусарський Цесаревича полк.
Після переїзду військового начальства у нові приміщення на Скатній площі у 1852 році напроти будівель Штабу розбивають плац для парадів, облаштовують по периметру насадженнями тополі, тому він отримує назву Парадна площа і так використовується до 1874 року, коли тут розбивають Штабний сквер. Вулиця, де були розташовані головні будівлі отримала назву Штабна. В 1857 році будівлі Штабу починають звільнятися від старих господарів і передаються у відомство Інженерного департаменту військового міністерства.
В цей час Полтавське губернське правління виношує ідею створення гімназії для дітей бідних і дрібнопомісних дворян з додатковим класом, де викладали б «військові науки» з тим, щоб потому учні цієї гімназії могли йти вчитися у військову академію. Тому губернатор почав клопотання про відкриття в цих приміщеннях чоловічої гімназії. Але міністерство народної освіти відхилило цю пропозицію за браком коштів, які треба було виплатити військовому відомству за будівлі.
В ході військової реформи протягом 1861-1862 років були скасовані такі армійські одиниці як корпуси, і найвищим військовим з’єднанням російської кінноти на довгі роки залишається дивізія, і вже в 1862 році приміщення на вулиці Штабній приймають нових господарів – Штаб 3-ї кавалерійської дивізії. А в 1864 році після розгрому польських повстанців в Кременчук був направлений легендарний 4-й Уланський Харківський полк. У другій половині 1875 року проводиться реорганізація військ кавалерії, в результаті якої 4-й Харківський уланський полк виїжджає з Кременчука у містечко Слонім Віленського Військового Округу.
Напередодні русько-турецької кампанії в грудні 1876 року в Полтавську губернію з 9-ї піхотної дивізії другої бригади прибули 36-й Орловський Генерал-фельдмаршала князя Варшавського графа Паскевича полк, який розташувався частково в Полтавській губернії, частково в Харківській та 35-й Брянський Генерал-ад’ютанта князя Горчакова полк, який на той час розташувався частково в Кременчуці, частково в Кременчуцькому повіті (Градизьк і Богомоловка). Командний склад і Штаб 2-ї бригади та командування 35-ого Брянського полку займає будівлі приміщень інженерного відомства на Штабній вулиці. Але менш ніж через рік полки мобілізуються на російсько-турецьку війну і знову повертаються на місця свого квартирування після 1778 року.
Протягом 80-х років 19 століття Кременчук поступово перетворюється в справжній військовий стратегічний пункт. Завдяки залізничному мосту через Дніпро станція Кременчук має значний вантажний та пасажирський обіг і зв’язана майже з усіма великими містами держави, що дає можливість для мобільного пересування як між близькими, так і між віддаленими військовими об’єктами.
Перебування такої кількості військових у місті спонукало командування Київського Округу прийняти рішення про кваліфікований військовий медичний заклад. Тому в 1890 році на ім’я військового міністра з Головного Штабу Київського округу надходить відношення (за №22975 від 18 травня) про доцільність відкриття місцевого лазарету в Кременчуці. Як повідомив Окружному Штабу в своєму донесенні начальник Інженерів Округа, в місті Кременчуці до кінця 1895 року були проведені роботи по перебудові штабних приміщень під лазарет, а навесні 1896 року остаточно завершені роботи, улаштовані приміщення при лазареті 3-х квартир фармацевтів, 2-х квартир лікарів, приміщення для інфекційних хворих, аптечних складів та інших служб. На утримання всіх служб лазарету виділено було 5846 рублів 60,8 коп. В цю суму входила зарплатня особистого складу, гроші на придбання медикаментів і на утримання бібліотеки. Бібліотеки при міських лазаретах відкривалися згідно Наказу по військовому відомству від 1888 року за №293.
За дорученням Головного військово-медичного інспектора Руперта керувати роботами по завершенню перебудови приміщень під лазарет у грудні 1897 році до Кременчука з Риги приїздить лікар тамошнього військового шпиталю Іван Андрійович Зубковський, уродженець села Єрки Миргородського повіту Полтавської губернії. 20 лютого 1898 року саме лікар І.А. Зубковський в статусі старшого лікаря відкрив Кременчуцький міський лазарет. В своїх спогадах він відмічав дуже вдалу улаштованість будівель лазарету, вони були світлими і просторими.
5 березня 1898 року вийшов циркуляр Головного Штабу за підписом начальника генерал-лейтенанта Сахарова про відкриття в Кременчуці 20 лютого 1898 року міського лазарету на 150 місць.
Так почалася нова сторінка історії колишніх штабних будівель. Протягом всього 125-річного періоду призначення закладу майже не змінювалося. За радянських часів і до початку 2000-х років – це військовий шпиталь. Тепер ці будівлі облаштовують наші нацгвардійці. Ведуться часткові ремонтні роботи. З надією старі будівлі дивляться у своє майбутнє.