4-та гімназія розташувалася осторонь історичного центру, у досить віддаленому районі тодішнього Києва — майже на краю Нової Забудови. Але це не завадило навчальному закладові стати доволі відомим у місті. Джерелом гімназії можна вважати дворянське училище, яке колись перебувало на Печерську. В подальшому його неодноразово змінювали та перейменовували. Коли на Печерську почали будувати укріплення Нової Печерської фортеці, мешканцям довелося шукати кращої долі на нових вулицях у заплаві річки Либідь. Тоді переїхала і майбутня гімназія.
З початку навчальний заклад знайшов притулок на Володимирській вулиці, а трохи пізніше перебрався на вулицю Кузнечну (зараз Антоновича). Саме тут йому й надали статус прогімназії. Але місць у ній було критично мало, а число учнів сягало півтори сотні. Для розміщення такої кількості школярів використали орендований житловий будинок. Серед викладацького складу того часу були досить гучні імена. Наприклад, деякий час тут працював відомий український художник Микола Мурашко. Він навчав вихованців основам малювання та чистописання.
Прогімназія перебувала у будинку на Кузнечній тільки два роки, далі строк оренди було вичерпано, і навчальний заклад знову залишився безпритульним. Деякий час він розташовувався на Бібіковському бульварі (нині це бульвар Шевченка), де зараз головний корпус Національного педагогічного університету ім. Драгоманова. Саме тоді в прогімназії навчався майбутній відомий російський художник Валентин Сєров, ім'ям якого нині названа одна з вулиць Києва.
Незабаром навчальному закладу, вже перетвореному на повноцінну гімназію, знову довелося шукати нове приміщення. Постало навіть питання про купівлю садиби померлого барона Рудольфа Штейнгеля. Там на вулиці Бульварно-Кудрявській на великій ділянці стояв справжній замок. Але нащадки барона забажали надто велику суму, і тоді директор закладу Микола Стороженко вирішив, що нарешті настав час будувати власні корпуси. За проектом окружного архітектора Миколи Чекмарьова, який, до речі, мав військово-інженерну освіту, було складено проект.
Загальний вигляд Нової Забудови. 1880-ті роки
Будівництво потребувало великих грошей. Частину знайшла сама гімназія, а решту надали небайдужі люди. Навіть звичайні пересічні мешканці Нової Забудови спромоглися зібрати близько 30 000 рублів, що складало приблизно чверть від необхідної суми. Решту коштів надали відомі київські меценати, підприємці Лев і Лазар Бродські та Нікола Терещенко. Певну допомогу надав і "король київських підрядників'' Лев Гінзбург, а це дозволило значно заощадити на будівельних матеріалах.
Варто зауважити, що саме мешканці Нової Забудові давно зверталися до міської влади з проханням відкрити тут гімназію. Тому не дивним було рішення влади надати для нового навчального закладу ділянку саме у цьому районі, на так званій Кінній площі, де колись проводилися кінні ярмарки. Будівництво почалося 29 травня (за старим стилем) 1897 року. При закладинах була присутня велика кількість гостей, серед яких були військовий і цивільний губернатори, духовенство, куратор шкільної округи, чисельні сановники та міська аристократія. У фундамент будівлі, в місці приблизного розташування майбутньої гімназичної церкви, заклали табличку з переліком імен усіх, хто долучився до благородної справи з будівництва нового закладу освіти.
Інтер'єр гімназичної церкви. 1899 рік
Будівля була спроектована у формі букви "Ш". Оскільки спочатку ділянка мала невелику площу — її розширили пізніше — споруду гімназії повернули чолом не у бік Великої Васильківської вулиці, а до пустиря, який залишився від Кінної площі. Проте у подальшому це сприяло створенню тут затишного скверика, який був дуже до вподоби гімназистам. Цей скверик отримав у киян назву "Поліцейський садок". Новий навчальний 1898 рік гімназисти починали вже у власній будівлі. Щоправда, через брак коштів гімназичну церкву вдалося закінчити тільки наступного року.
Вулиця Велика Васильківська, праворуч огорожа гімназії. Листівка 1910-х років
Втім у 4-й гімназії навчалися учні не лише православного віросповідання. У цій частині міста проживала велика кількість поляків, саме тому на Великій Васильківській вулиці на початку ХХ століття був збудований другий у місті католицький костьол св. Миколая. Його звели майже навпроти гімназії. На певному етапі в навчальному закладі здобувало освіту стільки хлопчиків-поляків, що 4-ту гімназію навіть називали польською. Тут навчався майбутній польський письменник Ярослав Івашкевич. Деякі дослідники припускаються думки, що серед вихованців закладу міг бути і відомий зараз усьому світові геніальний художник Казимир Малевич, який народився зовсім поряд. Утім, підтверджень цьому немає.
На жаль, окрім прекрасного костьолу, гімназія мала і неприємне сусідство. Неподалік, на вулиці Ямській, знаходився київський "квартал червоних ліхтарів", описаний Олександром Купріним у повісті "Яма". Серед клієнтів "жриць любові" траплялися і вихованці 4-ї гімназії. Про це з огидою згадує у своїх мемуарах Олександр Вертинський, відомий актор, поет, композитор, що також навчався у цих стінах. Загалом місцеві гімназисти вирізнялися поміж учнів інших гімназій своєю відчайдушністю та сміливістю. І це не дивно, адже багато хто з них мешкав на глухих околицях, де без міцного кулака прожити було важко.
Зруйнована будівля гімназії. 1920 рік
4-та гімназія проіснувала до Першої світової війни. В подальшому через близькість залізниці в будівлі обладнали евакуаційний шпиталь. Польські війська, які на півтора місяці захопили Київ у 1920 році, встигли розташувати тут військові склади. Коли стало зрозумілим, що місто їм не втримати, відступаючі вояки спробували висадити гімназію у повітря. Але міцні стіни встояли, і згодом будівлю відновили.
Трудова школа № 32. 1936 рік
У 1920–1930-ті роки помешкання зайняв профільний заклад — в ньому розташувалася трудова школа № 32. Після Другої світової війни споруду передали на баланс спецслужб. Тут розмістився один з підрозділів КДБ, який використовував високі шпилі колишнього Миколаївського костьолу для антен "глушилки" антирадянських радіостанцій. Після розпаду СРСР будівлю колишньої гімназії спочатку відвели для посольства Ватикану, але потім знову, ніби за спадком, повернули спецслужбам. Тут була школа СБУ, потім відділення спецназу "Альфа", а нині — центр протидії тероризму.
