4-я гимназия находилась в стороне от исторического центра, в довольно отдаленном районе Киева — почти на краю Нового Строения. Но это не помешало учебному заведению стать достаточно известным в городе. Истоки гимназии можно отнести еще к дворянскому училищу, которое когда-то располагалось на Печерске. В дальнейшем его не раз переформировывали и меняли название. Когда на Печерске начали строить укрепления Новой Печерской крепости, жителям пришлось искать лучшей судьбы на новых улицах в пойме реки Лыбидь. Тогда же переехала и будущая гимназия.
Изначально заведение нашло пристанище на Владимирской улице, а немного позже перебралось на улицу Кузнечную (сейчас Антоновича). Именно здесь оно получило статус прогимназии. Но мест в ней было критически мало, а количество учеников достигало полутора сотен. Для размещения такого количества школьников использовали арендованный жилой дом. Среди преподавательского состава того времени были личности с довольно громкими именами. Например, некоторое время тут работал известный украинский художник Николай Мурашко. Он обучал воспитанников основам рисования и каллиграфии.
Прогимназия пребывала в доме на Кузнечной только два года, после чего срок аренды закончился, и учебное заведение вновь осталось бездомным. Некоторое время учеба проходила на Бибиковском бульваре (сейчас Тараса Шевченко) где ныне находится главный корпус Национального педагогического университета им. Драгоманова. Именно тогда в прогимназии учился будущий известный российский художник Валентин Серов, имя которого носит одна из улиц Киева.
Вскоре учебному заведению, уже преобразованному в полноценную гимназию, опять пришлось искать новое помещение. Встал даже вопрос о покупке усадьбы покойного барона Рудольфа Штейнгеля. Там на улице Бульварно-Кудрявской на большом участке находился настоящий замок. Но наследники барона захотели слишком большую сумму, и тогда директор Николай Стороженко решил, что наконец пришло время строить собственные корпуса. По проекту окружного архитектора Николая Чекмарева, который, к слову, имел военно-инженерное образование, был составлен проект.
Общий вид Нового Строения. 1880-е годы
Строительство требовало значительных вложений. Часть их нашла сама гимназия, другую предоставили неравнодушные люди. Даже обычные рядовые жители Нового Строения смогли собрать около 30 000 рублей, что составило приблизительно четверть необходимого. Остальные расходы покрыли известные киевские меценаты, предприниматели Лев и Лазарь Бродские и Никола Терещенко. Определенную помощь оказал и "король киевских подрядчиков" Лев Гинзбург, а это позволило сэкономить значительные средства на строительных материалах.
Стоить отметить, что именно жители Нового Строения давно обращались к городским властям с просьбой открыть тут гимназию. Поэтому не удивительным было решение городской администрации предоставить новому учебному заведению участок именно в этом районе, на так называемой Конной площади, где когда-то проводились конные ярмарки. Строительство началось 29 мая (по старому стилю) 1897 года. При закладке присутствовало большое количество гостей, среди которых были военный и гражданский губернаторы, духовенство, попечитель учебного округа, многочисленные сановники и городская аристократия. В фундамент здания, приблизительно в месте расположения будущей гимназической церкви, заложили табличку с перечнем имен всех, кто принимал участие в благородном деле строительства нового образовательного учреждения.
Интерьер гимназической церкви. 1899 год
Здание было спроектировано в форме буквы "Ш". Поскольку сначала участок был небольшим — его расширили позже — корпус гимназии повернули лицевым фасадом не в сторону Большой Васильковской улицы, а к пустырю, оставшемуся от Конной площади. Но в дальнейшем это способствовало созданию тут уютного скверика, который очень полюбился гимназистам. Этот скверик получил у киевлян название "Полицейский садик". Новый учебный 1898 год гимназисты начали уже в собственном здании. Правда, из-за недостатка средств гимназическую церковь удалось закончить только в следующем году.
Улица Большая Васильковская, справа ограда гимназии. Открытка 1910-х годов
Однако в 4-й гимназии учились не только православные. В этой части города проживало большое количество поляков, и именно поэтому на Большой Васильковской улице в начале XX века был построен католический костел св. Николая, второй в городе. Его возвели практически напротив гимназии. На определенном этапе в учебном заведении получало образование столько мальчиков-поляков, что 4-ю гимназию даже называли польской. Тут учился будущий польский писатель Ярослав Ивашкевич. Некоторые исследователи допускают мысль, что среди воспитанников заведения мог быть и известный сейчас всему миру гениальный художник Казимир Малевич, родившийся неподалеку. Впрочем, подтверждений этому нет.
К сожалению, кроме прекрасного костела, гимназия имела и неприятное соседство. Совсем недалеко, на улице Ямской, находился киевский "квартал красных фонарей", описанный Александром Куприным в повести "Яма". Среди клиентов "жриц любви" встречались и воспитанники 4-й гимназии. Про это с отвращением вспоминает в своих мемуарах Александр Вертинский, известный актер, поэт, композитор, тоже учившийся в этих стенах. Вообще же местные гимназисты отличались от учеников других гимназий своей отчаянностью и смелостью. И это не удивительно, ведь многие из них были с глухих окраин, где без крепкого кулака прожить сложно.
Разрушенное здание гимназии. 1920 год
4-я гимназия просуществовала до Первой мировой войны. В дальнейшем из-за близости к железной дороге в здании оборудовали эвакуационный госпиталь. Польские войска, на полтора месяца захватившие Киев в 1920 году, успели разместить тут военные склады. Когда стало ясно, что город им не удержать, отступающие поляки попытались взорвать гимназию. Но крепкие стены выдержали, и через некоторое время здание было восстановлено.
Трудовая школа № 32. 1936 год
В 1920–1930-е годы помещения заняло профильное учреждение — в нем находилась трудовая школа № 32. После Второй мировой войны строение передали на баланс спецслужб. Здесь стало работать одно из подразделений КГБ, которое использовало высокие шпили бывшего Николаевского костела для антенн "глушилки" антисоветских радиостанций. После распада СССР бывшую гимназию сначала отвели под посольство Ватикана, а потом снова, по наследству, вернули спецслужбам. Одно время тут была школа СБУ, потом отделение спецназа "Альфа", а сейчас — центр противодействия терроризму.