Рішення про створення історичної бібліотеки було прийняте Радою народних комісарів УРСР у 1939 році. Місце вибрали на території Музейного містечка, на яке тоді перетворили Києво-Печерську лавру. Для організації роботи в нову установу направили випускників історичного факультету Київського університету. На першому етапі перед ними стояло завдання скласти єдиний універсальний опис книг, журнальних та газетних статей, та бібліографію в області історичних наук. Основу книжкового і документального зібрання склали приватні колекції відомого церковного діяча митрополита Київського і Галицького Флавіана (Городецького) і київського купця-бібліофіла Маклакова, а також видання друкарень Києво-Печерської та Почаївської лавр та Львівського братства.
Корпус № 5 Музейного містечка "Києво-Печерська лавра"— перше приміщення бібліотеки
Незадовго до окупації Києва нацистами, частину книг перевезли до Харкова. Але багато безцінних раритетів залишилися в Києві. Приміщення книгосховища було дуже пошкоджене під час вибуху Успенського собору. Книжкове зібрання нацисти розграбували, фактично бібліотека була знищена і припинила своє існування. Загалом загинуло 533 тисячі книг вартістю понад 5 мільйонів рублів. За визначенням фахівців, колекція стародруків Історичної бібліотеки була однією з найдорожчих втрат української культури в роки Другої світової війни.
Сумну історію має і унікальна бібліотека Флавіана. У 1907 році митрополит вирішив передати своє багате зібрання Києво-Печерській лаврі. З цією метою в 1914 році побудували окреме двоповерхове опалювальне приміщення з читальною залою. У 1910 році Флавіан власноруч систематизував фонд і склав каталог, який окремим виданням на 700 сторінок був видрукуваний в лаврській друкарні. У 1921 році більшовики націоналізували бібліотеку і передали її Всеукраїнській академії наук. При цьому вона залишилася на території колишньої Лаври і пізніше була передана створеному там антирелігійному музею, а звідти — Історичній бібліотеці. Під час окупації німці спочатку вивезли її як особливо цінне зібрання до Оперативного штабу Розенберга, а потім — до Берліна. Тоді, власне, бібліотека Флавіана і перестала існувати як цілісна високо цінна колекція. Збереглася незначна частина неописаних книг, що залишалися в Києві, дещо вдалося повернути з Німеччини в 1947-1948 роках. Ще 81 книгу передали Україні з бібліотек Федеративної Республіки Німеччини лише в другій половині 1990-х років. Зараз невелика кількість книг зберігається в НІБУ, окремі екземпляри — в інших бібліотеках, деякі потрапили до приватних колекцій, а доля інших і зовсім невідома.
Після війни роботу Історичної бібліотеки було відновлено в 1946 році, фонди довелося збирати майже "з нуля". З Німеччини вдалося повернути лише 21 тисячу томів, 5 тисяч передали різні бібліотеки. До кінця року фонди склали 90 тисяч одиниць, і бібліотека отримала тимчасовий притулок в Київському історичному музеї на вулиці Володимирській, 2. Але обслуговування читачів вдалося відновити тільки в 1952 році, коли частину книг розмістили в будівлі Київського планетарію. Зараз це Олександрівський костел на Трьохсвятительській вулиці, який повернули вірянам. Там же обладнали невелику читальну залу на 60 місць. Інші фонди, що складалися вже з 200 тисяч одиниць, були законсервовані і недоступні для читачів. Вони зберігалися в непристосованому для цього складському приміщенні лаврської дзвіниці. Протягом майже 20 років бібліотека потроху "багатіла" новими приміщеннями. У 1955 році вона отримала для розміщення фондів і обладнання читальної зали на 200 місць корпус № 7 музею-заповідника "Києво-Печерська лавра", в 1960 році — корпус для книгосховища. Лише в 1970 році установа остаточно облаштувалася на своєму нинішньому місці, в корпусі № 24.
Колекція Біблій різних років видання з фондів НІБУ
Найцікавіші раритетні видання знаходяться в бібліотеці у відділі стародруків, рідкісних і цінних книг, створеному в 1964 році. Сьогодні його фонд вже перевищує 23 тисячі цінних документів. Велике наукове і культурно-історичне значення має колекція книг кириличного друку — це близько 800 екземплярів пам’яток старослов’янської писемності. Більшу частину колекції складають книги релігійного змісту. Серед них ранні видання друкарні Києво-Печерської Лаври Анфологіон 1619 року, Книга про віру 1620 року, Патерик Києво-Печерський 1661 року, всі три видання першого підручника з вітчизняної історії Синопсис 1674, 1678, 1680 років. Гордість колекції — знамениті острозькі видання Новий завіт і Псалтир 1580 року та Біблія 1581 року. У колекції книг цивільного друку зібрані книги, що вийшли за період з 1708 по 1825 роки.
Раритетні видання з зібрання НІБУ
Зібрання прижиттєвих видань творів класиків української та російської літератури включає твори Миколи Гоголя з автографом автора, Івана Котляревського, Михайла Коцюбинського, Івана Франка та багатьох інших. Чудова також колекція видань з мистецтвознавства: розкішно оформлені альбоми і монографії видатних мистецтвознавців XIX-ХХ століть. Історична бібліотека України, що в 2009 році отримала статус Національної, добре відома як центр культури. Крім традиційних бібліотечних заходів, тут проходять різні творчі акції, майстер-класи, презентації книг і проектів.