3 березня 1866 р. була відкрита перша публічна бібліотека в Києві. 
Кожний міг за 15 копійок придбати читацький квиток на місяць і вільно користуватися фондом. Перші книги бібліотеці подарував письменник і книговидавець В. Г. Барщевський. На момент відкриття в 1866 році в бібліотеці було 319 книг і 43 комплекти періодичних видань. Цікаво, що читати можна було і сидячи, і лежачи: у читальному залі були кушетки для читання.
У перші роки бібліотека шість разів переїжджала: розміщувалася в будівлі Дворянського зібрання, в Міській думі, але міська влада вирішила побудувати нову будівлю.
У 1911 році на Царській площі за проектом архітектора Кляве споруджено будинок у дусі італійського ренесансу з колонами та ліпниною. Найбільший зал бібліотеки називався Олександрівським на честь імператора Олександра II. 
Тут був балкончик, де сидів черговий бібліотекар, а ще розміщувався оркестр під час проведення благодійного балу зі збору коштів на побудову аеростата «Київ». Балкончик не зберігся.
Найбільшими книжковими дарами за всю історію бібліотеки стали колекції:
– В. М. Юзефовича, високопоставленого петербурзького урядовця (5812 томів);
– О. О. Беретті, онука академіка архітектури В. І. Беретті (4000 видань);
– І. В. Лучицького, історика, професора Київського університету (4000 видань);
– М. О. Тулуба, правника, діда письменниці Зінаїди Тулуб (4000 видань).
– чомусь, жодного нардепа помічено не було.
Тут зберігається навіть Острозька Біблія Івана Федорова 1581 року (якщо еліта не поцупила) .
Читачами бібліотеки були: авіаконструктор Ігор Сікорський, військовий льотчик і перший виконавець мертвої петлі П. Нестеров. Сюди часто заглядав Михайло Булгаков.
У Національній парламентській бібліотеці на вул. Грушевського, 1 з перших днів Майдану на першому поверсі закладу працював польовий госпіталь.
