Вперше експозицію музею відкрили 8 квітня 1941 року в колишньому Царському (Маріїнському) палаці на Печерську – красиву барокову споруду офіційно закріпили за музеєм. Тоді музей мав близько 10 тисяч експонатів.
Під час німецько-радянської війни діяльність музею припинилася. Найцінніші експонати евакуювали у Новосибірськ.
Музей повернувся до Києва 1944 року, але постійного приміщення не мав. Наданням музеєві приміщення опікувалися Микола Бажан, тодішній віце-прем’єр із питань культури, та Павло Тичина, який обіймав посаду міністра освіти.
Нарешті 22 червня 1948-го уряд УРСР ухвалив постанову про передачу двоповерхового приміщенні по бульвару Шевченка, 12. Палац, збудований у 1842 році відомим київським підприємцем і доброчинцем Миколою Терещенком. Висунули легенду, начебто тут «міг побувати» Тарас Григорович.
Працівники музею добрали для першої експозиції в новому приміщенні близько 4 тисяч експонатів.
22 квітня 1949 р. напередодні відкриття Державного музею Шевченка його відвідав Микита Хрущов. 
Перший на сходах – Микита Хрущов, за ним у світлій сталінці – Терентій Трохимович Шевченко, внучатий племінник Кобзаря, праворуч від нього, в окулярах – Микола Мацапура, директор музею.
Хрущов наказав винести з фойє бюст Сталіна, бо «це музей Шевченка, а не Сталіна».
Вдруге музей відчинив свої двері 24 квітня 1949 року.
