Первые предложения о создании музея были высказаны юбилейной комиссией, созданной в Калуге для подготовки к празднованию 100-летия К.Э. Циолковского. Идею строительства музея в Калуге активно поддержал Главный конструктор ракетно-космической техники С.П. Королев.
Совет Министров РСФСР распоряжением от 13 мая 1960 г. принял решение осуществить строительство в г. Калуге Государственного музея К.Э. Циолковского. В 1960-1961 годах Госстрой РСФСР и Союз архитекторов СССР провели открытый конкурс на проект здания будущего музея, на который поступило более 220 работ. Первую премию получил авторский коллектив в составе архитекторов Б.Г. Бархина, В.А. Строгого, Н.Г. Орловой, К.Д. Фомина. В 1968 году за этот проект они были удостоены Государственной премии РСФСР в области архитектуры.
3 октября 1967 года состоялось торжественное открытие музея.
За пятьдесят лет ГМИК им. К.Э. Циолковского посетили более 11 млн. человек, музейный фонд насчитывает около 80 000 предметов и продолжает постоянно пополняться.