В марте 1932 года Государственная Оружейная палата из Наркомпроса передаётся в ведение Комитета по заведованию учёными и учебными учреждениями при ЦИК СССР. Утверждается новый сокращённый штат и структура музея. Филиал Оружейной палаты Дом боярина XVII века передаётся в Исторический музей. В июле 1933 года к Оружейной палате присоединяется мемориальный кабинет В. И. Ленина.
В составе Управления комендатуры Московского Кремля музей практически теряет свою самостоятельность как учреждение культуры. Отсутствие квалифицированных музейных специалистов, прерванные контакты с музейной общественностью, затруднённый доступ экскурсантов превращают музей в хранилище экспонатов.
В марте 1939 года директором Государственной Оружейной палаты был назначен Николай Никитович Захаров. Инженер по образованию, он также, как и его предшественники — директора 1930-х годов, не имел никакого опыта музейной работы. Но его добросовестность, стремление освоить новую профессию помогли ему успешно руководить работой сотрудников музея в очень не простой период его истории. В 1938–1939 годах в музее работает Комиссия по учёту музейного имущества и материальных ценностей Государственной Оружейной палаты и Памятников Кремля. Она отмечает ряд недостатков в постановке учёта и хранения. Под руководством Н. Н. Захарова в 1940 году начинается работа по составлению новых учётных документов.
В июне 1941 года работа была прервана Великой Отечественной войной. Сотрудники музея, при активной помощи со стороны коменданта Кремля генерала Н. К. Спиридонова, спешно упаковали и летом 1941 года эвакуировали сокровища кремлёвского музея в Свердловск. В период эвакуации продолжалась начатая ещё перед войной работа по созданию единой охранной описи всех коллекций музея.
Из эвакуации вещи были возвращены 20 февраля 1945 года, а уже в апреле была открыта первая после войны экспозиция музея.
В первый день войны допуск в Кремль немногочисленных экскурсантов с утра был прекращён, а 23 июня по распоряжению коменданта Московского Кремля Николая Кирилловича Спиридонова коллектив музея — директор Н. Н. Захаров, контролёр Н. А. Ефимов, научный работник Н. В. Гордеев, экскурсоводы В. С. Валуев, А. А. Гончарова (Старухина), К. П. Наумова, Е. А. Крестьянникова, реставраторы А. П. Клюйкова, А. Н. Кривцов, зав. учётом М. А. Кирильцева, делопроизводитель О. С. Владимирова, вахтёр и несколько технических сотрудников, уборщиц, приступил к демонтажу экспозиции и упаковке экспонатов Оружейной палаты в ящики. Сначала предполагалось укрыть ценности на территории Кремля — в Тайницкой башне, подклете Благовещенского собора и других зданиях, однако обстановка на фронте ухудшалась, враг стремительно приближался к столице. 30 июня Н. К. Спиридонов принял самостоятельное решение об эвакуации сокровищ на Урал, и директор музея Николай Никитович Захаров в тот же день получил предписание отбыть с наиболее ценными экспонатами из Москвы. Одновременно с ним сопровождали груз А. В. Баянов, Е. А. Ефимов, Н. В. Гордеев, О. С. Владимирова, охрану ценностей осуществляли красноармейцы. В 10 часов вечера три пульмановских вагона с экспонатами отбыли с Северного (Ярославского) вокзала. В ночь на 5 июля они благополучно прибыли в Свердловск. Однако в дороге не обошлось и без происшествий, примерно посередине пути было обнаружено расхождение досок и трещины в полу одного из вагонов. Состав был задержан, пол отремонтировали. Через три дня В. С. Валуев доставил и вторую группу экспонатов, а 10 июля А. А. Старухина (Гончарова) была в Свердловске с последней группой памятников.
Экспонаты были размещены в небольшом помещении (около 154 кв. метров) в здании УНКВД на ул. Ленина, сохранившемся до наших дней. Всего было эвакуировано 75 % экспонатов Оружейной палаты, в залах музея осталась только коллекция экипажей, упаковка и транспортировка которых из-за больших размеров в тех условиях была невозможна. Из-за сложности демонтажа иконостасов не была эвакуирована и большая часть икон из кремлёвских соборов.
С середины июля Москва стала систематически подвергаться массированным бомбардировкам немецкой авиации. Пострадал и Кремль, одевшийся в маскировочные одежды. Золотые купола и кресты храмов были выкрашены тёмной краской, рубиновые звёзды выключены и зачехлены тёмной материей. Царь-колокол был укрыт под настилом досок. На крышах зданий установлены пулемёты, под стенами собора Двенадцати апостолов находились броневики.
Основной задачей для сотрудников Оружейной палаты в Свердловске стало обеспечение безопасного хранения вывезенных из столицы памятников, исключавшего малейшую возможность их хищения. Кстати, во время транспортировки ни одна пломба на ящиках с сокровищами не была сорвана, экспонаты в основном доехали без повреждений. В течение июля все ящики были вскрыты, все экспонаты сверены с поящичными списками. 4 августа Н. Н. Захаров отправил в Кремль рапорт о доставке и размещении предметов, одновременно он просил организовать эвакуацию в Свердловск наиболее ценных икон и экспонатов из соборов, прислать необходимые упаковочные материалы для более тщательной упаковки ценностей. До конца 1941 года условия их хранения были существенно улучшены.
Одним из основных направлений работы музейщиков в эвакуации стало сличение экспонатов с научными описями и материалами Комиссии по проверке деятельности Оружейной палаты 1939–1940 годов. В результате этого кропотливого труда была создана охранная опись Музеев Кремля, до сих пор не утратившая своего значения. Одновременно проводилась реставрация ряда предметов. Так, были приведены в порядок часть трофеев Полтавской битвы, восстановлено коронационное платье императрицы Елизаветы Петровны.
Любопытно отметить, что уже к весне 1942 года, когда на фронтах шли тяжёлые бои и победа была ещё далека, началась подготовка к восстановлению экспозиции после реэвакуации — создание планов работ, макетов и художественных проектов музейных залов и отдельных витрин, текстов экскурсий и так далее. При указании каждого вида работ обязательно отмечалось количество времени, необходимое для их выполнения. Именно эта чёткость и продуманность действий позволила позднее восстановить экспозицию в самые кратчайшие сроки. Несмотря на тяжёлые условия проживания и голод, сотрудники отдавали часть своего заработка в Фонд обороны.
Беспокоясь о сохранности архитектурных памятников и оставшихся в Кремле экспонатов, Захаров, Гордеев, Баянов и Кирильцева несколько раз выезжали в Москву. Оружейная палата с оставшимися в ней экипажами всю войну находилась под присмотром реставратора тканей М. Г. Баклановой и вахтёра Ф. М. Барашкова. Более 700 экспонатов, преимущественно икон, были вывезены Н. Н. Захаровым в Свердловск.
В 1944 году, когда победа в войне становилась очевидной, сотрудники палаты готовились к возвращению в столицу. Все экспонаты были заново сгруппированы и упакованы так, чтобы их можно было разместить в определённом зале и поставить рядом с нужной витриной. 20 февраля 1945 года сокровища вернулись в Москву, а уже 15 апреля по приказу коменданта Кремля Н. К. Спиридонова восстановление экспозиции должно было быть завершено. Благодаря самоотверженному труду сотрудников музея, работавших по 10–12 часов в день, эта задача была выполнена. 17 апреля 1945 года в залы Оружейной палаты вошли первые посетители — солдаты Кремлёвского гарнизона, помогавшие в эвакуации и возвращении сокровищ. В июне залы старейшего музея Москвы принимали участников парады Победы, прославленных военачальников, Героев Советского Союза. Осмотрел палату и будущий президент США генерал Д. Эйзенхауэр. Новая экспозиция получила самые высокие оценки музейных сотрудников, учёных Москвы и Ленинграда, а также немногочисленных посетителей, для которых было огромным счастьем узнать, что бесценные памятники истории и декоративно-прикладного искусства были спасены для будущих поколений россиян. Но, несмотря на большой интерес граждан СССР и иностранцев к музею, Кремль был открыт для свободного посещения лишь в 1955 году.
Прошли годы, ушли из жизни те, кто способствовал сохранению уникального достояния народа, но сотрудники Музеев Московского Кремля всегда будут с благодарностью помнить своих предшественников, на долю которых выпали суровые испытания.
В начале 1947 года музей вновь теряет свою административную самостоятельность. Оружейная палата и музеи-соборы под названием Отдел сохранения исторических ценностей и памятников Московского Кремля становятся одним из структурных подразделений Комендатуры Московского Кремля. Упраздняется должность директора. Н. Н. Захаров переводится на должность заведующего этим отделом. Музей полностью лишался самостоятельного финансирования, делопроизводства, возможности формировать кадровый состав. Решение вопросов учёта, хранения, реставрации, экспонирования требовало санкции руководителей Комендатуры, весьма далёких от музейного дела.
