Во второй половине 1929 года ситуация в музее становится чрезвычайно напряженной. С 1 декабря 1929 г. освобождается от занимаемой должности директор музея Д.Д. Иванов. 13 января 1930 года он уходит из жизни.

30-е годы были трагическими в истории музея. Увольняются почти все ведущие научные сотрудники, часть из них подвергается репрессиям. В 1934 году по так называемому “Кремлевскому делу” был арестован заместитель директора по научной работе В. К. Клейн. После увольнения Д.Д. Иванова, на должность директора музея один за другим назначаются люди, не имевшие ни образования, ни навыка музейной работы. Научная работа в музее практически замирает. Доступ экскурсантов в музей, находящийся на закрытой территории Кремля, крайне ограничен, однако работы по реэкспозиции музейных залов в духе новой идеологии продолжались.

В марте 1932 года Государственная Оружейная палата из Наркомпроса передается в ведение Комитета по заведованию учеными и учебными учреждениями при ЦИК СССР. Утверждается новый сокращенный штат и структура музея. Филиал Оружейной палаты Дом боярина XVII в. передается в Исторический музей. В июле 1933 года к Оружейной палате присоединяется мемориальный кабинет В.И. Ленина.

В начале 1938 года этот Комитет, как не справившийся с возложенными на него задачами, был ликвидирован, а музей передан в Управление Комендатуры Московского Кремля.