Музей изящных искусств имени Александра III открылся в торжественной обстановке 31 мая (13 июня) 1912 года. На церемонии присутствовали император Николай II и вдовствующая императрица Мария Фёдоровна.
Первым директором музея с 1911 года до дня смерти был Иван Владимирович Цветаев. Его стараниями, многолетними хлопотами по подбору коллекции слепков, его личным безвозмездным трудом стало возможно открытие этого музея.
Новый музей сразу приобрел популярность у широкой публики: посещаемость его доходила в будни до 700–800 человек, а по воскресеньям и в праздники – до 2 500 человек. Приходили в основном преподаватели и учащиеся гимназий, Высших женских курсов, Московского археологического института, Народного университета им. А.Л. Шанявского. Музей интересовал и художников, и представителей духовного сословия. В залах проводились занятия со студентами и экскурсии для публики.
После революции 1917 года музей несколько раз переживал реорганизацию. В 1932 году музей был переименован и получил название Государственного музея изобразительных искусств. В 1937 году ему присвоено имя А.С. Пушкина.