Инициатором создания и первым директором музея стал заслуженный профессор Московского университета, доктор римской словесности и историк искусства Иван Цветаев – отец знаменитой поэтессы Марины Цветаевой. 

По его замыслу, помимо оригинальных экспонатов, в музее должны были также содержаться гипсовые слепки, макеты, живописные и гальванокопии шедевров мирового искусства, иллюстрирующие основные этапы истории классических народов с древних времен до нового времени.

Здание музея строилось с 1898 по 1904 годы. Его официальным названием стало – «Музей изящных искусств имени императора Александра III». Экспозиция создавалась на основе экспонатов из Кабинета изящных искусств и древностей Московского университета. К работе были привлечены выдающиеся русских ученые: искусствоведы Никодим Кондаков, Дмитрий Айналов и Владимир Мальмберг, египтолог Борис Тураев, художники Владимир Васнецов, Василий Поленов, Александр Головин, Игнатий Нивинский. 
Гипсовые слепки и другие копии заказывались в 1890-1911 годах в зарубежных мастерских по формам, снятым непосредственно с оригиналов. 

Музейное собрание украсила также уникальная коллекция предметов древнеегипетского искусства и культуры, собранная русским ученым-египтологом Владимиром Голенищевым. Там имелись: и подлинники произведений классической итальянской живописи, и предметы декоративного искусства 13-15 веков, и большая нумизматическая коллекция. 

(31 мая) 13 июня 1912 года состоялось торжественное открытие Музея изящных искусств имени Александра III. С 1937 года и поныне это Музей изобразительных искусств им. А.С.Пушкина. 

В 1991 году Музей внесен в Государственный свод особо ценных объектов культурного наследия народов Российской Федерации. Сегодня его живописная коллекция включает свыше 400 000 картин, гравюр, рисунков, плакатов, начиная с 14 века и до наших дней.