Немного позднее, во второй половине 30-х годов XIX века Михайловым 2-ым в новом доме была создана еще одна анфилада для размещения картинной галереи князей Юсуповых. Ее собрание замечательный художник, искусствовед, писатель Александр Николаевич Бенуа ставил в один ряд с прославленными галереями Лувра, Эрмитажа, Дрезденской галереей. Основателем ее был Николай Борисович Юсупов и поэтому его именем назван первый зал Николаевский.

Вслед за Николаевским шли залы: Прециоза (драгоценный), Антонио Кановы, Античный и Римский. Заканчивалась галерея домашним камерным театром. Театр и декорировка других залов картинной галереи были изменены в конце XIX века архитектором Александром Александровичем Степановым , но основное их членение и объемы (кроме театра) сохранились с первой половины XIX века. С этого времени дошла до наших дней и роспись плафона в Античном зале, выполненная в тридцатые годы XIX века художником Алексеем Ивановичем Травиным. Иногда картинная галерея использовалась и по другому назначению. В одном из описаний балов в доме Юсуповых говорилось, что в «освещенных картинных галереях были накрыты ужинные столы...»

В период 1830—1837 годов архитектором Михайловым переделывается не только дом, но и весь зеленый участок усадьбы. Один только мощеный парадный дворик остался без изменений.

За его оградой вплоть до нынешней ул. Декабристов простирался сад, огражденный прекрасной решеткой, выполненной по проекту Михайлова. Она и поныне украшает участок со стороны улицы Декабристов (б. Офицерская). Такая же решетка ранее обрамляла еще один садик Юсупова, находившийся рядом с Главным домом по набережной Мойки. Сегодня она ограждает сад института физкультуры им. Лесгафта (ул. Декабристов, 35). Обе решетки были изготовлены в 1834 году на Петербургском литейном заводе и обошлись хозяевам в 1000 рублей. Здесь же на границе участка с улицей Декабристов был садовый павильон, позднее переделанный.

Сохранились планы сада того времени, на которых имеется пруд, насыпная горка, газоны. Немного далее садового павильона в глубь участка от пруда вели аллеи и боскеты. На газонах в рабатках росли розы, рододендроны и другие цветы. На горке и в тенистых уголках сада размещались скульптура, беседки. В жаркое время действовали фонтаны. В середине сада, примыкая с другой стороны к парадному дворику, возвышалась теплая остекленная оранжерея, в которой выращивались не только цветы, но и всяческие диковинные фрукты в таком количестве, что даже посылались на продажу.

С набережной реки Мойки с левой стороны нового здания был разбит второй зеленый сад. Значительно меньший, чем основной, со стороны Офицерской улицы. Часть его сегодня занимает здание детского сада.