Особняк был построен для происходившей из младшей ветви Нарышкиных, русской аристократки, фрейлины, «светской львицы», кавалерственной дамы баварского Ордена Терезы-Зинаиды Ивановны Юсуповой. Любительница необарокко, Юсупова оформила в этом затейливом стиле интерьеры Литейного дома, Юсуповской дачи в Царском Селе и дворца на Мойке.
Тем не менее, первоначальный проект здания разработал архитектор Гаральд Боссе, затем завершал работу над проектом и руководил строительством Людвиг Бонштедт.
Строительство началось в 1852 году и закончилось в 1858. В итоге двухэтажное, изящное получилось здание выполненным в формах архитектуры итальянского Возрождения с использованием элементов барокко. Фасад украшают колонны и пилястры. Здание полностью облицовано камнем — песчаником: местным, гатчинским, и бременским, из Германии. Кариатиды у парадного входа, выделенного порталом, сделаны из того же камня. Пышно оформлены и интерьеры дворца. Многие плафоны и медальоны выполнены художником, историческим живописцем Николаем Майковым. Особенно красивы библиотека, Портретный и Концертный залы.
Последний дореволюционный владелец особняка — правнук Зинаиды Ивановны Юсуповой и младший сын Зинаиды Николаевны Юсуповой — Феликс Юсупов. Зинаида Николаевна известна как богатейшая российская наследница и благотворительница своего времени, последняя в роду Юсуповых. Последняя перед национализацией владелица знаменитой, подмосковной усадьбы Архангельское и кавалерственная дама баварского ордена Терезы. Феликс же, последний из князей Юсуповых, известен как участник убийства такой одиозной фигуры как Григория Распутина и автор 2 книг воспоминаний — «Конец Распутина» и «Мемуары».
В 1908 году здание было отдано в аренду Театральному клубу при Союзе драматических и музыкальных писателей. Здесь работал театр малых форм,знаменитый театр пародии «Кривое зеркало».
Во время Первой мировой войны здесь работал госпиталь. После 1917 года — Польский дом просвещения имени Махлевского, с 1934 года — Дом политического просвещения.
В 1950 году здание было передано в распоряжение общества «Знание».
С 1994 года в этом же здании находится Институт внешнеэкономических связей, экономики и права. Здесь читал свои лекции по экономике Анатолий Собчак.
Особняк княгини Зинаиды Юсуповой на Литейном проспекте при всей своей красоте не относится к числу легко доступных мест: попасть туда можно через экскурсионные агентства, театральные кассы, при покупке билетов на оперетту, или же при посещении курсов и лекций общества «Знание».
Во дворце продолжает в настоящее время работать экспериментальный театр. Дворы дворца Юсупова выходят в сторону улицы Короленко