В первые десятилетия существования Санкт-Петербурга, вплоть до конца 1750-х годов, эта местность, как свидетельствует старинный источник, «оставалась еще без всякого признака жизни». Правда, в конце 1730-х годов «Комиссия о Санкт-Петербургском строении» предложила: на обширной территории между Фонтанкой и Глухой речкой (нынешним каналом Грибоедова) возвести каменное строение Морского полкового двора, в котором расположились бы казармы и многие учреждения морского ведомства. Но проект этот не был реализован. Позже решено было занять сперва северную часть этого участка, прилегающую к Садовой улице. На этом болотистом месте на сваях в 1788—1789 годах по проекту неведомого нам архитектора построили здание Никольского рынка.
Решение такое было принято, надо полагать, с учетом того, что рынок окажется между тремя водными протоками, по которым удобно доставлять на рынок товары. Название свое; Никольский рынок получил, видимо, от стоящего напротив него собора, построенного в честь святого Николая, считавшегося покровителем моряков. У восточной стены рынка проходил переулок, который в связи с соседним собором именовался Никольским (в советское время улица Мясникова). Рынок был возведен в два этажа. Вдоль галереи первого этажа располагались лавки и лабазы (помещения для торговли мукой и зерном). Во втором этаже были конторы и склады. После пожара 1825 года Никольский рынок был частично перестроен. Справочник по Петербургу 1885 года сообщал, что «главную торговлю этого рынка составляют: рыба, мясо, лабазные, москательные и железные продукты».
Торговля велась, как водится, не только в лавках и лабазах, но и в галереях и на тротуарах у аркады Никольского рынка. Современник рассказывает, что в галереях стояли столы, на них — огромные чайники с каким-то кисло-сладким теплым пойлом, называемым медом; здесь же — стеклянные кувшины с квасом из клюквы; тут же груды вареной печенки, вареные потроха, яйца, булки. В галереях и на тротуарах — толпы торгашей с лотками яблок, апельсинов, лимонов, сахарным мороженым, со спичками и табаком.
В 1930-х годах в Никольском рынке разместился завод эмалированной посуды.
Сейчас (2009 г.) помещения рынка ремонтируются.