Lors de la création de la Ville-Neuve par le duc Charles III de Lorraine à la fin du xve siècle, l'emplacement d'un marché de plein air est prévu sur l'esplanade jouxtant la rue Saint-Dizier. Depuis plus de quatre siècles, le marché occupe ce même emplacement. Auparavant, le marché était situé aux halles de la place Saint-Epvre en Ville-Vieille.

​

Le bâtiment actuel date du milieu du xixe siècle et permit d'abriter un marché de plein air vieux de 250 ans. L'architecte municipal Euclide-Justinien Thiebert, puis son successeur Prosper Morey furent chargés de l'exécution. Le bâtiment ouvrit au public le 1er mai 1852

Une halle centrale fut édifiée au centre de ce bâtiment dans les années 1960. Le bâtiment été rénové en 2003-2006.