La guillotine étant installée place du Carrousel puis place de la Révolution (place de la Concorde), on alla au plus pratique pour inhumer les premières fournées de victimes. Sa proximité et sa structure déjà prête faisaient du cimetière de la Madeleine l'endroit idéal pour y entasser les corps.
Au rythme où fonctionnait la "décoiffante", le cimetière se remplit très vite.
Déjà, lors des grandes chaleurs de l’été 1792, les habitants de ce quartier s’étaient plaints des odeurs épouvantables qui en émanaient. Un citoyen du quartier du Roule, dans la séance de sa section du 17 juillet 1793, avait proposé d’adresser à cet égard une réclamation au conseil de la Commune.
Mais le lendemain, un membre de la même section fit observer que l’arrêté pris la veille était « dangereux, impolitique et capable d’accréditer les bruits faux que les ennemis du bien public font courir en disant que la peste règne sur Paris » !
Finalement, les exigences hygiéniques et le malaise de ce quartier chic l’emportèrent. Il ferma définitivement le 25 mars 1794 pour être remplacé par le cimetière des Errancis ou de Monceau.