北宋景祐元年（1034年），孔庙就东晋学宫扩建而成，因祭奉孔夫子，故又称夫子庙。在学宫的前面建孔庙，目的是在于希望士子遵循先圣先贤之道，接受封建教化。明初为国子学，将上元、江宁两县学并入，后为应天府学。
清朝时期，将府学迁至城北明国子监旧址，将夫子庙原府学故地改为江宁、上元两县县学。清朝咸丰年间再次毁于兵火，同治八年（1869年）重建。民国二十六年（1937年），抗日战争时被日军焚毁而严重损毁。
1984年，市、区人民政府为保护古都文化遗产，经有关专家科学论证和规划，几度拨专款，历数年的精心维修和复建。在东起桃叶渡，西抵中华门1.8公里的秦淮河两侧，一批文物古迹和旅游景点得到了恢复和建设，还兴建了高低错落、富有地方传统特色的河厅河房、歌楼舞榭，以及商业街众多的书肆、小吃店、茶馆与酒楼，并在河上恢复了绝迹多年的“秦淮画舫”。
