沿鸡鸣山东面的柏油马路向前，经过鸡鸣寺大门向西，保留着一段城墙，这就是南京台城遗址。它长约250米，据《上江两县志》载：“鸡鸣寺后之城，乃是明扩建都城时所造。”朱元璋最初大概是想把城墙盖在鸡鸣寺后，向西经鼓楼岗接石头城，后来为了把鸡鸣山、狮子山、马鞍山、石头山等山岗围进城内，扩大了建筑范围。因此鸡鸣寺后这段250米长的城垣，只好弃之不用了。

另据一些历史学家考证，这段城墙所在地，就是东晋和南朝诸代中央政府旧址，世称台城。梁大同十二年（546年）侯景之乱，梁武帝饿死台城。陈太建十二年（580年）隋兵南下，活捉陈后主于胭脂井中。这些经历使台城名扬天下。历代文人墨客到金陵都会去台城凭吊一番。唐代著名诗人韦庄曾在此凭吊：“无情最是台城柳，依旧烟笼十里堤”，诗句脍炙人口。

台城在历史上屡遭破坏，一次是侯景之乱，三年后梁军收复台城时“王师之酷甚于侯景”，第三次是隋灭陈，将建康“城瘭宫阙荡平耕垦”，到五代十国，杨吴先后三次筑金陵府城，台城彻底废除。

台城至太平门段城墙长1.7公里，登临城上，东眺钟山龙蟠苍翠，北赏玄武十里烟柳，南观九华塔影婆娑，西览鸡鸣黄墙青瓦,古刹钟声荡气回肠。