衢州于东汉初平三年(公元192年)就因战争所需开始建城，距今已有一千八百多年的历史。后因战乱及各种自然灾害，衢州城屡毁屡建，至宋宣和三年(公元1121年)，才成了一座真正完整的古城，从那时起它有了东门、大南门(即礼贤门)、小南门(通仙门)、水亭门、小西门和北门。

　　　明代，6座城门再度修复。目前，大南门、小南门、大西门等经过修缮，保存尚为完善。修缮后的城门仍由青黑色石砖垒成，有些城墙上还被爬山虎一类的草本植物覆盖，基本上保存了城门的本来面目，衢州城门的一些特点还依稀可见。比如小西门瓮城，就是外城墙与内城墙或护城门之间的一块空地，这样守城士兵就可以打开外城门诱敌深入，然后关闭外城门，内外城以及两侧城墙形成一个瓮状结构，此时消灭敌人就如瓮中捉鳖，易如反掌。这一设计充分体现了劳动人民的智慧。也从一个侧面反映了古代军事思想和战争的战略战术。

　　　衢州四省通衢，为浙西门户，由沿海通往闽赣的咽喉，战略地位十分重要，自古是军事重镇和兵家必争之地。古人说：衢州城是铁打的，衢州的古城门也号称铁衢门，这说法是有来历的，一是它的建筑结构。衢州的城门，除了本身的高大、厚实、坚固，城墙下还挖有丈余深的护城河，还在各城门外修有月城，也叫瓮城，真是城中有城，墙外有墙，层层设防。二是守军将士的英勇顽强。据史载：清康熙十三年(公元1674年)起，衢州曾经过“三藩之乱”，乱臣耿精忠骚扰衢州整整三年，城郊是空前浩劫，几乎是十室九空，人人遭难，独衢州城乱军奈何它不得。耿精忠从此一蹶不振，威风不再，终成憾事。当年太平天国翼王石达开攻打衢州，久攻不下，只得将衢州城团团围住，以期城内弹尽粮绝，发生内讧，不攻自破。谁知到了夏天，城墙上竟晒满了新稻草，大批的新谷已经成熟，城中不愁无粮。原来当时的菱湖一带全是良田，城外的将士一见，顿时军心大乱，终于在攻城91天后，偃旗息鼓，黯然败退。“铁衢州”也因此得名。

　　　水亭门以前也叫朝京门，位于城西，面对浩浩衢江。当时水亭门外是衢州最大的码头，这里江面开阔，帆樯如林，商贾云集，热闹非凡。守城的朝廷命官要进京朝贡或听命差遣就从这里上船出发，携皇命来衢巡视查勘的钦差大臣也在这里上岸入城。因此，当年水亭门外人流如潮，车水马龙，且常有州府送往迎来之类的差事，有礼宾列队，鼓乐齐鸣，前呼后拥的喧闹，更为这忙碌繁华的码头增添一份热闹。

　　　大南门也叫礼贤门。今天看来这座虽说凝重但却并不怎么起眼的古城门，却有着它显赫的昨天。衢州自古多战事，衢州城几乎是三面沿衢江，有着天然的护城河，惟正南面是一片开阔地，要攻入衢州城，大南门自然是首当其冲，一门系衢州城生死，可谓命脉所在，古人说它是衢州城的死穴，因而历来派重兵驻守。硝烟一起，城头便将旗飘飘，鼓号齐鸣，守城兵士就放下城门吊桥，集结的队伍便奋勇当先，冲出城门，越过护城河，杀向敌阵，一时城外杀声震天，你死我活，自然是尸横遍野。待鸣金收兵，胜利者便浩浩荡荡从这里入城。

　　　通仙门也叫小南门，在衢州城的东南面，正对烂柯山，紧靠衢州城的古关隘峥嵘岭。峥嵘岭是古代衢州东南面的入城口，以前，衢州城里的人，要去烂柯山踏春游览，或是去宝岩寺朝拜进香，就从这里出城，经官庄、孔家、游仙渡，然后进柯山门上烂柯山。因此该城门取名为通仙门。