公元前214 年，秦始皇统一岭南后，任命任嚣为南海郡尉。任嚣在古番山和禺山（今仓边路以西）上修筑了番禺城，俗称“ 任嚣城”。当时珠江三角洲范围很小，海水咸潮可涌至番禺城下，任嚣依山傍水筑城，目的是防御外敌入侵。

        任嚣死后，赵陀建立南越国，定都番禺城，第一次把城区扩大到周长十里，俗称“ 越城” ，或“ 赵陀城”。其位置约在今东至芳草街附近，西到华宁里，南到西湖路，北到越华路一带。

        1975年在中山四路今市文化局内，试掘秦汉造船工场遗址时，发现砌有大型印花方砖的宫署走道，以及砖质窗棂、涂朱瓦面等宫室建筑残件，证实这一带原是南越国王宫遗址，这些遗迹展示了南越国当时的建筑水平可与中原相媲美。

        1983年，在解放北路象岗山上发现的南越国第二代国王“文帝”赵眜的陵墓，其墓室设计严谨，布局合理，四壁和顶上都绘有朱墨两色的云纹图案，装饰美观。

        三国吴黄武五年（226 ），孙权建立交、广二州。合浦以南为交州，以北为广州，广州由此得名。交州刺史步骘把交州治所从广信（今广西梧州）迁到番禺，重修越城的西半部，第二次较大规模地把城区向北扩大发展。

        隋唐时代，隋开皇九年（589 ），隋文帝统一全国，发展对外贸易。开皇十四年，下诏在今黄埔区庙头，兴建南海神庙（又称波萝庙），祭祀南海神，庙宇宏伟深广，主体建筑五进，依次为头门、仪门、礼亭、大殿和后殿，是中国著名的海神庙，唐代以后历经扩建、重修，每年都派官员代表皇帝举行祭典，当时庙前有码头，海舶进出，按例到庙拜祭，并可在庙旁扶胥镇交易。这里是古代海外交通贸易的重要商港，以此为起点的海上" 丝绸之路" 通达东南亚、西亚和东非。

        唐朝在广州设市舶使，专门管理对外贸易事务。随着大批阿拉伯人的到来，伊斯兰教传入广州，唐贞观元年（627 ）在广州建立怀圣寺和光塔，寺内有看月楼、长廊、碑亭、经堂、水房、礼拜堂等建筑，西南角矗立着著名的光塔，青砖砌筑，外表以蚬壳灰批荡，圆柱形，无层级，如银笔直指云霄。

        在今光塔街一带还特设“蕃坊”为外侨居住区，由外侨推选" 蕃长" 一人，经中国政府认可，负责兴建学校供外侨子弟上学。

        其时广州经济繁荣，城市扩大，加上唐朝名臣宋璟、杜佑、李复等在广州任职时，多次劝导居民烧砖制瓦，改建房屋，因而出现了各种各样的砖瓦建筑，有曲尺形的平房民居，有重楼叠阁的豪门府等，还有显示出南方特色的干栏式楼房。街道上漂亮的牛车、马车来往奔驰，反映了当时城市建设的进步。

        五代时，公元917 年，刘龑在岭南地区割据称帝，国号南汉，定都广州，有史以来第三次扩建城垣，铲平禺山，向南扩展，大建都城。在城区东南西北各建庙宇7 座，共28座，加上原有的庙宇，使广州城上空，每日晨昏香烟缭绕，梵钟远播。

        同时遍筑离宫别院，在城西开凿西湖（又称仙湖，在今教育路南方剧场北侧），长500 余丈，地连南宫。湖中建洲，为刘龑“聚方士习丹鼎之地” ，故称药洲。湖中有瑰奇怪石九座，称九曜石（故药洲又名九曜园）。沿湖有亭、楼、馆、榭，风景甚美。

        宋代，广州的水陆交通比前便利，珠江三角洲一带建筑起堤围，使粮食生产大幅度增加，有余粮供应福建、浙江等地，广州成了一个大米市，加以附近地区蔗糖、棉布和陶瓷的生产也有很大的发展，广州成为中国南方最大的手工业、商业中心和最大的对外通商港口。

        随着经济的发展，原有城区已不能满足需要，城垣的修建也就频繁起来。

        宋朝300 多年间，广州城的扩建和修缮达10余次。规模最大的一次是北宋庆历四年（1045）陆续加筑中城、东城和西城，是第四次扩大城垣。中城（又称子城）以南汉旧城为基础；东城以赵佗城旧址为基础；西城是为了保护新发展的商业区而扩建的，规模最大，周长十三里多，三城东西相连，它的东面在今德政路附近，西至今惠福西路，南至文明路、大南路和大德路，北面在今豪贤路、越华路和百灵路一带。

        宋绍圣四年（1097），重修六榕寺花塔，建成楼阁式砖塔，八角九级，每两级设暗层，明暗层共17层，高57.6米，朱栏碧瓦，丹柱粉墙，巍峨壮观。

        当时珠江的水面辽阔，号称“ 小海” ，城南的西澳，是重要的内港，在今南濠街一带，外国商船常停泊于此，不仅是广州重要的对外贸易码头区，而且又是一个闹市区，为百货之肆，五都之市，天下商贾多聚集于此。外国商人在其北的“蕃坊”居住，附近还有大市街（今惠福西路）、象牙街、玛瑙巷等街巷。澳边建有共乐楼，高五丈，面临珠江，气势雄伟。宋人程师孟有诗云：“ 千门日照珍珠市，万瓦烟生碧玉城”，反映了宋代广州城的盛况。