太原原本为高、平、广大之意。作为地理称谓，本系泛指。《诗经》、《尚书》、《左传》等典籍中的“薄伐猃狁，至于大原”、“既修大原，至于岳阳”、“宣汾洮，障大泽，以处大原“中的大原皆如此（古“大”与“太”通用）。“太原”作为地名称谓，出现于春秋以后。战国时，太原为赵地，都晋阳。秦庄襄王二年（前248年），秦将“蒙骜攻赵，定太原”，次年“初置太原郡”，治晋阳，为太原置郡之始。秦王嬴政元年（前246年），晋阳反，嬴政遣军平定，复置太原郡。从此，“太原”就变成特定的地名称谓。汉代，为并州太原郡，治晋阳。唐初废郡，开元中置太原府，为太原置府之始。宋太平兴国四年（979年），灭北汉，毁晋阳城，降太原府为并州。七年，移并州治于阳曲县唐明镇。其后，历金、元、明、清、民国至今。
“太原”广义上指太原府或太原市辖境，狭义则专指在唐明镇基础上发展起来的太原城（市）。
并州旧籍所载，古属冀州之域，虞舜以冀州地广，分置并州。《元和郡县志》引《太康地记》：“并州不以卫水为号，不以恒山为称，而云并者，盖以在两谷之间乎？”《释名》：“并者兼并也，言或并或设。”汉武帝元封五年（前106年），为加强中央对郡、国的管理，设十三个州刺史，并州刺史辖监太原等九郡。东汉时并州刺史部署设在太原郡治晋阳城，此为后世称太原为并州，亦称晋阳的渊源。唐开元十一年（723年）改并州为太原府，故并州也被后世作为太原的别称，简称并。
晋阳以地处晋水之北，古人以水北为阳，故取名晋阳。春秋末期，属晋国。据光绪《山西通志》考证，盂、梗阳为祁氏私田之时，晋阳即为赵氏封邑。后晋公室大权旁落，智、韩、魏、赵、范、中行六卿专权，赵简子为发展势力，命家臣董安于在依山傍水的龙山脚下、汾水之滨修筑晋阳城。从战国后期始，晋阳长期为太原地区乃至山西的政治中心，故后世又以晋阳代指今太原。
赵简子，许多人认识他是在小时候听东郭先生的故事时，故事中那个将中山狼追得钻进东郭先生口袋的正是赵简子。
1988年，太原第一热电厂在太原南郊金胜村扩建施工时，发现一片古墓葬。这座位于晋阳古城西北遗址3公里的春秋大墓出土青铜器2000多件，战车10余辆，成为当年全国最重要的考古发现。这座古墓的主人，就是赵简子。
赵氏家族是晋国五卿之一，其辉煌而又历经磨难的家族极富传奇色彩。赵简子的先祖，是跟随晋文公重尔逃亡19年的赵衰，赵衰在重尔重返晋国的过程中以及后来晋文公的称霸战争中都起到了不可替代的作用。
赵衰本是重尔的女婿，公元前655年，为避骊姬之乱，跟随重尔逃到狄国后，狄君送给他们两名女子，妹妹季隗嫁给了重尔，姐姐叔隗嫁给了赵衰，赵盾就出生在这个时候。赵衰跟随重尔历经19年的流离颠沛回到晋国之后，赵衰原配夫人将叔隗和赵盾从狄国接回了晋国。公元前621年，赵衰去世，30岁的赵盾开始执掌晋国国政，功绩卓著却受到晋灵公的屡次暗害，并留下了“赵盾弑君”这个让后人争论不休的疑案。也正是以此为借口，赵盾死后第4年，即公元前601年，晋国司寇屠岸贾发动“下宫之难”，赵氏几遭灭门之祸，只有唯一的遗腹子“赵氏孤儿”赵武幸免于难。
史书记载，屠岸贾发动“下宫之难”并没有请示晋景公，而实际上，人们有理由相信，晋景公事前不仅知情，甚至还给予了某种鼓励或支持，而屠岸贾在实现自己的政治野心的同时，也成为晋景公消除政治隐患的工具，并独自背上了千古恶名。赵武15岁时，屠岸贾在政治权利的角逐中落败，翻手为云覆手雨的晋景公又以“下宫之难”为借口，诛灭屠氏家族，赵氏沉冤得以昭雪。赵武后来出任晋国正卿，使赵氏家族再次兴盛起来。
赵简子就是赵武的孙子，此时，随着势力的不断延伸，同时也为了建立一个稳固的后防，赵简子准备修建晋阳城，他把这一任务交给了曾在他重病昏迷7天7夜时请来神医扁鹊救治的董安于。
这年7月，范氏、中行氏攻打赵简子的采邑，赵简子退守晋阳，晋阳城刚刚建成就遭遇战火。
晋阳城建于何年并没有留下明确历史记载，赵简子退守晋阳，是这座历史古城第一次出现在史书之中。鲁定公13年，也就是公元前497年，《春秋》记载：“晋赵鞅入晋阳以叛”；《左传》记载：“赵鞅奔晋阳，晋人围之”；《公羊传》记载：“晋赵鞅取晋阳之甲，以逐荀寅与士吉射”。据此我们可以确信，晋阳最晚建成于公元前497年，距今已近2500年历史。
公元前458年，浇铸了战国时代近200年光辉灿烂的赵文化基业的晋国正卿赵简子在持晋国政50年之后溘然长逝，接替他的，不是敦厚的长子伯鲁，而是出身微贱，其貌不扬的庶子赵无恤。
智宣子有三个儿子，他传位于智瑶，定立智瑶为继承人。赵简子去世后，智瑶迅速填补了权力真空，执晋国政，凌驾于其他三卿之上，率领其他三卿瓜分范氏、中行氏的领地，驱逐晋出公，扶立了晋懿公。
智瑶在贪欲的操纵下，开始了兼并其他三卿的步骤。公元前453年，他以恢复晋国霸业为名向其他三家索要土地，韩、魏两家迫于智氏的强盛，都交给了他一个万户之邑，只有赵无恤拒绝。于是，智瑶以此为借口统帅韩、魏两家攻打赵氏。
久攻不下，智瑶借山洪爆发之机决开晋水冲灌晋阳，孤城晋阳陷入一片汪洋之中，洪水淹到离城头三版也就是大约两米的地方，城内一片泽国，灶膛内蛙虫滋生，百姓只得悬釜而炊，没有粮食吃的百姓甚至易子而食，尽管如此，却民无叛意。
晋阳危在旦夕之时，张孟谈自告奋勇，深夜缒城而下，乘一叶扁舟潜入韩、魏两家军营，陈述唇亡齿寒的道理，赵氏灭亡之后，接着就会轮到韩、魏两家。阵前倒戈与集团利益的重新组合竟然是如此迅速而又简单地在一夜之间完成。
当智瑶沉浸在吞并三家、独霸晋国的美梦之中时，韩、魏两家已经杀死守堤军士，使晋水倒灌智瑶军营。在赵、韩、魏三军的夹击下，智瑶一败涂地。
智氏灭亡后，晋国实际上已分裂为赵、韩、魏，但晋公室名义上还保留了半个多世纪，公元前403年，周威烈王正式册封赵、韩、魏三家为诸侯，这就是三家分晋，山西，因此也就被称为三晋。
到了公元960年正月，在陈桥兵变的赵匡胤皇袍加身，建立宋朝。平息后周节臣李筠、李重进的兵变之后，志在一统的宋太祖开始逐步实现他结束五代乱世、平定天下的宏图伟业。
公元968年起，赵匡胤多次围攻晋阳，均无功而返。
公元979年2月15日，赵光义从开封出发御驾亲征。5月，刘继元派遣李勋出城接洽投降，赵光义接受了降表，同时派遣薛文宝持诏入城抚谕。
赵光义既害怕军人凭借城坚池深的晋阳城再进行叛乱或割据，更害怕凝聚着王者之气的太原出现与他争国夺帝位的真龙天子，5月18日，晋阳失陷不到半个月后，赵光义下令火烧晋阳。新城、仓城、大明城、西城、东城、连城，里三城外三城的40里繁华都市燃起了熊熊烈火，火烧之后，宋军又引晋水和汾水冲灌晋阳，最终使这座历经1476年的千古重镇在太原百姓的血泪与后人无奈的感慨之中化为了一片废墟。豪华壮丽的大明宫与晋阳宫，铭刻着唐王功业的起义堂和受瑞坛，还有那血肉铸就的澄空大佛，那么多辉煌的建筑和灿烂的文化，如此轻易地化为灰烬永远地消失在历史的烟尘之中，只剩下一千年后无人共鸣的悲愤。
“龙城”太原，古称晋阳，创建于公元前497年，时为赵国都城。在2000多年的王朝更迭中，有几个极盛期都与山西有着密切联系。西汉时，吕后专权，刘恒遭贬，在晋阳“龙潜”16年后，被拥立为汉文帝，史有“文景之治”；北魏时，创建大同云冈石窟、应县释迦木塔之辉煌；号称“太原公子”的唐太宗李世民以“民可以载舟，也可以覆舟”之理念，谱写了“贞观之治”；一代女皇武则天“听谏任贤”“重典治吏”使盛唐得以延续。及到五代的后唐、后晋、后汉开国皇帝李存勖、石敬瑭、刘知远皆从地处山西腹地的古晋阳坚城堀起，夺取天下，给后人留下了太原的别号“龙城”的佳话。
太原这片凝聚着王者之气的风水宝地已经成为一个成就霸业造就帝王的龙兴之地。汉文帝龙潜太原入主汉宫，李渊父子起兵太原定都长安，高欢父子盘踞晋阳开创北齐，隋炀帝杨广、唐高宗李治即位前都曾任命为以晋阳为封地的晋王，崛起于太原的李存勖、石敬瑭、刘知远和他们创立的后唐、后晋、后汉三王朝以及后来和刘崇和北汉政权更是为太原赢得了“龙城”的美誉。“遗风因唐远，积得本周深。王气缠西北，真人虎视偏”，这首描写太原的古诗，名字就叫《龙城》。
最早的太原古城——晋阳，故址在今太原市西南古城营一带，因城建在晋水之阳（北）而名。晋阳城东临汾河水，西依悬瓮山，是块风水宝地。到了唐代，晋阳城已扩展为横跨汾河两岸，由都城（位于汾河西岸）、东城（位于汾河东岸）、中城（横跨汾河，贯东西二城，又名连城）三个城池组成的大城了。
北宋宰相潘美于公元982年，在汾河东岸距晋阳城东北30里的唐明镇建起了新城。唐明镇故地，一说在现府西街以北、解放路以西之位；一说在今西羊市大关帝庙附近。
当时修筑城池时，只修“丁”字街，不修十字路，因为“丁”和“钉”同音，北宋统治阶级认为一“钉”之下，就会钉破这个藏龙卧虎之地的“龙脉”，便不会再产生反抗的人了。
由于太原地理位置的重要，到宋仁宗时（公元1023年至1060年），又对太原城进行了修建。1025年，太原知州陈尧佐为了防阻汾水泛滥，在汾河东岸筑了长堤，并引水潴成周围2.52.5公里的湖泊。湖畔栽种了几万株柳树，名曰“柳溪”，与东山上遒劲葱茏的古柏苍槐相互辉映，环境优美。所以宋、元时有“花花真定府，锦绣太原城”的美名。
随着社会的发展，太原的工商业也逐步繁荣起来，出现了以集中卖米、柴、莱与日用品的市场，这些市场形成了相应的街巷，如在城区西南的米市街、南市街、柴市巷、菜市巷、麻市巷等，以及手工业商业集中的帽儿巷、靴巷、剪子巷、帘子巷、毡房巷、酱园巷等。
明朝把太原定为“九边”之一，明太祖朱元璋封他的三儿子朱棡为晋王，洪武九年（公元1376年）扩建太原城，面积约8平方公里，周围12公里，城墙高11.711.7米，城设八门：东为宜春（大东门）、迎辉（小东门），南为迎泽（大南门）、承恩（首义门，今五一广场处），西为振武（水西门）、阜城（早西门），北为镇远（大北门）、拱极（小北门）。
晋王府位居城内中部偏东地带，占据全城六分之一。王府宫殿富丽堂皇，宫城开有三个门，叫东华门、西华门、南华门；围绕宫城还有外城，外城墙叫做东肖墙、西肖墙、南肖墙、北肖墙。在肖墙以内还修建了为晋王府服务的各种建筑，如举行祭祀的天地坛，提供膳食的典膳所，游玩嬉戏的花园杏花岭、松花坡等等（清顺治三年［1646年］晋王府失火，从内城烧到宫门，燃烧月余，所有的宫殿和各种建筑化为灰烬，晋王府便在太原消失了）。此外，晋王的宗族还被分封为王，纷纷占地建王府，如宁化府、临泉府、方山府、大小濮府等。这些宫城、王府与衙署及市内的庙宇、钟楼、鼓楼等建筑宏伟华丽，形成了中国封建城市所特有的立体轮廓。太原城经过明代的扩建，基本确定了以后清代、民国的城市规模。
太原有三条以“华门”命名的古街小巷，以其所处原晋王府的地理方位，依次叫做“西华门”、“东华门”、“南华门”。
元之季年，朱元璋领导的明军，驱逐元顺帝，定鼎南京，建立明王朝。明初，被驱出长城之外的元王朝残余势力，时刻图谋复辟，经常率军南下骚扰明之北境。防御元势力的南扰，巩固既得的政权，朱元璋分封诸子为王，藩篱北境。号称为：“多谋善断，威猛能征”的三子朱棡遂被封爵晋王，来到“控带山河，居天下之肩臂”的北方军事重镇太原。
据报道，洪武三年（公元1370年）四月，朱棡受封之后，并未即刻赴并，而是派遣要员——永平侯谢成，先行太原勘测府址，兴建晋王府城。当时之太原城，“周一二十里七十步，四门。”城内狭窄且饱经战乱，难以修筑浩大的晋王府邸。谢成遂选址于太原城之南30余里的晋阳古城遗址，动土兴工。谁知，兴工之初，“椽础既具，一夕大风尽坏。”主建者谢成以为这是选址不吉，上天示警。便另选宫址于太原城外东南。以太原府城之东城墙为府邸外城之西墙，建起了一座规模宏大，宫殿巍峨，有宫城，外城两座城池，六座城门（宫城三门，外城三门）的晋王府。这三座宫城之门，就分别叫做作西华门、东华门、南华门。而今日的西、东、南华门三街，正是当年宫城西、东、南华门，通往外城三门的走道。
清初，晋王府城失火，化为灰烬。关于这次失火之因，《阳曲县志》载曰：“丙戌（顺治三年，公元1646年）四月十二日夜，不知火从何起，烈焰烛天，俱成五色，比日出。自内城，至宫门、大殿、东西斋、灵寿等宫，尽为灰烬。飞烟逾月始息。传曰人火，曰天火，曰灾。晋藩之毁，天与人必当有辨之者。一座历经200多年的宏伟建筑，凝聚着古代劳动人民血汗和技艺的古建筑群，就这样轻而易举地毁之一旦。
晋王府失火之后，仅留两座土城垣尚存。后来清军精骑营驻入火焚故址，随之城中百姓亦逐渐迁入，修建民宅院落，若干年后，这里成为居民密集的住宅区，留下的只是，以王府旧址引得的街巷名称，诸如，以原宫殿台基为名的“东丹墀”、“西丹墀”；以原祭地祈地坛为名的“天地坛”以原晋王管理膳食遗址为名的“典膳所”，以及以宫城门遗址为名的“西华门”。