晋国是战国初期的大国，但掌握国家大权的却不是晋王，而是智伯、赵襄子、魏桓子和韩康子四个人。智、赵、魏、韩四家统治晋国，其中智伯的势力最大，但智伯并不满足，时刻想灭亡赵、魏、韩，独霸晋国。
公元前455年，智伯以晋王的名义要求赵、魏、韩三家各拿出100里土地和户口送归公家，表面上是为公，实际上是为了削弱赵、魏、韩三家的力量。魏桓子和韩康子惧怕智伯，只好忍痛交出土地和户口，赵襄子一口回绝道：“土地是祖先传下来的，我不能随便送给别人！”
智伯闻报大怒，召集魏桓子和韩康子来到自己府中，对他们说：“赵襄子竟敢违抗国君的命令，不可不伐。灭掉赵襄子，我们三家平分赵襄子的土地、户口。”
魏桓子和韩康子不敢不听从智伯的话，又见可以分得一份好处，便各自率领一队人马随智伯去进攻赵襄子。赵襄子情知不敌智、魏、韩三家联营，急忙退到先主赵简子的封地晋阳（今山西太原市西南），依靠坚固的城墙、丰足的粮食和百姓的拥戴，以守为攻。
智伯指挥智、魏、韩三家人马把晋阳城围得水泄不通，赵襄子率城内百姓同仇敌忾，激烈的战斗一直打了两年多，智伯仍在晋阳城外，赵襄子仍在晋阳城头，双方难以决出胜负。智伯劳民伤财，又恐日久人心生变，千方百计想要尽快结束这场战争。一天，智伯望见晋水远道而来，绕晋城而去，立刻有了主意。他命令士兵们在晋水上游筑起一个巨大的蓄水池，再挖一条河通向晋阳城，又在自己部队的营地外筑起一道拦水坝，以防水淹晋阳城时也淹了自己的人马。蓄水池筑好后，雨季到来。智伯待蓄水池蓄满水后，命人挖开堤坝，汹涌的大水即沿着河道扑向晋阳城，将晋阳全城泡在水中。但是，全城军民爬上房顶和登上仅剩6尺未淹的城墙上坚持守护，宁死也不投降。智伯得意忘形，大笑道：“我今天才知道水可以用来灭亡别人的国家！”
赵襄子对家臣张孟谈说：“情况已十分危急了，我看魏、韩两家并非真心帮助智伯，我们今天灭亡了，明天就会轮到他们，你去找魏桓子和韩康子吧！”
张孟谈连夜出城找到魏桓子和韩康子，对他们说：“智伯今天用晋水灌晋阳，明天就会用汾水灌安邑（魏都）、用绛水灌平阳（韩都），我们为什么不联合起来消灭智伯，平分智伯的土地呢！”
魏桓子和韩康子正在担心自己会落得与赵襄子一样的下场，于是和张孟谈定下除掉智伯的计策。两天后的晚上，赵襄子与魏桓子、韩康子共同行动，杀掉守堤的士兵，挖开护营的堤坝，咆哮的晋水顿时涌入智伯的营中。智伯从梦中惊醒，慌忙涉水逃命，但前有赵襄子，左有魏桓子，右有韩康子，智伯被杀死，智伯的军队也全部葬身大水之中。
智伯灭亡后，晋国的大权旁落在赵、魏、韩三家之中，这就是后来的赵国、魏国和韩国。