传说在原始社会末期的尧舜时期，我国黄河流域发生了一次大洪水。当时滔滔洪水，浩浩滔天，包围了高山，吞没了田园，九州大地汪洋一片，人民遭到了空前的灾难。
为了生存，人们与洪水展开了搏斗，当时的领导人是鲧。鲧凭藉他过去筑堤挡水的经验，领导人民负土筑堤，拦截洪水，古籍上说：“鲧障洪水”，指的就是这回事，但是由于洪水过大，加上泥堤很不坚实，洪水一到，就被冲垮，毫无防御能力。鲧的堵塞治水办法失败了。
夏禹鲧治水失败后，鲧的儿子禹，继承父志，继续进行治水，他一面“身执耒锸，以为民先”带头参加治河劳动，艰苦的劳动，使他腿上的汗毛都磨光了，身上的皮肤都晒黑了。他一面“行山表木，定高山大川”进行调查和测量。在这个基础上，他总结了前人治水失败的教训，改“堙”为“疏”，将治水的重点放在疏导方面。《淮南子·原道训》说：“禹之决渎也，因水以为师。”所谓因水以为师，就是根据水流运动的规律，因势利导，疏浚排洪，具体的做法是“决九川距四海，浚畎浍距川。”即开通河川将洪水引入大海，又浚畎浍等渠道将洪水排入河川。在禹的领导下，经过13年左右的努力，人们终于战胜了洪水的为害，平息了水患。这13年，禹三过家门而不入，没有因为恋家而忘了治水，表现了他公而忘私，一心治水，为民除害的高大形象。
夏禹治水，是我国人民大规模进行水利建设的开端，它是我国古代人民与大自然顽强搏斗的象征。因此，夏禹治水的故事，几千年来一直激励着人们，并世世代代为人民所传颂。
夏禹治水的伟大成果，不只是平息了水患，同时还创建了一套农田沟洫设施。《论语·泰伯》说：“（禹）卑宫室而尽力乎沟洫”。《史记·夏本纪》也说：“（禹）卑宫室，致费于沟淢（洫）”。所谓沟洫，即是农田中的排灌渠系。这是我国农田中设有沟渠之始。甲骨文中有一个（甽）字，就是田边设有沟渠的反映。这种农田的沟洫设施，发展到周代，已经达到了一定的规模。据《周礼·遂人》、《考工记·匠人》等记载，当时已有、遂、沟、洫、浍等逐级沟洫的设施。这是布置在旱田内的一套渠系，其性质和今日的干渠、支渠、斗渠、农渠、毛渠相类似。在低洼地区，则有另一套布置，《周礼·稻人》的记载是：“稻人，掌稼下地，以潴蓄水，以防止水，以沟荡水，以遂均水，以列舍水，以浍泻水。”潴是蓄水的陂塘，防是堤防，这就是以陂塘蓄水，周围再修筑堤防增加蓄水量，沟是干渠，遂是支渠，用以引水和配水的，列是田埂，用以蓄储田中的水，浍是排水渠，用以排水，这表明当时在低洼地区已有陂塘蓄水工程和灌排的渠系工程，而且二者已经结合起来。这些说明到周代，我国农田中的沟渠布置已经系列化了。农田灌溉事业，已经到了相当进步的程度。