Theo sử sách, đê ở miền Bắc có từ đầu thế kỷ thứ VI, tuy nhiên nó chỉ là các bờ bao, bờ vùng phục vụ cho việc chắn nước cục bộ trong phạm vi hẹp của một khu vực dân cư. Khi Lý Công Uẩn chọn vùng đất vốn trước đó là thành Đại La làm kinh đô và đặt tên là Thăng Long thì việc đắp đê ngăn nước vào mùa lũ càng trở nên quan trọng. Năm 1078 nước sông Tô Lịch dâng cao hơn mặt đê khiến nước tràn vào đến cửa Đại Hưng (khu vực Cửa Nam hiện nay). Song mối đe dọa lớn nhất không phải là sông Tô Lịch, Kim Ngưu mà là sông Nhĩ Hà (sông Hồng) nên năm 1108, vua Lý Nhân Tông đã cho đắp con đê đầu tiên ngăn nước sông Hồng hung dữ với thành Thăng Long tại phường Cơ Xá (khu vực Nghi Tàm ngày nay).
Ngược dòng thời gian, thành Thăng Long (trên nền thành Đại La) đã có đê bảo vệ. Năm 824, chính quyền đô hộ nhà Đường dời phủ từ Long Biên về huyện Tống Bình gần sông Tô Lịch và đắp một hệ thống thành gọi là La Thành. Năm 886, nhà Đường cho sửa lại đê gồm 4 mặt, dài 1982 trượng linh 5 thước, cao 2 trượng linh 6 thước. Ít lâu sau, nước sông Tô Lịch và sông Hồng dâng cao đê tràn cả vào phủ trị nên quan trị sở lại cho đắp đường đê bao bọc ngoài phủ dài 2125 trượng linh (khoảng 8500 mét). Con đường từ Hoàng Hoa Thám đến Cầu Giấy hiện nay chính là dấu tích của con đê cách đây hơn 1000 năm. Đình Lãng Bạc (tên Nôm của thôn Thượng Thụy, xã Phú Thượng, quận Tây Hồ) thờ Long Thần thủy thần. Tương truyền thế kỷ thứ IX ở đây chưa có đê nên trong một đêm nước sông Hồng dâng cao đột ngột đã cuốn phăng cả dinh cơ của viên quan thái thú nhà Đông Hán cùng bốn người. Dân làng cho rằng thủy thần đã giết chết thái thú nên đã cho dựng đình trên nền cũ của dinh để thờ thủy thần. Khi có đê thì làng đã di chuyển đình vào bên trong.
Gọi là đê nhưng đê Cơ Xá không cao như bây giờ nên vào những năm nước lên to, nhiều khu vực trong kinh thành bị ngập úng. Theo Đại Việt sử ký toàn thư, năm 1265 nước ngập phường Cơ xá, năm 1270 nước to đến mức đi lại trong thành phải dùng thuyền. Từ đó việc đắp đê càng được coi trọng và không chỉ đắp đê bảo vệ Thăng Long mà nhiều tỉnh khác cũng phải đắp đê để bảo vệ mùa màng và làng xóm. Tuy nhiên đê thời Lý chưa có qui hoạch. Do thành nằm ngay sát đê nên đời Trần, những năm 1238, 1243 nước vẫn tràn vào kinh thành, bến Triều Đông (còn gọi là bến Đông Bộ Đầu, nay là khu vực phố Hàng Than) và bến Thái Tổ (nay là phố Nguyễn Du) trắng nước. Năm 1248, vua Trần Thái Tông lập ra quan hà đê có chánh sứ và phó sứ phụ trách tại các lộ phủ. Nhà Trần cũng cho đắp đê từ đầu nguồn tới cuối nguồn gọi là đê quai vạc, đây là bước ngoặt trong lịch sử thủy lợi Việt Nam. Đê quai vạc không chỉ đắp tại đồng bằng sông Hồng mà còn tại Thanh Hóa, Nghệ An, song đê thời Trần không cao và đắp đê với mục đích để nước không tràn vào đồng. Đến triều Lê Sơ (1428-1527) cùng với việc cho đắp những con đê mới lớn hơn, họ cũng cho tôn tạo hệ thống đê cũ trên hai bờ sông Nhĩ Hà bằng đất, đá để bảo vệ Thăng Long. Vua Lê Thánh Tông theo nhà Trần cũng đặt ra chức quan hà đê lo đê điều. Trong giai đoạn này, tương ứng với trục đường phố Hàng Than, Hàng Giấy, Hàng Đường và kéo xuống tận phố Bà Triệu rồi sang phố Nguyễn Du hiện nay là con đê bảo vệ thành. Cuối đời Lê, phường Hà Khẩu (nay là Hàng Buồm) nơi triều đình qui định cho Hoa kiều cư trú và những hiệu buôn khách trú, để tránh úng ngập, họ đã tự nguyện tải đá về kè đê để ngăn nước lũ. Cùng với đắp đê thì xây nhà cao tầng cũng là giải pháp tránh lũ nên thế kỷ thứ XVII, Thăng Long xuất hiện nhà cao hai, ba tầng vì không còn là đất của Thiên Tử nữa do vậy các qui định không còn tác dụng. Khi người Hà Lan mở thương điếm ở Thăng Long, thương điếm nằm giữa sông Nhĩ Hà và Tô Lịch, vào mùa nước bị lụt lội, các thương nhân đề nghị triều đình đắp thêm con đê mới theo mép sông Nhĩ Hà đến cửa sông Tô Lịch (phường Hà Khẩu) tương ứng với các con phố ngày nay: Mã Mây, Nguyễn Hữu Huân, Lý Thái Tổ, Ngô Quyền. Năm 1888, công sứ Hà Nội cho lấy đất ở đê Lý Thái Tổ để lấp ao hồ làm công viên mà nay là vườn hoa Lý Thái Tổ.
Dù đã chuyển kinh đô vào Huế và Thăng Long bị hạ cấp xuống trấn nhưng Gia Long hiểu rằng muốn tranh thủ lòng dân không có gì khác hơn là phải an cư lạc nghiệp cho dân Bắc Hà, đặc biệt là trấn Bắc Thành nơi có rất nhiều sỹ phu không ưa nhà Nguyễn sinh sống. Ngay sau khi lên ngôi, Gia Long đã hỏi han về lụt lội. Sau khi nghe quan lại Bắc thành tâu: "Thế nước sông Nhĩ Hà lên tất mạnh. Đê tả hữu thuộc Tây Sơn, Kinh Bắc, Sơn Nam thượng, hạ nhiều chỗ vỡ lở. Xin cho dân đắp ngay để chống lụt mùa thu. Thủy đạo các trấn nhiều nơi úng tắc, xin hạ lệnh cho trấn thần tùy thế khơi vét". Gia Long đã truyền cho các quan ở các trấn phải "Soi đào sông ngòi và các cửa bể, và nhất là ở Bắc Thành phải giữ gìn đê điều cho cẩn thận: chỗ nào không có thì đắp thêm, chỗ nào hư hỏng thì phải sửa chửa lại". Minh Mạng lên ngôi năm 1820, không chỉ duy trì luật lệ về đê điều từ triều Gia Long mà còn bổ sung thêm nhiều điều khoản rõ ràng hơn. Minh Mạng còn dụ thêm rằng: "Đắp đê là chống nước lụt cho dân yên ở, quan hệ lợi hại không nhỏ". Theo mô tả của bác sỹ Hocquard trong cuốn Một chiến dịch ở Bắc Kỳ thì từ năm 1883, đoạn đê vào khu Đồn Thủy ( khu vực từ Bảo tàng Lịch sử kéo xuống bệnh viện Hữu Nghị hiện nay) đã rất cao nhưng năm 1884 mưa bão lớn làm vỡ 60 mét đê, biến khu Đồn Thủy nằm trong biển nước, điều này lại mang lại may mắn cho quân Pháp vì nước lũ nên quân Cờ Đen đang bao vây Đồn Thủy đành thu quân. Có đê phải có bến và có cầu tầu vì thế mới nói là chợ búa là họp trên cầu tầu chú không có nghĩa là doa búa. Trận lụt năm 1926, Hà Nội bị ngập nặng, vì lúc đó đoạn đê dọc đường Trần Nhật Duật, Trần Quang Khải khá thấp nên Thống sứ Bắc kỳ đã cho đắp cao lên đồng thời củng cố cả hệ thống đê Hà Nội, có nơi đắp cao 14 mét. Họ cũng xây dựng công trình phân lũ đập Đáy I. Thực tế cho thấy việc đầu tư của người Pháp vào đê điều ít có hiệu quả vì từ năm 1905 đến 1945 Hà Nội vẫn xảy ra lũ lụt và đê vỡ.
Sau 1954 chiều dài đê bên tả và hữu sông Hồng của Hà Nội dài khoảng 75 km, nếu tính cả đê sông Đuống là 120 km. Cũng chính vì đê ngày càng cao và kiên cố hơn đã sinh ra các bãi bồi khiến dòng chảy sông Hồng đổi liên tục. Sau trận vỡ đê năm 1971, nhà nước đã ban hành nhiều biện pháp mới, ngoài việc tăng cường hệ thống đê, còn cho xây hồ chứa nước và phân lũ. Khi mực nước sông Hồng tại Hà Nội đến mức báo động 13,4 mét thì nước sông Hồng ở đầu nguồn được xả vào Hà Tây, Vĩnh Phúc, Phú Thọ, Hà Nam và Nam Định. Năm 1996, nhờ có vốn vay của Ngân hàng Châu Á nên hệ thống đê dọc hai bờ sông Hồng trên địa bàn Hà Nội được nâng cấp tương đối hoàn chỉnh. Một số đoạn có đường hành lang hai bên thân đê, mặt đê được cứng hóa bằng nhựa hoặc bê tông. Hiện nay theo thống kê thì Hà Nội hiện có 20 tuyến đê chính với tổng chiều dài 469,913 km.
Từ lâu đê không chỉ là đường đi mà là nơi tập trận giả của đám trẻ trâu, là nơi chờ đợi, hẹn đôi lứa, Nguyễn Bính viết trong Chân quê:
Hôm em đi tỉnh về
Đợi em ở mãi con đê đầu làng
Trong Lời thế cỏ may nhà thơ Phạm công Trú có câu đẹp nhưng rất buồn:
Trăng vàng đêm ấy, bờ đê
Em ngồi em gỡ lời thề cỏ may
Đê với trẻ con các phố nằm sát đê lại chẳng có gì thơ mộng, chúng thích thú đê là tối tối được cha mẹ cho phép ra ị trên mặt đê, gió từ sông Hồng lùa vào mát đít nên nhiều đứa không muốn về.
Ai cũng biết con đê cao với cỏ may "một chiều cả gió bám đầy áo em" nhưng mấy ai nó hình thành thế nào từ sức lao động của hàng vạn con người bao nhiêu đời nay. Và cả hệ thống đê ở miền Bắc thì đó là cả núi công sức và tiền của. Không đơn giản chỉ là vật chất mà là phải đắp ra sao, chỗ nào cao, chỗ nào thấp; nắn dòng để bảo vệ thế nào rồi đi kèm với đê còn là cả hệ thống pháp luật, tất cả đòi hỏi phải rất khoa học. Thời Pháp, Hà Nội có hai nhà thầu chuyên đắp đê và một trong hai ông có tên là Hàn Ái nhà phố Cầu Gỗ. Hàn Ái cũng chính là người đã xây Thủy Tạ bên Hồ Gươm năm 1939. Lần đắp cao đê Trần Nhật Duật và Trần Quang Khải, Hàn Ái đã mộ hơn 1000 phu từ Hà Nam,Thái Bình,Hưng Yên... chuyển đất từ phía nam Hà Nội lên, đưa từ tả ngạn về mới đủ đất đắp cao.
Sử sách ghi lại khi đắp đê bảo vệ thành Đại La, Cao Biền đã cần tới 2500 người thực hiện ròng rã trong nhiều năm. Rồi các triều vua Lý, Trần đến Lê, đắp đê không chỉ có là dân ở các địa phương nơi có sông chảy qua mà là cả dân nhiều nơi khác, nhà nước chỉ nuôi ăn và họ không hề có công xá vì đó là trách nhiệm chung. Việc hộ đê mùa lũ lụt được các vua Trần rất quan tâm, triều đình qui định khi có lũ lụt mọi người đều phải có trách nhiệm. Vua đích thân đi huy động và có năm còn huy động cả sỹ tử ở Quốc Tử Giám.
Mới lên ngôi năm 1803, vua Gia Long đã đồng ý cho xây đắp 7 đoạn đê mới ở miền Bắc với số tiền là 80.400 quan. Không chỉ đắp mới, Gia Long còn hạ lệnh cho quan lại sĩ thứ Bắc Thành điều trần lợi hại "Những huyện ở ven sông trong địa phương các người từ trước đã đắp đê phòng lụt. Song nhân tuần đã lâu, hễ đến mùa lụt thì đê vỡ lở, lúa ruộng bị ngập, người và vật đều bị hại. Bọn người, kẻ thì sinh ở đó, người thì làm ăn ở đó. Thế đất tình người đã từng am thuộc. Vậy đắp đê hay bỏ đê, cách nào hại, cho được bày tỏ. Lời bàn mà có thể thực hành sẽ được nêu thưởng". Trong gần 20 năm trị vì, Gia Long ưu tiên công việc đắp đê ở miền Bắc, năm 1804 sai quan lại Bắc Thành lấy dân đi sửa, đắp đê, sau lại sai quan trong triều là Võ Trinh đi trông coi. Năm 1806, Gia Long lại lấy 95.200 quan tiền trong ngân khố để đắp 12 đoạn đê mới ở miền Bắc.
Năm 1808, lại cho đắp thêm 10 đoạn đê mới tại các huyện Thanh Trì, Gia Lâm, Văn Giang với chiều dài khoảng 1.500 trượng. Năm 1809, theo lời tấu của đô chính Bắc Thành, Gia Long tiếp tục cho đắp thêm 2 đoạn đê mới và tôn cao 2 đoạn đê cũ, chi phí hết 87.000 quan.Cũng năm này nhà vua đặt chức quan đê chính Bắc Thành (trông coi đê điều) rồi cử binh bộ thượng thư Đặng Trần Thường làm tổng lý và quan tham chính bộ Công Nguyễn KhắcThiệu làm tham lý. Bắt đầu từ năm 1809, Gia Long cũng quy định cứ tháng 10 âm lịch hàng năm các quan phủ, huyện, trấn phải lần lượt đi kiểm tra các tuyến đê, sau đó quan đê chính đi kiểm tra lại, thấy đoạn đê nào yếu hay có nguy cơ vỡ vào mùa lũ thì tiến hành tu bổ. Gia Long cũng qui định, tất cả đều khởi công vào tháng giêng hoặc tháng 2, và phải hoàn thành trước khi mùa mưa lũ bắt đầu. Để hạn chế tham nhũng, Gia Long bắt các quan phải báo cáo chi tiết về quy mô, nguồn nhân lực, giá thành từng trượng, thước đất đắp đê. Dưới triều Minh Mạng, hầu như năm nào cũng có các công cuộc trị thủy ở miền Bắc. Có những công trình đại quy mô huy động đến hàng vạn người, cả dân phu và binh lính.Trong 30 năm đầu triều Nguyễn đã đắp 580 km đê mới. Những điếm canh dọc theo đê sông Hồng địa phận Hà Nội và các tỉnh từ thời Nguyễn vẫn còn cho đến ngày nay, khi nước sông dân cao các làng phải cắt cử trai đinh trực ở điếm cả ngày lẫn đêm. Khi nguy cấp thì trống liên hồi và dân trong vùng ai cũng phải đi hộ đê, kẻ trốn tránh bị xử phạt rất nặng.
Năm 1915, sau khi vỡ đê Liên Mạc, Thống sứ Bắc Kỳ đã cho đắp cao hơn, chân đê rộng hơn với khối lượng đất lên tới 32 triệu m3. Sửa đê chống lũ từ 1917 đến 1923 đã cho đắp thêm 9 triệu m3 làm đê Hà Nội cao lên đến 11,5 mét, tổng chi phí cho dự án hết 3 triệu đồng Đông Dương. Năm 1924, Thống sứ Bắc Kỳ lại cho nâng chiều cao đê lên 12 mét để chịu nổi mức lũ cao. Năm 1927 sửa được 420 km dọc sông Hồng đắp thêm 67 triệu m3 với tổng chi phí là 7 triệu đồng Đông Dương. Sau khi miền Bắc hòa bình (1954), nhà nước Việt Nam dân chủ cộng hòa rất quan tâm đến tu bổ đê điều, đặc biệt là các giải pháp khẩn cấp cho sự an toàn của Hà Nội khi nước sông Hồng lên cao vì nơi đây là trụ sở của các cơ quan Đảng và Nhà nước. Từ năm 1954 đến năm 1980, Hà Nội đã đắp thêm 10 triệu m3 đất để gia cố các đoạn đê xung yếu, nâng cao mặt đê.
Hệ thống đê miền Bắc nối với nhau, gần như hoàn chỉnh vào thời nhà Nguyễn. Công sức,tiền của bỏ ra vô cùng lớn nhưng kết quả gần như trái ngược và sông Hồng trở nên hung dữ hơn, phá vỡ đê và gây ngập lụt triền miên. Bị đê chắn nên nước sông không thể tràn vào đồng, vì thế ruộng đồng không còn mầu mỡ, cá tôm không còn vào ao chuôm như trước. Mặt khác sông Hồng bị hai bờ đê ngăn giữ nên phù sa bị dồn ứ làm đáy sông nâng cao và câu chuyện đắp đê như chuyện cổ tích Sơn Tinh và Thủy Tinh. Vua Gia Long đã nhận ra những bất cập này nhưng chưa tìm ra cách nào hay hơn dù biết đắp đê vô cùng tốn kém. Đến Minh Mạng các quan:Đoàn Văn Trường, Đặng Văn Thiêm và Trịnh Quang Khanh đã dâng sớ xin khai sông thay vì đắp đê, các quan cũng xin tạm bỏ đê ở Hưng Yên, Nam Định, Hải Dương. Minh Mạng là vị vua thông tuệ nên ông chấp thuận đồng thời cho đào sông Cửu An để thoát lũ. Tuy nhiên việc thực hiện cũng chẳng dễ dàng vì vô cùng tốn kém trong khi ngân khố có hạn. Năm 1837, Nguyễn Công Trứ đã đề xuất giải pháp phân lũ bằng cách khai đào đoạn khởi đầu sông Thiên Đức (sông Đuống ngày nay) nối với sông Hồng ở phía thượng lưu để chuyển nước từ sông Hồng giải tỏa áp lực lũ ở vùng Hà Nội. Đó là giải pháp vô cùng khoa học để bớt công sức đắp đê nhưng ngân khố có hạn nên đành chịu.
Năm 1846, đời vua Thiệu Trị, Tổng đốc Hà Ninh là Nguyễn Đăng Giai thấy năm nào tỉnh Hà Nội cũng khốn khổ vì chuyện đê điều đã có bản tấu với 12 điểm bất lợi của đê và xin bỏ đê lên vua Thiệu Trị. Nguyễn Đăng Giai viết "Đắp đê phòng lũ, nước không vào được ruộng thì ruộng ngày càng khô ráo. Có cấy lúa cũng không lên được. Mỗi năm đến tiết hạ-thu nước sông trương trật lên là phải đi hộ đông tây, trống thúc huyên thuyên mà đồng ruộng lại khô hạn.Trong đồng mong nước như kẻ đang khát mà bên ngoài sông coi nước như thù. Muốn đào ra lấy nước thì sợ vỡ đê. Muốn hộ đê cho vững thì lúa bị hạn. Đường đê đã nhiều, hao phí tài lực càng lắm. Làm chỗ này, hỏng chỗ kia, kè bên đông thì bỏ bên tây. Đem cái công làm ruộng hữu hạn mà đắp cái đê bối vô hạn, tài lực của dân sao chịu nổi". Nguyễn Đăng Giai cũng đề xuất đào một số con sông để phân lưu đổ về phía đông cho sông Hồng giảm bớt lượng nước đổ vào đồng. Đến đời vua Tự Đức, quan Nguyễn Đăng Khải cũng có bản tấu bỏ đê bên hữu ngạn sông Hồng để lấy nước vào đồng nhưng giữ đê bên tả để bảo vệ Hà Nội trung tâm kinh tế lớn ở miền Bắc. Năm 1861, Khoa đạo Ngự sử Vũ Văn Bính lại dâng bản tấu nói về cái hại của việc giữ đê và cái lợi của việc bỏ đê. Bản tấu đề nghị bỏ hết đê ở các tỉnh Hà Nội, Sơn Tây, Bắc Ninh, Nam Định, Hưng Yên. Trước những đề xuất nghe có vẻ hợp lý nên vua Tự Đức đã triệu tập một hội nghị xem xét, song nhiều quan cho rằng không nên bỏ đê mà tập trung vào việc khơi thông sông Thiên Đức, củng cố hệ thống đê cũ. Như vậy đề xuất của Nguyễn Công Trứ khơi thông sông Thiên Đức từ thời vua Minh Mạng mới được thực hiện, tuy nhiên cũng chỉ thực hiện được một phần và được hoàn chỉnh thêm trong thời Pháp thuộc. Từ đó, sông Đuống trở thành đường thoát lũ quan trọng nhất của sông Hồng.
Sau này đã có những hội nghị bàn về bỏ hay giữ đê được ngành thủy lợi tổ chức, các chuyên gia có ý kiến khác nhau. Bỏ đê có nhiều cái lợi là nước tràn vào đồng mang phù sa làm cho đất đai đồng bằng Bắc Bộ luôn mầu mỡ, đồng thời cũng đưa cá tôm vào ao hồ, song lớn hơn cả là tiết kiệm được ngân sách chi cho tu bổ đê điều hàng năm. Tuy nhiên có nhiều ý kiến phản biện rất khoa học, nếu bỏ đê thì không chỉ Hà Nội mà nhiều vùng cũng sẽ bị ngập lụt vào mùa nước vì do phù sa tích tụ nhiều năm nên đáy sông Hồng cao hơn mặt bằng trung bình của Hà Nội.
Gần đây nhất một số chuyên gia thủy lợi đã đưa ra quan điểm rất đáng chú ý là miền Bắc đã có thêm thủy điện Sơn La và sắp tới là Lai Châu nên có thể bỏ bớt một số đoạn đê sông Hồng vì nước ở con sông này cơ bản được khống chế. Ý kiến này xem ra có cơ sở.