Năm 1883, Bonnal – viên công sứ đầu tiên của Pháp ở Hà Nội, đã lên kế hoạch kiến thiết khu vực xung quanh hồ Gươm, đặc biệt là phía đông để xây công sở phục vụ cho việc thống trị lâu dài của Thực dân Pháp. Con đường quan trọng từ khu vực Đồn Thủy chạy qua Hàng Khảm (này là Tràng Tiền và Hàng Khay) ra Cửa Nam vào thành được cải tạo mở rộng. Hai bên phố Hàng Khảm dần mọc lên những ngôi nhà gạch thay cho nhà lá. Cuối năm 1885, Hàng Khảm là phố đầu tiên được lát vỉa hè và cũng là phố đầu tiên trồng cây phượng, một giống cây bản địa lớn nhanh, mở đầu cho việc trồng cây trên hè phố sau đó.
Tuy nhiên, nếu hai hàng phượng trồng trên hè phố Hàng Khảm lớn nhanh và hoa đỏ rực vào mùa hè tạo cảm giác thích thú cho nhiều người Việt Nam, thì người Pháp sống ở phố này bắt đầu sinh sự. Họ kêu lên tòa đốc lý là cành và thân cây đã che lấp cửa hàng khiến họ không buôn bán được, họ cũng la lối rằng những con ve sầu bám trên cây kêu rầm rĩ vào mùa hè làm họ không ngủ được. Rồi họ vu hai hàng phượng là nơi trú ngụ của muỗi, nguyên nhân gây ra bệnh sốt rét cho người châu Âu. Và thế là chính quyền thành phố ra lệnh chặt hai hàng phượng. Trước đó các phố Hà Nội rất nhỏ, chật chội, các cửa hàng buôn bán chen chúc nhau, không có vỉa hè, không có rãnh thoát nước nên lầy lội vào mùa mưa. Không những vậy, nhiều hồ ao còn nằm lẫn trong khu dân cư và cây cối do dân trồng chỉ có ở những chỗ đất rộng xa phố buôn bán. Nhiều cây nhất là các thôn Cựu Lâu, Phúc Tô, Báo Khánh... ở phía tây hồ Gươm với những cây bản địa quen thuộc như: đa, bàng, phượng, mít... Cây cao tuổi nhất được cho là cây đa nay vẫn còn nằm trong khuôn viên của báo Nhân Dân. Khi tiến sỹ Vũ Tông Phan lập trường Hồ Đình năm 1835 thì cây đa đã vững chắc, nghĩa là nó đã được trồng trước đó. Sinh thời, kiến trúc sư Tạ Mỹ Duật đã xếp cây đa này vào loại "số một Đông Dương". Một cây đa khác cũng có tuổi đời khá cao, nó được trồng vào năm 1865 khi Nguyễn Siêu sửa sang lại đền Ngọc Sơn. Trận bão năm 1977 đã làm cây bật rễ nhưng ngay sau đó người ta đã dùng tời kéo thân nó đứng dậy rồi chống cột và cho đến hôm nay, cây đa vẫn sống và tỏa bóng. Con đường quanh hồ Gươm khánh thành vào cuối năm 1885 đã lấy mất sân đền Bà Kiệu nhưng họ vẫn để lại cây đa. Một cây đa nữa cũng vào hàng cao niên là cây đa ở 87 phố Hàng Gai. Nhà nghiên cứu Nguyễn Vinh Phúc cho rằng đó là cây đa Cô Quyền, vì cạnh cây đa có quán nước của một người đàn bà tên Quyền. Còn trong cuốn Nhớ gì ghi nấy của nhà văn Nguyễn Công Hoan thì nói đó là cây đa Cu Quyền, vì Quyền chuyên làm thuê, tối ngủ dưới gốc cây. Nhưng trong bộ sách đồ sộ ba tập Hà Nội nửa đầu thế kỷ XX, nhà nghiên cứu Nguyễn Văn Uẩn lại gọi là cây đa Cửa Quyền, cây đa là chỗ dân nghỉ ngơi khi vào Phủ Doãn. Trong gia phả họ Nguyễn Đình (gốc ở Hạ Thái, xã Duyên Thái, huyện Thường Tín) nhưng sống ở Thăng Long từ thời Lê-Trịnh cũng ghi là cây đa Cửa Quyền. Đối diện với siêu thị Intimex ( phố Lê Thái Tổ) có một cây muỗm, khi người ta làm đường quanh hồ Gươm, công sứ Bonnal đã cho giữ lại. Năm 1954, muỗm chín rụng đầy gốc cây. Nhưng từ đó đến nay, năm nào cây cũng ra hoa nhưng không có quả!?
Khi Hà Nội trở thành nhượng địa năm 1888 thì kế hoạch mở rộng và xây dựng thành phố theo kiểu châu Âu được triển khai nhanh hơn. Để đáp ứng đủ yêu cầu giống cây xanh trồng trên phố, trong năm 1888, một số nhà thực vật người Pháp đã thành lập vườn Bách thảo để trồng cây và nuôi chim thú ngay sát làng Ngọc Hà. Trong bản đồ do người Pháp vẽ năm 1890 ghi là Jardin d’essal (Vườn thí nghiệm thực vật). Khi mới hình thành, vườn có diện tích 33 héc ta, đất đai không bằng phẳng có gò núi do dồn đất lên cao, có ao hồ. Người ta cho chặt tre, chuối, các cây leo để mở lối đi lại. Vườn được chia thành hai khu: khu cao làm vườn Bách Thảo, khu thấp làm vườn ươm (sau tách riêng thành vườn ươm Laforge ở đầu phố Thụy Khuê). Laforge ươm các giống cây nhập từ châu Phi, châu Mỹ và châu Âu. Khi cây ở đây lớn lên tỏa bóng mát thì một số học sinh trường Bưởi (trường Chu Văn An hiện nay) nhà ở xa, xe đạp không có, buổi trưa thường vào đây ngồi dưới bóng cây ôn bài. Những năm 60 của thế kỷ trước, Bách thảo là nơi học về các loài thảo mộc của sinh viên trường dược.
Năm 1897, Paul Doumer nhận chức chức toàn quyền Đông Dương đã ra nhiều văn bản trong đó xóa bỏ nhà lá, cấm làm nhà lá ở các phố nay là Hàng Trống, Lê Thái Tổ, Tràng Tiền, Hàng Khay và dân khu vực "36 phố phường" khi xây nhà phải xây thẳng hàng, có rãnh thoát nước... Năm 1902, Hà Nội trở thành thủ đô của Liên bang Đông Dương thì người ta càng chú ý đến bộ mặt đô thị. Chính quyền cho treo biển tên phố, đánh số nhà, tuy nhiên ở khu vực "36 phố phường" do vỉa hè hẹp nên không trồng cây. Còn ở khu phố mới (hay còn gọi là khu phố Pháp) ở phía nam hồ Gươm bao gồm các phố nay là Bà Triệu, Hàng Bài, Hai Bà Trưng, Lý Thường Kiệt, Trần Hưng Đạo,... ngoài lát vỉa hè thì chính quyền thành phố bắt đầu cho trồng cây để người đi bộ tránh cái nắng gay gắt mùa hè của xứ Bắc Kỳ.
Cây xà cừ nhập từ châu Phi rất được chú ý bởi lớn nhanh cho nhiều bóng mát nên họ cho trồng thử ở khu vực Bách Thảo và xung quanh khu vực này. Tuy nhiên, khi cây lớn, các nhà thực vật đã phát hiện xà cừ không phù hợp với Hà Nội vì rễ ăn ngang gây nguy hiểm cho nhà dân và tính mạng vào mùa mưa bão; lá rụng quá nhiều và không chịu được đất trũng ứ nước nên họ đi tìm các giống khác. Tiêu chí các nhà thực vật đề ra là có bóng mát quanh năm, công nhân vệ sinh không vất vả, rễ ăn sâu để an toàn khi mưa bão và tốc độ lớn vừa phải nên họ chọn ra bộ cây gồm: sấu, sao, muồng, cơm nguội, sưa, bằng lăng... thay cho xà cừ. Cùng với tiêu chí đó, họ cũng trồng mỗi phố một loài cây để tạo ra kiến trúc phong cảnh, phố Phan Đình Phùng, Lê Thánh Tông, Hai Bà Trưng, Trần Hưng Đạo... chủ yếu là sấu, Lý Thường Kiệt trồng cây cơm nguội, đoạn đầu phố Lò Đúc trồng cây sao, Nguyễn Du trồng hoa sữa... Các công sở thì cho trồng cọ châu Phi, ngọc lan. Còn vườn hoa trồng bằng lăng, sưa, điểm thêm cọ. Theo luận án phó tiến sỹ (nay là tiến sỹ) của ông Nguyễn Cao Mại ( giám đốc công ty Công viên cây xanh từ khoảng 1992 đến 2004, ông Mại bảo vệ luận án năm 1994) về cây xanh Hà Nội thì đến năm 1954, Hà Nội có 1512 cây sấu chiếm tới 60% trong tổng số cây xanh ở bốn quận nội thành. Đến đầu những năm 1990 còn 1478 cây và năm 2003 còn 1400 cây. Sấu được trồng đầu tiên ở phố Phan Đình Phùng vào khoảng 1920, sau đó trồng đại trà trên các phố. Vì sao họ lại chọn sấu làm giống cây chính trồng trên phố? Sấu là giống bản địa có ở nhiều tỉnh thành phía Bắc Việt Nam, thân thẳng, tán gọn, rễ cọc, lá rụng một lần nên thuận tiện cho công việc vệ sinh. Kể từ khi cây sấu trồng trên phố Hà Nội cho đến nay hiếm thấy giống cây này bị đổ do mưa bão. Nhưng sấu còn có những đặc tính mà các cây khác không có là lá hình mắt nai rất đẹp, mùa hè luộc rau muống bè mà không có sấu xem ra mất ngon rồi, lại còn món sấu dầm, sấu chín, thứ quà gắn với đám học trò một thời.
Quanh khu vực hồ Gươm, ngoài các giống cây nhập họ còn trồng rất nhiều giống cây gốc bản địa như: sưa, lộc vừng, phượng, dừa... Phía đông hồ trồng hai cây gạo, một trước đền Ngọc Sơn và một ở mép hồ trước tượng đài Lý Công Uẩn ngày nay. Đặc điểm sinh học của cây gạo là vào mùa xuân, lá rụng hết và đến tháng Ba, trên cành khẳng khiu hoa nở đỏ ối vào những ngày có sương mỏng, hoa gạo đỏ mờ bên hồ giống như bức tranh lụa. Tuy nhiên cây gạo không có tác dụng che mát, cành lại giòn rất nguy hiểm trong mùa mưa bão. Vậy tại sao người ta vẫn trồng? Trong một cuốn sách, một giáo viên người Pháp từng dạy ở trường Trung học Bảo hộ viết: "Tôi ngạc nhiên tại sao quanh hồ Gươm lại có hai cây gạo, vì những gì trong hiểu biết của tôi thì giống cây này thường được trồng ở đầu làng hay cánh đồng tại các tỉnh đồng bằng Bắc Kỳ với ý nghĩa là nơi trú ngụ cho ma quỷ để nó tránh quấy nhiễu dân làng." Trong dân gian Việt Nam có câu "thần cây đa, ma cây gạo, cú cáo cây đề", có lẽ chính quyền muốn trồng gạo để ma quỷ khỏi quấy nhiễu tòa đốc lý (nay là UBND Thành phố) chăng? Hiện nay chỉ còn một cây còn cây gạo trước đền Ngọc sơn đã chết và từ nhiều năm nay, cây gạo này cũng không thấy ra hoa.
Mép hồ chỗ đối diện với phố Trần Nguyên Hãn có cây lộc vừng trồng vào thập kỷ thứ hai thế kỷ XX. Lộc vừng là giống cây bản địa, có nhiều ở rừng bắc miền Trung. Lộc vừng có nhiều loại vì thế mà hoa cũng có nhiều màu gồm: đỏ, trắng hay màu hồng. Từ giữa hè cho đến đầu thu, những cánh lộc vừng màu đỏ mỏng manh rụng xuống hồ Gươm, vào ngày không mưa, trời lặng gió, những cánh hoa kết thành mảng trông tựa tấm lụa hồng trên mặt nước hồ xanh trông thật thanh bình và lãng mạn. Các đây mấy năm, Truyền hình Việt Nam làm chương trình Tết Nguyên Đán phát trực tiếp tối 30 với cái tên Lộc vừng, khách mời là một nhà nghiên văn hóa hồn nhiên nói rằng cây lộc vừng ở hồ Gươm 150 tuổi. Tấm ảnh của P.Dieulefils (nhà nhiếp ảnh Pháp chụp Hà Nội cuối thế kỷ XIX,đầu thế kỷ XX) chụp đoạn này năm 1886 cho thấy không hề có bất cứ một cây nào. Người ta chỉ trồng cây quanh hồ Gươm vào những năm cuối cùng thế kỷ XIX và đầu thế kỷ XX. Phía bắc hồ, chỗ bến tàu điện là bãi dừa do dân thôn Đại Lợi (cuối phố Hàng Đào ngày nay), thôn Hương Minh (đầu phố Đinh Tiên Hoàng hiện nay) trồng trước khi hồ được Bonnal quy hoạch năm 1883. Đầu thế kỷ XX, một số người yêu nước bị Pháp đưa ra đây treo cổ để hăm dọa dân chúng. Phía tây hồ, trên đường Lê Thái Tổ còn có vài cây không ăn nhập với các loài ven hồ là muỗm và me (trước cửa báo Hà Nội mới).
Sau năm 1954, cây xà cừ mà người Pháp "chê" lại được công ty cây xanh mang ra trồng ở hầu hết các phố. Và cho đến nay xà cừ chiếm tới 50% trong tổng số cây xanh ở bốn quận nội thành cũ. Còn hàng cây cơm nguội ở phố Lý Thường Kiệt bị rỗng thân cây người ta đã trồng phượng và bây giờ câu hát "Hà Nội mùa thu, cây cơm nguội vàng..." của Trịnh Công Sơn chỉ còn trong ký ức. Riêng cây sao đen phố Lò Đúc vẫn tiếp tục vươn cao. Trong nhiều năm liền thập kỷ 60, mỗi khi chiều về có đến hàng nghìn con cò đến đỗ trên ngọn cây, ỉa bừa bãi làm hè phố trắng phân cò, nên có thời một băng đảng ra đời ở phố Lò Đúc đã tự đặt tên cho băng đảng của mình là "bang cò ỉa". Năm 1969, vì quanh hồ Gươm chưa kè nên trận bão lớn năm này khiến cây liễu ven hồ bị ngả nghiêng, cây khác thì gãy đổ. Năm 1997, một trận rất bão lớn tràn qua Hà Nội làm đổ tới gần 5000 cây lớn nhỏ các loại trong đó chủ yếu là xà cừ.
Thời bao cấp, trẻ con trèo sấu, me, bàng, cây cơm nguội bị cho là hư hỏng ngang với nhảy tàu điện. Nếu đang trèo cây hay nhảy tàu điện mà người quen nhìn thấy thì chắc chắn họ sẽ mách và bố mẹ chúng cảm ơn họ rồi dạy con bằng những trận đòn còn nặng hơn mấy phóng sự về nạn bạo hành trẻ con trên truyền hình. Có ba loài cây mà trẻ con Hà Nội thời bao cấp ít nhiều đều có kỷ niệm là cây sấu, cơm nguội và xà cừ. Khi quả sấu mới chỉ bằng hòn bi ve đám trẻ con đã tìm cách hái và dù chua vãi thì chúng cũng chấm muối và ăn ngấu nghiến. Khi về nhà, đều bị cha mẹ phát hiện vì sấu chua đã khiến cả hàm răng bị đen như mặt cống. Lúc quả già, lại theo các nhà thầu nhặt quả rơi, đến khi sấu chín thì công kênh nhau để hái, vì thân sấu rất thẳng. Để hái được quả sấu chín là vô cùng nguy hiểm, vì quả thì ở trên ngọn mà cành sấu lại rất giòn, nên cùng với nhảy tàu điện, trèo me, trèo sấu bị coi là con nhà hư hỏng. Cây cơm nguội cũng cuốn hút con trẻ vì lấy quả nhét vào súng "phốc" rồi ngắm mông bạn gái mà bắn thì thú vô cùng. Tất nhiên chỉ chọn mông các bạn đú đởn, còn nếu bắn đám con gái "bôn" (viết tắt của từ Bolsevik trong tiếng Nga nghĩa là cách mạng, nhưng được hiểu là nghiêm túc, quy củ, cứng nhắc) lập tức bị báo cáo thầy cô giáo ngay. Còn cây xà cừ là nơi trú ngụ của ve sầu. Buổi tối thì mò quanh gốc cây, ban ngày quần đùi vác cây sào dài ngoẵng trên có tí nhựa kếp đi dính ve. Mang về cũng chẳng làm gì nhưng là cái thú của đám con trẻ nên ngày nào cũng trốn ngủ trưa lang thang phố bắt ve.
Rồi Hà Nội cứ như là lâm trường, người ta không quan tâm đến kiến trúc phong cảnh, không dựa vào đặc tính mà chỉ cần có bóng mát là được. Có lẽ vì thế mà phố Hàng Ngang, Hàng Đào, Hàng Đường, Hàng Buốm... mọc lên hai dãy dâu da xoan vì giống này dễ sống, lớn rất nhanh. Sau đó có lệnh chặt bỏ nhưng nay vẫn thấy còn.
Trước mùa mưa bão, công ty cây xanh cho công nhân cắt tỉa và chẳng có quy định nên cứ cành to họ cưa nên cây không còn là cây. Sấu ở phố Lê Thánh Tông, Hai Bà Trưng, Ngô Quyền... bị cưa đến thảm hại và hơn mười năm nay trên hè phố không còn thấy những cánh hoa sấu màu trắng li ti nữa. Nhiều năm nay, sấu bán ở chợ chủ yếu là ở Thái Nguyên và Sơn Tây chuyển về. Những người bán sấu dầm bảo rằng quả sấu Hà Nội cùi chắc và thơm hơn trồng ở những nơi khác.
Cây đổ hay mục ruỗng họ lại thay bằng loài khác chẳng ăn nhập với gì với hàng cây. Họ chặt hạ những cây mà họ cho là lạc lõng với phố đó vì thế họ hạ cả cây chuông đỏ quý hiếm ghi trong sách đỏ ở phố Hàng Trống (gần đình Nam Hương), cây chuông đỏ duy nhất còn lại ở Hà Nội vào năm 2009 để lát vỉa hè mới chào mừng kỷ niệm 1000 năm Thăng long-Hà Nội. Không ít nhà mặt tiền đã giết cây chắn cửa hàng bằng cách đổ dầu nhờn hay bóc dần lớp vỏ. Theo thống kê của công ty Công viên cây xanh, số cây bị bức tử toàn thành phố năm 1998 là 58 cây. Năm 2003, khi khánh thành tòa nhà cuối phố Bà Triệu, Sở Giao thông công chính đã cấp giấy cho công ty Vincom được phép đốn hàng chục cây xà cừ 60-70 năm tuổi.
Theo thống kê, khu vực nội thành (lúc tỉnh Hà Tây chưa sáp nhập) có khoảng 700 loài trong đó có 148 loài cây bóng mát, 62 loài cây cỏ, 76 loài cây ăn quả và 217 loài cây cảnh với tổng số cây vào khoảng 30.000 cây to nhỏ. Chắc trong thời gian tới cây nội thành sẽ giảm đi vì các công trình cao tầng vẫn đang thi nhau mọc lên.