Xuất xứ của kem bắt đầu từ món "tuyết ngọt" của vua Nero đãi quần thần khi lên ngôi hoàng đế La Mã. 500 năm sau, thời nhà Đường (Trung Quốc) xuất hiện món sữa dê đã lên men, trộn với bột mỳ, hương liệu rồi làm lạnh bằng băng với muối. Năm 1295, nhà hàng hải Marco Polo người Italia trở về quê hương sau nhiều năm ở Trung Quốc đã cải tiến làm cho món kem hấp dẫn hơn. Kem xuất hiện tại Hà Nội mới hơn 100 năm...
Năm 1886, Khách sạn Grand với 50 phòng, có bàn bida là khách sạn theo tiêu chuẩn Pháp khánh thành ở phố Hàng Trống (nay là Intimex phố Lê Thái Tổ) và người ta thấy tại quầy bar có bán kem cốc. Kem được nhân viên cho vào cốc thủy tinh miệng rộng kèm theo chiếc thìa con bằng đồng. Trước đó ở Đồn Thủy (nay là khu vực 33 phố Phạm Ngũ Lão), nơi đồn trú của chỉ huy quân Pháp tại Hà Nội người ta thấy có đá lạnh nhưng không hề có kem. Như vậy có thể khẳng định, Grand là khách sạn đầu tiên đã sản xuất kem theo kiểu châu Âu tại Hà Nội.
Tiếp theo Grand, nhiều khách sạn được xây dựng tại Hà Nội trong đó phải kể đến khách sạn Chính Quốc (Metropole) xây dựng năm 1901. Khách sạn Coq d'Or - Con gà vàng ở 38 Tràng Tiền xây năm 1903 và Terminus ở cuối phố Tràng Tiền... Tại quầy bar của các khách sạn này đều có bán kem cốc. Kem được cho vào cốc thuỷ tinh rất kiểu cách. Trong hồi ký của một số quan chức Pháp từng sống và làm việc tại Hà Nội thì kem cốc thời đó chủ yếu là kem cà phê, sôcôla và kem hạnh nhân. Kem là món để ăn không phải uống nhưng được xếp vào thứ giải khát. Trong cái nóng khiến chị em Bắc Kỳ phải mặc yếm vào mùa hè mà có món kem thì quá tuyệt vời. Tuy nhiên kem bán ở khách sạn phục vụ chủ yếu cho người Pháp và đám binh lính đóng ở trong thành, vì người Việt làm trong bộ máy quân sự và chính quyền chưa quen thứ giải khát lạnh đến buốt óc này. Khoảng năm 1920, phố Tràng Tiền không còn là nơi dành riêng cho người Pháp và tầng lớp giầu có nữa thì Coq d'Or bắt đầu bán kem lẻ cho khách dạo chơi và mua sắm ở Nhà hàng Gordar (nay là Trung tâm thương mại Tràng Tiền). Dân chúng Hà Nội dần dần thích kem và những người bán hàng giải khát bên mép hồ Gươm, đoạn từ bến tầu điện Đinh Tiên Hoàng (nay là điểm trông giữ xe) đến Nhà Khai trí tiến đức (nay là 16 phố Lê Thái Tổ) đã mua về bán lẻ cho khách. Họ đựng kem vào các phích chân không cho khỏi chảy. Khách mua họ múc ra cốc thủy tinh Thanh Đức. Ăn xong, mỗi khách được một cốc nước lọc có vài giọt bạc hà để xúc miệng.
Khoảng năm 1933, chính quyền thành phố quy định các ki ốt ven Hồ Gươm phải đẹp nên nhiều người đành mua ô bằng vải bố in mầu khác nhau để khỏi bị đuổi. Năm 1936, một số ki ốt bán kem đã thuê con gái ở nông thôn ra làm công việc chạy bàn. Họ bỏ tiền may cho các cô gái quần áo tân thời, một số khác còn "huấn luyện" cách mời chào lẳng lơ, vì thế xuất hiện những câu chuyện hư hư, thực thực "ăn kem ở bờ Hồ vừa ăn vừa được sờ", báo chí thì gọi là "kem sờ bờ Hồ". Khách tò mò kéo đến càng đông, nhất là người ở quê ra tỉnh làm việc, họ xem có thân nhân của mình không.
Năm 1936, số nhà 37 Cầu Gỗ xuất hiện một quán kem khá đặc biệt có tên Tây là Zéphyr. Số nhà 37 Cầu Gỗ thông ra phố Đinh Tiên Hoàng là nhà của cụ Phạm Quang Hưng làm phán ở Bưu điện bờ Hồ. Làm sở Tây nhưng cụ Hưng có tinh thần yêu nước, ghét thực dân xâm lược. Cụ sinh được 12 người con, trong đó có 5 trai và 7 gái, tất cả đều thông minh, lanh lợi, cụ dạy dỗ con cái lòng yêu nước, yêu dân tộc ngay từ khi các con còn bé. Trong số 5 người con trai có người con thứ tư là Phạm Quang Chúc đã tham gia Việt Nam quốc dân đảng (do Nguyễn Thái Học lãnh đạo) khi còn là thanh niên. Vì có tinh thần yêu nước và luôn nêu cao tư tưởng chống Pháp, nên Phạm Quang Chúc đã bị thực dân Pháp bắt cùng với Nguyễn Thái Học, Chúc bị đầy ra Côn Đảo năm 1930. Trong tù, Chúc được giác ngộ cách mạng và kết bạn với các Đảng viên cộng sản tiền bối như: Lê Duẩn, Phạm Văn Đồng, Lê Thanh Nghị, Hà Huy Giáp, Nguyễn Kim Cương... Năm 1936, Mặt trận bình dân thắng thế trên chính trường Pháp và chính phủ mới ra lệnh phóng thích nhiều tù nhân chính trị nên Phạm Quang Chúc được thả. Trở về nhà, Chúc xin phép cha mẹ để các bạn tù như Phạm Văn Đồng, Lê Thanh Nghị, Nguyễn Kim Cương, Nguyễn Tuấn Thức, Ba Ngọ, Đình Nhu được nương náu tạm tại nhà, tìm việc làm để tiếp tục hoạt động cách mạng. Phạm Quang Hưng đồng ý và từ đó, gia đình cụ trở thành địa chỉ nửa bí mật, nửa công khai của các chiến sỹ cách mạng ở Hà Nội. Thời gian đầu, do chưa tìm được công việc nên tất cả sống nhờ vào tiền lương của cụ nên cũng khá khó khăn. Trong lúc mọi người đang suy tính thì cô con gái lớn là Phạm Thị Hồng đề nghị cha mở quán kem, vì Hồng có quen một thanh niên tên là Cầu, anh này giỏi nghề làm bánh, làm kem. Được cha đồng ý, Phạm Thị Hồng đã mời Cầu đến hướng dẫn cách làm kem, làm bánh và mở hiệu. Trên tường quán Zéphyr vẽ bức tranh các cô gái có cánh tay cầm cốc kem đang bay và người tô mầu cho cho các phác thảo này chính là Phạm Văn Đồng. Bà Phạm Thị Hồng kể: "Hồi đó, tiệm kem đông lắm, lại có kem hạnh nhân không đâu có nên khách Tây cũng đến ăn. Nhờ tiệm kem mà cuộc sống gia đình và các đồng chí khi ấy bớt cực khổ. Lúc đó, anh Tô (Phạm Văn Đồng) ở trên gác xép, chăm chỉ viết báo, anh Nguyễn Kim Cương cũng vậy. Những lúc đông khách các anh lại tranh thủ xuống dưới nhà làm bồi bàn, nói tiếng Pháp làu làu khiến cho bọn Tây cũng phải nể phục". Tình cảm đã nảy nở giữa hai chiến sỹ cách mạng với hai cô con gái cụ Hưng. Cô con gái thứ ba là Phạm Thị Cúc đã kết hôn với Phạm Văn Đồng, còn Phạm Thị Hồng thì kết hôn với nhà cách mạng Nguyễn Kim Cương. Nay ngôi nhà 37 Cầu Gỗ được xếp hạng di tích lịch sử và gắn biển cơ sở bí mật của phong trào yêu nước ở Hà Nội từ năm 1930 - 1945. Quán kem đóng cửa năm 1939 vì Mặt trận bình dân Pháp thất thế, chính quyền mới ra tay đàn áp phong trào cách mạng ở các nước thuộc địa trong đó có Việt Nam, các chiến sỹ cách mạng rút vào hoạt động bí mật.
Nhiều người vẫn lầm tưởng kem que có xuất xứ từ châu Âu thông qua người Pháp du nhập vào Việt Nam, nhưng thực ra kem que là sản phẩm du nhập qua người Nhật. Ngày 22-9-1940, Toàn quyền J.Decoux ký hiệp ước trao Đông Dương cho Nhật. Cuối tháng 10-1940, toán lính Nhật đầu tiên đến Hà Nội và theo chân có cả các thương gia. Để gây ảnh hưởng với quốc gia trên bán đảo Đông Dương này, chính quyền Nhật đã tổ chức các hoạt động văn hóa, triển lãm hàng hoá Nhật và kem que được bán trong triển lãm. Và lập tức nó thu hút được dân chúng, nhất là trẻ em. Công nghệ làm kem que khác với làm kem cốc, nếu kem cốc chỉ cần trộn nguyên liệu với hương liệu sau đó cho vào hầm lạnh ở nhiệt độ vừa phải để kem không cứng thành đá, thì kem que phải có khuôn và nhiệt độ thấp hơn. Người ta cho nguyên liệu chính gồm bột nếp đã rang chín xay nhỏ, rồi cho đường, sữa (nếu muốn làm kem sô cô la, cà phê, hạnh nhân... thì trộn nguyên liệu với sôcôla, cà phê hay hạnh nhân) vào khuôn sắt mạ kẽm hình trụ (để khi rút ra vừa dễ, vừa không gẫy) rồi đặt vào bể lạnh. Kem trong khuôn chuẩn bị đông, người ta mới cắm que bằng tre hoặc gỗ vào từng lỗ khuôn một. Khi kem đông cứng thì rút ra cho vào bình thủy tinh chân không để kem không tan chảy. Chủ cửa hàng kem que đầu tiên ở Bờ Hồ và cũng là hiệu đầu tiên ở Hà Nội là người Nhật. Thấy kem que tiện hơn kem cốc nên khách hàng mua đông hơn và thế là các cửa hàng kem que xuất hiện ngày càng nhiều. Và kem que trở thành thứ giải khát được người Hà Nội ưa thích bất kể giầu hay nghèo. Một số người Việt có đầu óc kinh doanh thấy kem que là cơ hội có thể kiếm lời nên họ đã tìm cách lôi kéo nhân viên người Việt Nam làm thuê cho các hiệu kem Nhật nắm vững kỹ thuật. Còn làm bể lạnh không quá khó và tiền đầu tư cũng không lớn. Và thế là kem Long Vân, Hồng Vân (quảng trường Đông Kinh Nghĩa Thục), Cẩm Bình (phố Huế), Hòa Bình (Hàng Bông)... ra đời. Không chỉ bán tại chỗ, họ còn cho trẻ em đeo bình kem đi bán lẻ khắp thành phố để chiếm thị trường. Quán Thủy Tạ nằm sát hồ Gươm cũng trở thành điểm bán kem que, trước đó quán có tên là Hồ Ngọc cũng từng bán kem cốc. Thủy Tạ cũng là một trong những điểm đầu tiên bán kem hộp hiệu Néstle. Kem được bảo quản trong tủ lạnh. Ưu điểm là thơm ngon nhưng kem hộp không được ưa chuộng vì giá thành quá cao hơn nữa một hộp kem (tương đương như hộp sữa đặc hiện nay) phải hai người ăn mới hết. Đầu những năm 1950, Hà Nội xuất hiện quảng cáo "kem nguyên tử", khiến bà con hết sức tò mò, lũ lượt kéo nhau đi xem và ăn thử. Thực ra đó chỉ là cách quảng cáo để bán hàng vì thời kỳ này hàng hóa Mỹ như vải ka ki, kính râm, phim ảnh xuất hiện tại Hà Nội và người Mỹ cùng với Liên Xô đã chế tạo ra bom nguyên tử, mở ra thời đại nguyên tử cho thế giới. Và họ gắn từ nguyên tử vào để chỉ hàng hóa mới.
Sau năm 1954, người miền Nam trong đó rất đông đang độ tuổi đi học, tập kết ra Bắc, học sinh các tỉnh về Hà Nội học đại học, trung cấp cũng rất nhiều và để tìm người cùng làng, cũng xã thì chỉ còn cách ra Hồ Gươm. Giáo sư Mỹ học Dương Viết Á quê gốc Quảng Bình kể, hồi học Đại học Tổng hợp Hà Nội, cứ chủ nhật là ông cũng như sinh viên, học sinh các tỉnh đổ về Hồ Gươm, đi vòng quanh hồ tìm đồng hương. Đi một vòng quanh hồ mà không thấy lại dừng ăn kem ở Thủy Tạ hay Bốn Mùa, vừa ăn vừa nhìn người qua lại có lúc tưởng người cùng quê mải nhìn theo rơi cả miếng kem mà thấy tiếc. Lần đầu tiên trong đời Dương Viết Á ăn 10 que kem, bụng chướng lên và dù trời nóng nhưng đêm ông lại phải đắp chăn vì lạnh từ trong toát ra. Tháng 7-1959, Hà Nội bắt đầu thực hiện cải tạo công thương nghiệp tư bản tư doanh, các hiệu kem tư nhân như Long Vân, Hồng Vân, Cẩm Bình... phải công tư hợp doanh. Ngành ăn uống Hà Nội cho mở hàng loạt các cửa hàng giải khát quốc doanh: Bốn Mùa, chợ Mơ, Ngã tư Sở, Vọng, thị trấn Văn Điển... và kem que trở thành mặt hàng chủ lực. Có khoảng thời gian khan hiếm đường trắng, các cửa hàng kem thay bằng đường vàng (đường của Cu Ba), thậm chí làm cả bằng mật mía nên kem dẻo như như kẹo kéo, cắn không được đành phải mút. Đã thế kem có vị hơi chua chua vì mật để lâu bị lên men. Lại có những cửa hàng ăn bớt xén bột đậu xanh, bột nếp, bù vào chỗ ăn bớt, họ cho nhiều nước hơn làm cây kem cứng như đá, nhai thấy lạo xạo.
Thập niên 60, 70 không thiếu người lớn và trẻ em đi bán kem rong, họ lấy kem ở các hiệu quốc doanh cho vào phích rồi tỏa đi khắp hang cùng ngõ hẻm trong thành phố, bán trước rạp chiếu bóng Bạch Mai, Mê Linh, bãi chiếu bóng Cầu Giấy, Khương Thượng... Vào ngày nắng kem cũng kiếm khá, nên mua kem 1 hào nhưng họ bán 1 hào rưỡi, song ngày mưa thì có khi ế cả phích ăn đến đau bụng mới hết. Cũng thời kỳ này, kem cốm, kem sữa, kem dừa, socola... của Bốn Mùa, Hàng Vôi cũng có tiếng và chỉ thua Tràng Tiền. Tuy nhiên sau này do bị nhân viên ăn bớt nguyên liệu nên chất lượng kém hẳn nên Bốn Mùa ngừng sản xuất kem que chuyển sang bán kem cốc. Hai chiếc máy đùn kem ra trông khá buồn cười. Nhưng cuối cùng cửa hàng này cũng phải dẹp bỏ vì ít người ăn.
Nói đến kem ở Hà Nội không thể không nói đến kem Tràng Tiền. Mùa hè xếp hàng phải đã đành, nhưng vào mùa đông áo không đủ ấm, răng đánh vào nhau lập cập như đánh đàn mà nhiều người vẫn đến Tràng Tiền để xếp hàng mua kem. Lại còn thi xem ai ăn nhiều, kẻ chiến thắng không phải trả tiền nhưng phải bỏ tiền mua thuốc viêm họng. Người nắm giữ công thức pha chế kem Tràng Tiền từ năm 1961 đến năm 1993 là ông Khánh. Ông được học lớp làm kem 1 tháng do ngành ăn uống mở nhưng ông có năng khiếu về món này. Thế nên chỉ sau một thời gian ngắn làm kỹ thuật, ông đã nắm được "gu" của người Hà Nội, kem không được quá ngọt, không quá cứng, nếu kem cốm thì phải thơm dịu, kem sô cô la phải có vị hơi đăng đắng còn kem sữa phải mềm lưỡi... Từ đó ông tìm ra công thức cho từng loại kem và phổ biến cho cả tổ. Nhưng cái giỏi của ông Khánh là ngay cả khi nguyên liệu không đạt chuẩn như bột nếp không thơm, cốm quá già, hết đường trắng chỉ còn đường đỏ nhưng ông cũng tìm ra được công thức để cho ra cây kem ngon nhất. Tràng Tiền sản xuất khá nhiều các loại kem như sữa, dừa, socola, cà phê, đậu xanh... nhưng nổi tiếng nhất vẫn là kem cốm. Cho đến hôm nay, kem Tràng Tiền vẫn luôn luôn trong tình trạng phải xếp hàng. Người ăn kem chật cứng gần cả trăm mét vuông vỉa hè cũng là chuyện có thể ghi vào kỷ lục Việt Nam. Có người thích kem Tràng Tiền nói quá "Phi thực kem Tràng Tiền bất thành người Hà Nội"!
Kem trở thành "chuẩn" cho tất cả người ở quê ra Hà Nội, đi đâu làm gì không biết nhưng về là phải kể chuyện "ăn kem, xem tầu điện", còn không kể được đi tầu điện thế nào và ăn kem ra sao coi như nói phét. Hoặc ra Hà Nội mà chưa đến Bách hóa Tổng hợp Tràng Tiền, chưa ăn kem Bờ Hồ và chưa biết tầu điện coi như chưa đến Hà Nội. Có nhiều mẩu chuyện vui về người quê ra Hà Nội ăn kem. Ví như người ta kể với nhau chuyện một bà cụ ở quê vào cửa hàng mua hai chiếc kem, sợ mất cắp, cụ ăn một chiếc còn chiếc kia cho vào trong bị cói. Ăn hết chiếc thứ nhất, mở bị lấy chiếc kia ăn nốt thì chỉ còn trơ lại cái que tre, tức mình bà cụ lẩm bẩm "Tiên sư nó, đã ăn hết kem của người ta rồi còn để lại cái que làm gì". Rồi như thách thức đứa dám ăn cắp kem, bà cụ mua thêm 2 chiếc, ăn một chiếc còn chiếc kia cầm trên tay, cụ bà răng kém nên khi ăn hết chiếc thứ nhất thì chiếc thứ hai đã chảy hết, cụ lẩm bẩm "Cầm trên tay chắc thế mà nó còn ghé mồm ăn hết của mình, người ta nói ở Hà Nội một mét vuông có 7 thằng ăn cắp cũng chả sai". Cũng thời bao cấp, không chỉ Tràng Tiền, tại hầu hết các cửa hàng kem trong nội thành có người đi nhặt que. Họ mang về rửa, luộc nước sôi sau đó phơi khô rồi lại bán cho chính các cửa hàng này.
Đầu thập niên 80, những người bán kem rong không cho vào phích, họ cho vào thùng xốp (đựng được nhiều hơn lại không sợ nổ như phích thủy tinh). Họ không lấy kem từ các cơ sở quốc doanh mà lấy ở các cơ sở gia công. Loại kem chỉ có tí bột, còn lại là nước máy hòa với đường hóa học. Họ mang về các vùng quê bán cho trẻ con. Chỉ cần nghe thấy tiếng kèn oe oe là chúng xúm lại, đứa không có tiền mà lại thèm kem thì mang cả nồi, ấm nhôm, ấm đồng ra đổi. Thậm chí đổi cả xu hào, bắp cải người bán kem cũng đồng ý. Không rõ thực hư ra sao, nhưng có hồi ở Hà Nội, dân chúng kháo nhau là trong que kem loại này có cả bèo tấm và... đỉa!?
Đầu những năm 1990, các cửa hàng kem quốc doanh như Hàng Vôi, Ngã tư Sở, chợ Mơ, thị trấn Văn Điển,... lần lượt đóng cửa vì thua lỗ đặt dấu chấm hết cho kem mậu dịch, một thời tung hoành trên thị trường.
Tiên phong trong việc đổi mới kem ở Hà Nội là quán Trà Mi (phố Nguyễn Thái Học). Năm 1992, Trà Mi có kem trái cây, lại còn nhồi cả vào quả dừa xiêm nên buổi tối khách ngồi kín vỉa hè. Ban ngày khá đông học sinh Nga ở Trường Quốc tế (phố Cao Bá Quát) đến ăn ghi sổ. Còn bánh ngọt Bảo Ngọc ở phố Hai Bà Trưng có món kem rán. Kem cho vào giữa cục bột rán trong dầu sôi mà vẫn lạnh nguyên. Bí quyết là ở chỗ nhà hàng cho hóa chất chống tan chảy.
Năm 2007, quanh hồ Gươm chỉ còn Thủy Tạ và Fanny ở 48 Lê Thái Tổ mà chủ là một người Pháp bán kem. Fanny mở năm 1997, ban đầu chỉ thuê nửa diện tích của hiệu may Tiến Thành, làm ăn phát đạt chủ Fanny thuê nốt phần còn lại. Trước đó ở 30 Lê Thái Tổ có một người Mỹ thuê cửa hàng bán kem. Sau này không chịu nổi tiền thuê mặt bằng nên chủ quán đi thuê chỗ khác. Giá một ly kem không rẻ chút nào và muốn ăn đến mức phải đắp chăn như giáo sư Dương Viết Á thì phải tiền triệu. Hiện tại kem ở Hà Nội phong phú hơn, không chỉ có kem cốc, kem đựng trong bánh quế (gọi là kem ốc quế) mà còn có kem gói, kem cây với vài chục mùi vị khác nhau và người ăn kem cũng vẫn chủ yếu là thanh niên, con trẻ.