Chợ Đồng Xuân tuy nằm trong khu phố cổ nhưng có tuổi đời trẻ hơn rất nhiều so với các phố xung quanh. Trước kia đây là khu đất trống thuộc phường Đồng Xuân, huyện Thọ Xương nằm trước quán Huyền Thiên (sau đổi thành chùa Huyền Thiên). Người dân họp chợ trên hai khu đất ở cạnh chùa Cầu Đông ở phố Hàng Đường và cạnh đền Bạch Mã ở phố Hàng Buồm vì hai khu đất đó gần bến sông, tiện cho thuyền đi lại.
Năm 1889, khi những dấu tích cuối của sông Tô Lịch và hồ Thái Cực bị lấp hoàn toàn, người Pháp quy hoạch lại đã giải tỏa hai chợ trên và dồn tất cả các hàng quán vào khu đất trống của phường Đồng Xuân, tạo thành chợ Đồng Xuân. Trong năm đầu tiên chợ họp ngoài trời, hoặc có che mái lá giống như hai chợ cũ.
Năm 1890 chính quyền Pháp mới bắt đầu xây dựng chợ Đồng Xuân, tạo thành năm vòm cửa và năm nhà cầu dài 52m, cao 19m. Mặt tiền theo kiến trúc Pháp, gồm năm phần hình tam giác có trổ lỗ như tổ ong, lợp mái tôn.
Tại đây đã diễn ra các trận chiến ác liệt giữa Vệ quốc quân chống lại lính Lê dương của Pháp, rất nhiều Vệ quốc quân đã hi sinh tại đây trước khi rút khỏi Hà Nội.
Sau ngày giải phóng thủ đô, chợ Đồng Xuân là chợ lớn nhất Hà Nội.
Vào khoảng năm 1990, chợ được xây dựng lại, phá bỏ hai dãy hai bên, ba dãy giữa xây lên ba tầng. Hai tấm cửa hai bên cũng bị dỡ, nhưng vẫn còn giữ hai cột ngoài cùng.
Năm 1994, chợ Đồng Xuân đã bị hỏa hoạn, lửa thiêu trụi gần như toàn bộ các gian hàng trong chợ. Đây là vụ cháy chợ lớn nhất tại Hà Nội cho đến nay
Việt Nam: Xưa và Nay 