Đầu năm 1882, lấy cớ Việt Nam không tôn trọng hiệp ước năm 1873 mà lại đi giao thiệp với Trung Hoa, dung túng quân Cờ Đen (một nhánh quân của Thái Bình Thiên Quốc) ngăn trở việc giao thông trên sông Hồng của người Pháp, Đại tá Henri Rivière của Hải quân Pháp cho tàu chiến cùng hơn 400 quân đóng trại tại Đồn Thủy (khu nhượng địa của Pháp từ năm 1873, trên bờ Nam sông Hồng, cách thành Hà Nội 5 km, tại vị trí bệnh viện Việt Xô ngày nay) nhằm uy hiếp Hà Nội. Hoàng Diệu đã hạ lệnh giới nghiêm tại Hà Nội và bố cáo các tỉnh xung quanh sẵn sàng tác chiến, đồng thời yêu cầu viện binh từ triều đình Huế. Tuy nhiên, vua Tự Đức đã hạ chiếu quở trách Hoàng Diệu đã đem binh dọa giặc và chế ngự sai đường. Nhưng Hoàng Diệu đã quyết tâm sống chết với thành Hà Nội. Ông cùng với Tuần phủ Hoàng Hữu Xung, Đề đốc Lê Văn Trinh, Bố chính Phan Văn Tuyển, Án sát Tôn Thức Bá và Lãnh binh Lê Trực uống rượu hòa máu tỏ quyết tâm sống chết với Hà thành.

Năm 1882, Pháp vu cáo triều đình vi phạm Hiệp ước 1874 để lấy cớ kéo quân ra Bắc Kì.

Ngày 03/04/1882, Đại tá Ri-vi-e đổ bộ lên Hà Nội gửi tối hậu thư cho Hoàng Diệu, yêu cầu giao thành trong ba tiếng đồng hồ. Chưa hết hạn, quân Pháp đã nổ súng chiếm thành, sau đó chiếm mỏ than Hồng Gai, Quảng Yên, Nam Định.

Quan quân triều đình và Tổng đốc Hoàng Diệu anh dũng chiến đấu bảo vệ thành Hà Nội. Khi thành mất, Hoàng Diệu tự vẫn. Triều Nguyễn hoang mang, cầu cứu nhà Thanh.

Nhân dân ta dũng cảm chiến đấu chống Pháp:

Các sĩ phu không tuân lệnh triều đình, tiếp tục tổ chức kháng chiến.

Quân dân ta tích cực chiến đấu, gây cho Pháp nhiều khó khăn, tiêu biểu là trận Cầu Giấy lần hai (19/05/1883), giết chết Ri-vi-e.