Mạc Đăng Dung tuy giành được ngôi vua nhưng lực lượng ủng hộ nhà Lê còn rất mạnh. Năm 1529, một võ tướng cũ của nhà Lê là Nguyễn Kim không thần phục nhà Mạc, bỏ chạy vào miền núi Thanh Hoá và sang Ai Lao (Lào), tập hợp lực lượng chống nhà Mạc. Năm 1533, Kim tìm một người tên là Lê Duy Ninh là con của vua Lê Chiêu Tông đưa lên ngôi trên đất Sầm Châu (Ai Lao), tức là vua Lê Trang Tông.

Từ khi có danh nghĩa chính thống, Nguyễn Kim đã quy tụ được hầu hết các lực lượng cựu thần nhà Lê. Thế lực Nguyễn Kim ngày càng mạnh lên. Trong khi đó sự kiểm soát của nhà Mạc từ Thanh Hóa trở vào nam rất yếu. Năm 1537, một viên tướng được giao quản lĩnh 7 huyện của Thanh Hóa là Lê Phi Thừa đem quân chạy sang Ai Lao đầu hàng nhà Lê. Nhân cơ hội đó, từ năm 1539 đến năm 1543, quân nhà Lê từ Ai Lao đã mở các cuộc tấn công về Nghệ An và Thanh Hoá. Quân nhà Mạc thất bại liên tiếp.

Cuối năm 1543, nhà Lê chiếm được Tây Đô. Thanh Hoá, Nghệ An trở thành vùng đất đứng chân của vua Lê. Từ thời điểm đó, trên đất nước cùng tồn tại hai vương triều: Mạc và Lê. Hai thế lực tranh chấp nhau khiến cho đất nước lâm vào cảnh huynh đệ tương tàn. Về danh nghĩa triều Lê đã được phục hồi, nhưng ngay từ những ngày đầu người nắm thực quyền điều hành mọi công việc là Thái sư Nguyễn Kim. Năm 1545, Nguyễn Kim bị một hàng tướng nhà Mạc đầu độc. Người thay thế vị trí Nguyễn Kim tiếp tục cuộc chiến tranh với nhà Mạc là Trịnh Kiểm. Từ đây họ Trịnh kế tục nhau nắm quyền chi phối triều Lê. Cuộc nội chiến Nam- Bắc triều kéo dài gần 50 năm.

Cuối năm 1591, Trịnh Tùng điều động 6 vạn quân chia làm 5 đạo theo đường phía tây tiến ra Bắc. Để đối phó lại, nhà Mạc cũng đã huy động một lực lượng tới 10 vạn quân. Một trận quyết chiến giữa hai bên đã diễn ra ở Sơn Tây. Trong trận này quân Mạc đại bại, thương vong tới 1 vạn người. Thừa thắng, Trịnh Tùng cho quân áp sát thành Thăng Long, " đốt phá nhà cửa, khói lửa ngợp trời " để uy hiếp.

Năm 1592, quân Nam triều mở cuộc tấn công quyết định vào Thăng Long. Trịnh Tùng giành toàn thắng. Cục diện chiến tranh Nam- Bắc triều về cơ bản đã kết thúc, nhưng con cháu nhà Mạc cùng một số tướng tá và tàn quân bỏ chạy lên Cao Bằng hoạt động cho đến tận năm 1677 mới chấm dứt hoàn toàn.

Khi Mạc Đăng Dung giết vua Lê Cung Hoàng để cướp ngôi, nhiều quan lại đã tử tiết để phản đối nhà Mạc giết vua cướp ngôi, từ đó thổi bùng lên ngọn lửa đấu tranh "phù Lê diệt Mạc". Bấy giờ triều thần có Lại bộ thượng thư Đông các đại học sĩ Vũ Duệ, Lại bộ thượng thư Ngô Hoán, thị thư viện Hàn lâm Nguyễn Mẫn Đốc, quan Đô ngự sử là Nguyễn Văn Vận, quan Hàn lâm hiệu lý là Nguyễn Thái Bạt, quan Lễ bộ thượng thư là Lê Tuấn Mậu, quan Lại bộ thượng thư là Đàm Thận Huy, quan Tham chính sứ là Nguyễn Duy Tường, quan Quan sát sứ là Nguyễn Tự Cường, tước Bình hồ bá là Nghiêm Bá Ký, quan Đô ngự sử là Lại Kim Bảng, Hộ bộ thượng thư Nguyễn Thiệu Trị, quan Phó Đô-ngự-sử là Nguyễn Hữu Nghiêm, quan Lễ-bộ tả Thị-Lang là Lê Vô Cương đều là người khoa giáp, người thì nhổ vào mặt hay là lấy nghiên mực ném vào mặt Mạc Đăng Dung, hay chửi mắng, đều bị Đăng Dung giết đi. Có người thì khởi binh phù Lê thất bại và bị giết, có người thì theo vua Lê không kịp, nhảy xuống sông mà chết, người thì quay đầu về Lam Sơn bái lạy rồi tự tử. Sau này, khi dẹp xong nhà Mạc, nhà Lê được trung hưng lại, vua Lê Huyền Tông và triều đình bàn luận công lao, truy phong tước phúc thần cho 13 vị trung thần tiết nghĩa vì nước hy sinh này, trong đó xếp ông Vũ Duệ đứng đầu trong số 13 người.^[2]

Năm 1529, một võ tướng cũ của nhà Lê là Nguyễn Kim trung thành với nhà Lê, không thần phục nhà Mạc, bỏ chạy vào miền núi Thanh Hoá và sang Ai Lao (Lào), tập hợp lực lượng chống nhà Mạc. Năm 1533, Nguyễn Kim tìm một người tên là Lê Duy Ninh là con của vua Lê Chiêu Tông đưa lên ngôi trên đất Sầm Châu (Ai Lao), tức là vua Lê Trang Tông. Tuy nhiên các nhà sử học nghi ngờ Duy Ninh không phải là con của vua Chiêu Tông vì tuổi của Duy Ninh và Lê Chiêu Tông chênh nhau quá ít.

Từ khi Trang Tông lên ngôi, nhiều sĩ phu, tướng lĩnh bắt đầu tập hợp bên Nguyễn Kim để chống nhà Mạc. Năm 1540, Mạc Thái Tông chết. Thượng hoàng Mạc Đăng Dung lập cháu nội là Mạc Phúc Hải lên ngôi, tức là Mạc Hiến Tông. Năm sau, thượng hoàng Đăng Dung chết.

Năm 1543, quân nhà Lê về nước đánh chiếm Tây đô (Thanh Hoá). Hoạn quan nhà Mạc là Dương Chấp Nhất đầu hàng. Năm 1545, Chấp Nhất dâng dưa độc cho Nguyễn Kim, Kim ăn vào chết. Chấp Nhất bỏ trốn về nhà Mạc. Con rể Nguyễn Kim là Trịnh Kiểm lên thay cầm quyền chỉ huy quân đội.

Ở phía Tây Bắc, vùng Hưng Hoá (Tuyên Quang), anh em Vũ Văn Mật, Vũ Văn Uyên (Chúa Bầu) là thủ lĩnh trong vùng cát cứ không thần phục nhà Mạc. Nhà Mạc vài lần mang quân đánh nhưng không diệt được họ Vũ, sau lại phải đối phó với nhiều biến cố khác nên buộc phải để họ Vũ cát cứ. Họ Vũ sai người liên lạc theo về nhà Lê trung hưng.