Trác Nhượng, thủ lĩnh quân Ngõa Cương vốn là 1 viên lại nhỏ ở Đông Quận, vì có lỗi với quan trên, bị bắt giam và xử tử tội. Một người coi ngục thương cảm bảo: "Tôi thấy ông là một trang hảo hán, sao có thể cứ ở đây mà chờ chết". Đêm tối, người đó lén phá xiềng xích, mở cửa nhà ngục, thả ông ra.

Trác Nhượng thoát khỏi ngục, chạy đến trại Ngõa Cương ở gần đó, chiêu tập một số nông dân nghèo khổ, tổ chức 1 đội quân khởi nghĩa. Thanh niên trai tráng trong vùng nghe tin đến theo rất đông. Trong số đó, có 1 thanh niên tên là Từ Thế Tích, mới 17 tuổi, không những võ nghệ cao cường, lại rất có mưu trí. Từ Thế Tích khuyên Trác Nhượng: "Quanh đây đều là dân làng nghèo khổ. Chúng ta không nên bắt họ đóng góp. Tôi thấy vùng Huỳnh Dương có rất nhiều nhà giàu có, chi bằng ta nên tới đó để lấy lương thực".

Trác Nhượng nghe theo ý kiến Từ Thế Tích, dẫn quân tới Huỳnh Dương, chuyên đánh vào dinh quan và các nhà phú thương, đoạt được rất nhiều tài sản. Nông dân quanh vùng đi theo Trác Nhượng ngày một nhiều, đội ngũ nhanh chóng tăng lên tới hơn 1 vạn người. Sau khi Lý Mật đến với Trác Nhượng, liền giúp Trác Nhượng chỉnh đốn người ngựa thành đội ngũ chỉnh tề. Lúc đó, vùng lân cận cũng có 1 số nhóm nông dân khởi nghĩa. Lý Mật tới các nơi đó bắt liên lạc, thuyết phục họ liên hợp lại dưới sự chỉ huy của Trác Nhượng. Trác Nhượng rất phấn khởi, dần dần thân thiết với Lý Mật. Đội ngũ ngày càng phát triển mạnh, nhưng Trác Nhượng không nghĩ rằng mình có thể lật đổ Tùy Dạng Đế. Lý Mật liền nói với Trác Nhượng: "Trước kia Lưu Bang, Hạng Vũ cũng chỉ là những người dân bình thường, mà cuối cùng lật đổ được triều Tần. Nay hoàng đế ngu tối, bạo ngược, trăm họ oán giận, quân đội triều đình đại bộ phận ở xa mãi Liêu Đông. Trong tay ngài có đủ quân mạnh ngựa khỏe, muốn đánh hạ Đông Đô và Trường An thì không khó khăn gì?".

Trác Nhượng Nghe xong rất phấn khởi, nói: "Lời của tiên sinh rất đúng, tôi chưa nghĩ được tới điều đó".

Sau đó, 2 người bàn bạc, quyết định đánh Huỳnh Dương trước. Thái thú Huỳnh Dương cáo cấp với Tùy Dạng Đế, Tùy Dạng Đế phái đại tướng Trương Tu Đà đem quân trấn áp. Trương Tu Đà là viên tướng đã từng trấn áp nhiều cuộc khởi nghĩa nông dân. Trác Nhượng đã từng bị hắn đánh thua, lần này nghe tin hắn lại mang quân đến, nên có ý sợ. Lý Mật nói: "Trương Tu Đà hữu dũng vô mưu, lại thêm hắn cậy có nhiều quân nên nên kiêu ngạo khinh địch. Chúng ta lợi dụng nhược điểm của hắn, thì có thể đánh bại hắn".

Lý Mật đề nghị Trác Nhượng bày trận, đón đánh chính diện quân địch, còn tự mình dẫn 1000 người ngựa bố trí mai phục trong rừng rậm ở phía bắc chùa Đại Hải thuộc Huỳnh Dương. Trương Tu Đà khinh thường, coi Trác Nhượng không phải là đối thủ của mình, nên đùng đùng dẫn quân xông thẳng tới Trác Nhượng chống cự qua loa rồi vờ thua chạy. Trương Tu Đà đuổi theo hơn 10 dặm, đường đi ngày càng hẹp, rừng càng lúc càng rậm rạp, vào tới giữa vùng bố trí phục binh. Lý Mật lập tức nổi hiệu lệnh, quân Ngõa Cương mai phục sẵn, nhất tề xông ra chém giết, vây chặt Trương Tu Đà lại. Trương Tu Đà tuy dũng mãnh, nhưng bị bao vây nhiều lớp, tả xung hữu đột nhưng không sao thoát ra được. Toàn bộ cánh quân lớn của Trương Tu Đà cuối cùng bị tiêu diệt, bản thân Trương Tu Đà bị giết chết. Qua cuộc chiến đấu này, uy tín của Lý Mật trong quân Ngõa Cương lên cao. Lý Mật giữ kỷ luật nghiêm minh, sinh hoạt lại rất giản dị. phần tiền bạc tịch thu từ quân triều đình, ông ta đều đem chia cho tướng sĩ. Lâu ngày, các tướng sĩ dần dần qui tụ xung quanh Lý Mật.

Mùa xuân năm 617, Lý Mật khuyên Trác Nhượng nên nhân lúc Tùy Dạng Đế tuần du Giang Đô, Đông Đô bị bỏ trống, nên tiến công vào Đông Đô. Người của quân Ngõa Cương phái đến Đông Đô thám thính, bị quân phòng thủ bắt được, nên việc phòng thủ được tăng cường. Lý Mật liền đổi kế hoạch, đề nghị trước hết hãy đánh kho Hưng Lạc (nay ở huyện Củng, Hà Nam). Kho Hưng Lạc, còn gọi là kho Lạc Khẩu, là kho lương thực lớn nhất của triều Tùy. Chu vi kho dài tới hơn 20 dặm, trong đó có 3000 hầm cất giấu lương thực, mỗi hầm chứa 8000 thạch lúa. Đây là mồ hôi nước mắt của nông dân bị triều Tùy bóc lột trong nhiều năm, tích trữ ở đây. Trác Nhượng, Lý Mật dẫn 7000 tinh binh tiến đánh kho Hưng Lạc. Nghĩa quân vốn đều là nông dân bị tan cửa mất nhà, khi nghe tin đi đánh kho lương thực thì đều hăm hở, hăng hái bội phần. Bị tiến công, quân phòng thủ cố gắng chống trả nhưng không thể nào chống nổi với quân Ngõa Cương dũng mãnh như hùm mọc cánh. Chẳng mấy chốc, kho Hưng Lạc lọt vào tay nghĩa quân. Chiếm được kho, quân Ngõa Cương lập tức hạ lệnh mở kho, phân phát thóc lúa cho dân. Binh sĩ chuyển các bao lúa ra cho nhân dân thỏa sức lĩnh về. Nông dân đói khổ khắp nơi các vùng ùn ùn kéo đến kho xin lĩnh lúa. Từ người già đầu bạc đến phụ nữ địu con sau lưng ai nấy đều xúc động, nước mắt lưng tròng, vô cùng cảm kích trước ân tình của quân khởi nghĩa.

Tiếp sau, quân Ngõa Cương lại đánh bại quân cứu viện của triều đình. Lúc này, quyền chỉ huy nghĩa quân dần dần tập trung trong tay Lý Mật. Trác Nhượng thấy tài năng của mình không bằng Lý Mật, liền nhường địa vị thủ lĩnh cho Lý Mật. Mọi người tôn Lý Mật làm Ngụy Công, kiêm Hành quân nguyên soái. Sau khi quân Ngõa Cương xây dựng chính quyền của mình ở Lạc Khẩu, liền thừa thắng đánh chiếm quận, huyện. Quan lại và binh lính triều Tùy tới tấp đầu hàng. Quân Ngõa Cương tiến đánh Đông Đô, đồng thời phát hịch kể tội Tùy Dạng Đế và kêu gọi trăm họ cùng đứng lên lật đổ nền thống trị của vương triều Tùy. Sự kiện này làm khắp vùng Trung nguyên chấn động. Chính trong lúc quân Ngõa Cương phát triển thắng lợi thì nội bộ lại xảy ra chia rẽ nghiêm trọng. Sau khi Trác Nhượng nhường quyền thủ lĩnh cho Lý Mật thì 1 số tướng lĩnh và thủ hạ của Trác Nhượng không hài lòng. Một số người khuyên Trác Nhượng đòi lại quyền, nhưng Trác Nhượng vẫn cười ha hả, cho chuyện đó không đáng để tâm. Nhưng những lời đó đến tai Lý Mật, khiến Lý Mật rất không hài lòng. Thủ hạ của Lý Mật xúi giục ông ta nên trừ khử Trác Nhượng đi. Để giữ vững địa vị của mình, Lý Mật liền ngả theo ý kiến đó, bắt đầu nuôi dã tâm.

Một hôm, Lý Mật mở tiệc mời Trác Nhượng. Giữa buổi tiệc, Lý Mật đuổi những binh sĩ bảo vệ Trác Nhượng ra ngoài, rồi giả vờ đưa ra 1 cây cung tốt, đề nghị Trác Nhượng giương thử. Trác Nhượng đang khom mình giương cung thì đao phủ do Lý Mật bố trí sẵn đã chém gục ông xuống. Sau biến cố đó, quân Ngõa Cương bắt đầu đi xuống. Trong khi đó, cánh quân chống Tùy do Lý Uyên lãnh đạo đang dần lớn mạnh lên.