Lưu Bá Ôn người gốc huyện Thanh Điền (nay là huyện Văn Thành), tỉnh Chiết Giang. Ông sinh ra trong một gia đình Nho học từng có truyền thống chiến đấu dũng cảm chống lại quân xâm lược Nguyên Mông trước đây. Nhờ siêng học, đam mê đọc sách, ông sớm làu thông kinh sử, văn chương, binh pháp và thiên văn. Đương thời có câu khen ông là: Thông binh pháp ai hơn Tôn Võ – Giỏi thiên văn phải kể Lưu Cơ.
Lưu Bá Ôn không chỉ thông kinh học thiên văn, mà còn tinh thông các loại Ngũ Hành Bát Quái, là một nhà chiến lược quân sự và chính trị gia thời nhà Minh. Ông còn là một nhà thơ, đã phò tá Minh Thái Tổ Chu Nguyên Chương hoàn thành đế nghiệp và có công lao lớn trong việc thành lập nhà Minh và ổn định đất nước.
Điều này cũng làm cho Lưu Bá Ôn lừng danh thiên hạ, hậu nhân còn có cách nói Gia Cát Lượng ba phần thiên hạ, nhất thống giang sơn Lưu Bá Ôn.
Lưu Bá Ôn sinh ra trong thời đại hỗn chiến giữa các bên cuối thời Nguyên. Từ nhỏ, ông đã có thiên tư thông minh, ham học, chỉ mới 12 tuổi đã đỗ tú tài và có danh xưng thần đồng.
Năm 1360 Công nguyên, nội bộ triều đình nhà Nguyên ngày càng hỗn loạn, người dân rơi vào cảnh lo âu hoảng sợ khi trong nước đạo tặc phiếm loạn, nông dân khắp nơi trong cả nước liên tiếp khởi nghĩa thảo phạt triều Nguyên. Đúng thời điểm đó, Minh Thái Tổ Chu Nguyên Chương lại đóng quân ở gần quê hương của Lưu Bá Ôn. Ông liền tìm đến thăm Lưu Bá Ôn và hai người đã nói chuyện với nhau rất vui vẻ.
Qua hai lần Chu Nguyên Chương gửi lời mời tới Lưu Bá Ôn, sau khi suy nghĩ tính toán kỹ lưỡng, Lưu Ôn Tài đã chính thức nhận lời phò tá Chu Nguyên Chương. Ông hy vọng thông qua trợ giúp Chu Nguyên Chương giành giang sơn để thực hiện khát vọng lớn lao quản lý đất nước bình thiên hạ.
Sau khi thành công chiêu dụ được Lưu Bá Ôn, Minh Thái Tổ Chu Nguyên Chương phát hiện, Lưu Bá Ôn không chỉ là một người có kiến thức uyên thâm, mà còn có khả năng lực tiên đoán bói toán. Trong thời gian phò tá Chu Nguyên Chương, Lưu Bá Ôn đã đưa ra rất nhiều lời dự đoán tiên tri, về sau mọi lời dự đoán của ông đều được thực tế chứng minh, điều này đã khiến Chu Nguyên Chương càng ngày càng coi trọng ông.
Không lâu sau, Trần Hữu Lượng với khí thế hung hãn công hãm thành Thái Bình. Quân đội của Chu Nguyên Chương lúc đó rơi vào tình trạng hoảng loạn, không ít tướng sĩ đề nghị đầu hàng, cũng có ít người đề xướng tấn công. Lúc này Lưu Bá Ôn lại chọn cách giữ im lặng, thấy thế Chu Nguyên Chương liền triệu ông vào doanh trướng, hỏi ông có cao kiến gì không, Lưu Bá Ôn lại nói, đối với người làm nhiễu loạn lòng quân phải bị giết, và cũng nhân cơ hội này lợi dụng tâm lý kiêu ngạo tự phụ của Trần Hữu Lượng để phục kích, đánh cho hắn bất ngờ không kịp trở tay.
Sau nhiều lần bàn bạc với Lưu Bá Ôn, Chu Nguyên Chương đã lập ra kế hoạch tác chiến rõ ràng, giúp Chu Nguyên Chương thành công đánh bại Trần Hữu Lượng. Điều này cũng giúp Chu Nguyên Chương thấy được mưu lược quân sự xuất chúng của Lưu Bá Ôn, đồng thời liền cho phép ông tham gia đại kế diệt Nguyên của mình, nhằm thống nhất đại cục.
Năm 1367 Công nguyên, Lưu Bá Ôn vào nửa đêm sau khi quan sát thiên văn đã phát hiện Sao Hỏa xuất hiện ở Tâm Túc. Thời điểm đó cũng đang xảy ra đại hạn hán. Điều này cũng dự báo sắp xảy ra chiến sự vì án oan xảy ra quá nhiều. Biết được điều đó, Chu Nguyên Chương liền ra lệnh cho Lưu Bá Ôn tiến hành bình phản, sau đó quả nhiên trời đổ mưa rất to để giải hạn.
Sau đó không lâu, Chu Nguyên Chương đăng cơ xưng đế ở Ứng Thiên phủ, thành lập vương triều Đại Minh. Để biểu dương cống hiến nhiều năm và ghi nhận những đóng góp to lớn của Lưu Bá Ôn, phong ông làm Ngự Sử Trung Thừa kiêm Thái Sử Lệnh. Hạ chiếu miễn thuế cho huyện Thanh Điền quê hương ông, qua đó khiến sự nghiệp của ông đạt tới thời kỳ cường thịnh huy hoàng nhất.
Là một quân sư liệu việc như thần, ông ghét cái ác như kẻ thù, điều này cũng khiến ông đắc tội không ít đồng liêu và các quan thần quyền quý. Ông cũng biết rõ đạo lý làm bạn với vua như làm bạn với hổ, vì thế chủ động từ hết mọi chức vụ của mình, cáo lão về quê, dự định trở về Thanh Điền ẩn cư. Tuy nhiên, điều này cũng không thể tránh khỏi sự ghen tị của các đối thủ chính trị và nghi ngờ của hoàng đế.
Năm 1373 Công nguyên, kẻ thù chính trị của Lưu Bá Ôn là Hồ Duy Dung lên làm Tả thừa tướng. Hắn liền sai người vu cáo Lưu Bá Ôn mưu đồ bất chính, điều này làm cho Minh Thái Tổ Chu Nguyên Chương, người đã sớm không yên tâm về Lưu Bá Ôn, nổi lòng nghi ngờ, đã hạ lệnh tước đoạt phong lộc của Lưu Bá Ôn.
Lưu Bá Ôn sau khi biết được vô cùng sợ hãi, liền tự mình lên kinh tạ tội với Minh Thái Tổ Chu Nguyên Chương, và ở lại Nam Kinh. Sau đó, kẻ thù chính trị Hồ Duy Dung lại được thăng chức lên làm Hữu thừa tướng, điều này làm cho Lưu Bá Ôn càng thêm lo âu, dẫn đến lâm bệnh liệt giường.
Năm 1375 Công nguyên, Minh Thái Tổ Chu Nguyên Chương phái sứ giả hộ tống Lưu Bá Ôn đang lâm bệnh nặng về quê nhà. Không lâu sau, Lưu Bá Ôn đã qua đời vì phiền não phẫn uất tại quê nhà, hưởng thọ 65 tuổi.