刘伯温博通经史，无书不读，尤其精于天文。朱元璋攻下金华，闻知刘伯温的才学，不惜钱财予以招聘。起初，刘伯温坚决不答应，后经总制孙炎两次写信邀请，刘伯温才决定出山。刘伯温到了应天，向朱元璋陈时务十八策。而后刘伯温凭其才学和神机妙算辅佐朱元璋平定天下，开创了大明王朝。

朱元璋即位后，刘伯温上奏制定军卫法，整肃纲纪，凡有过错的宿卫、宦官等，一律依法惩治，因此人人畏惧刘伯温。中书省都事李彬因贪图私利，纵容手下而被治罪。丞相李善长一向私宠李彬，故请求从轻发落，刘伯温不听，在祈雨时，将李彬杀死，从此刘伯温和李善长开始有隙。后来，太祖因事要责罚丞相李善长，刘伯温劝说道：“他虽有过，但功劳很大，威望颇高，能调和诸将。”太祖说：“他三番五次想要加害于你，你还设身处地为他着想？我想改任你为丞相。”刘伯温叩首道：“这怎么能行呢？更换丞相如同更换梁柱，必须用粗壮结实的大木，如用细木，房屋立即就会倒塌。”

刘伯温相貌堂堂，慷慨而有大节。每当谈论天下大事时便声形于色。太祖知道他非常忠诚，故对他委以重任。每次召见刘伯温，都要避开他人进入内室，单独与他长时间密谈。刘伯温也是知无不言。每到紧急危难的关头，他总是勇气奋发，计策立定，人莫能测。闲暇之时，便敷陈为王之道。而太祖每次都是洗耳恭听，常常称刘伯温为老先生，并说：“你就是我的张子房（即张良）啊。”又说： “老先生多次以孔子之言来劝导我。”

刘伯温性情刚烈，嫉恶如仇，隐居山中后，只是饮酒下棋，从不提自己的功劳。