刘伯温知道朱元璋要杀他的原因主要有以下几点：

通过庆功楼上的菜品

在庆功宴上，朱元璋给刘伯温上了狗肉、兔肉和燕窝羹三道菜。刘伯温通过这些菜品领悟到朱元璋的杀机，因为这些菜品分别隐喻了“飞鸟尽，良弓藏，狡兔死，走狗烹”的意思，意味着朱元璋要除掉功臣。

辞官回乡时的对话

刘伯温在辞官回乡时，称自己在写奏折时遇到了一个不会写的字。朱元璋好奇地询问是哪个字，刘伯温回答是“赦”字。朱元璋在纸上写下“赦”字后，批准了刘伯温的辞官请求。实际上，刘伯温通过这个字暗示了朱元璋对他的态度已经变坏，暗示自己将面临危险。

马皇后的暗示

马皇后通过送水果给刘伯温，用水果的摆放方式暗示他早早离开，从而让刘伯温意识到朱元璋要杀他。刘伯温收到水果后，明白了马皇后的暗示，于是提前告老还乡，最终保住了性命。

综上所述，刘伯温通过观察和推理，结合朱元璋和他身边人的言行，识破了朱元璋的杀机，并及时采取措施保全了自己。