調任尚寶司卿。
吳、越、閩、楚的學士随從他的有百餘人。
後晉升為南京太仆寺少卿。
太廟火災，自己請求罷官，未準。
選為國子監祭酒，晉升為南京禮部右侍郎，兼理吏部事。
世宗要親自祭祀顯陵，木冉多次上疏勸阻，但奏疏未呈于皇帝。
這時天象發生劇變，他乘時呈請辭官歸家，六十四歲逝世。
為哀悼他，高陵人關門閉戶三天。
解梁及四方學者聞耗，皆設靈位哀念。
世宗聞知，辍朝一日，賜祭葬。
木冉受業于渭南薛敬之，承接河東薛蠧的學術思想。
其學以探求道理付諸實踐為主，在南京做官時，與湛若水、鄒守益共同主持講座。
做官三十餘年，家無一件像樣的東西，但終身沒有怠惰的神情。
當時天下講學術的人，不是歸于王守仁一派，就是歸于湛若水一派，而堅持程朱思想不變的，隻有呂木冉與羅欽順二人。
其著作有：《四書因問》、《易說翼》、《書說要》、《詩說序》、《春秋說志》、《禮問内外篇》、《史約》、《小學釋》、《寒暑經圖解》、《史館獻納》、《宋四子抄釋》、《南省奏稿》、《經野詩文集》。
萬曆、崇桢年間，李祯、趙錦、周子義、王士性、蔣德瞡等人，先後奏請将木冉供奉于孔廟内一同祭祀。
朝廷下禮部讨論，但已來不及付諸實行。
其弟子有泾陽呂潛、張節，鹹甯李挺等，皆有學問、德行。