袁義師，參與“鄂人治鄂”、驅逐軍閥王占元的鬥争。
1924年入滇，就職于川軍石青陽部及雲南陸軍講武堂。
次年赴廣東，投國民革命軍，任連長、營長、團長及北伐軍總司令部征募處上校科長，參加北伐。
1927年11月，任國民政府軍事委員會辦公廳第二局局長。
次年1月，調任國民革命軍新編第10軍參謀長，後該軍改稱第27軍，仍任參謀長。
9月，軍隊複員編遣，改任陸軍第13師第38旅旅長，駐防兖州，不久升任第13師副師長。
1931年5月，第13師開拔湖北，調任武漢警備旅旅長，并進入湖北省政界，曆任湖北省政府委員、省民政廳廳長。
制訂并頒施《湖北各縣政治戰鬥方案》，組織地主武裝，配合湘鄂川邊“清鄉”督辦徐源泉等的正規部隊，向鄂豫皖、湘鄂西等蘇區和紅軍不斷發動“圍剿”，親率部隊在監利、沔陽一帶進行封鎖、搜查，包抄洪湖根據地。
因“剿共”賣力，從1933年2月起，曾任軍事委員會委員長南昌行營第四廳廳長、廬山軍官訓練團政治教官兼辦公廳主任、軍事委員會委員長宜昌行營陸軍整理研究委員會主任、陸軍第18軍第94師師長等職。
七七事變後，所部奉命開赴華北抗戰，改任第97軍軍長，兼豫北自衛軍總指揮。
1938年4月晉升陸軍中将。
次年3月，任冀察戰區政治部主任，兼管河北民政，統率河北民軍。
朱懷冰不斷制造反共摩擦，僅1939年屬部張蔭梧制造的冀中等縣慘案，就殺害八路軍幹部戰士400餘人，時人稱朱懷冰為“摩擦專家”。