李崇矩字守則，是潞州上黨人。
年幼時孤貧，有善行，被鄉裡人所推服。
漢祖在晉陽起兵，駐紮在上黨，史弘肇當時任先鋒都校，聽說崇矩的名聲，召來任為親吏，乾..初年，史弘肇總領禁兵兼任京城巡檢，常常殘殺軍民，身邊的部屬害怕，慢慢都離開了他，隻有李崇矩奉事他越發嚴謹。
弘肇被誅殺時，得以身免。
周太祖與弘肇向來交情很好，即皇帝位後，訪求弘肇的親屬故交，得到崇矩。
對他說：“我與史公得到後漢的厚恩，同心盡力，共同輔助王室，被奸邪構陷，史公最終遭到大禍，我也僅僅得以身免，你是史氏家的故吏，請你替我尋找他家的近屬，我要怃恤他們。
”崇矩推薦史弘肇母親的弟弟福。
崇矩曆來主持他家家事，把财産都收集攏來交給福，周太祖贊美他，把他收用在世宗軍中。
顯德初年，補任供奉官。
跟從世宗征伐高平，因戰功轉任供備庫副使，改任作坊使。
恭帝即位，命崇矩向南唐告哀。
回來後任判四方館事。
宋朝初年，李筠叛亂，任命崇矩率領龍捷、骁武左右射禁軍數千人駐屯河陽，率領所部進攻大會砦，攻克下來，斬敵五百人。
改任澤、潞南面行營前軍都監，與石守信、高懷德、羅彥瑰在碾子谷共同大敗李筠的部隊。
澤、潞平定時，派崇矩先入城，收管圖冊，管理府庫。
于是上言說“：上黨是我的故鄉。
我的父親還是用槁草埋葬，希望能讓我護送棺材回到京師。
”皇帝答應他的要求，賞賜很多。
部隊回到京城，正遇判三司張美出任地方官，朝廷任命崇矩為右監門衛大将軍，充任三司使，跟從皇帝征讨李重進，回朝後任宣徽北院使，仍然判理三司。
乾德二年(964)，崇矩代替趙普任樞密使。
乾德五年，加官檢校太傅。
當時劍南剛剛平定，禁軍軍校呂翰聚衆作亂，軍隊裡亡命之徒很多。
在他的營中，有人上言請求誅殺他們的妻子。
太祖猶疑不決，告訴崇矩。
崇矩說：“叛亡之徒固然應當誅殺，但按名冊應當誅殺的有幾萬人。
”太祖說“：我惟恐有人是被他驅使而作亂，并非出自本意。
”于是下令全部釋放。
呂翰