當時李日方與張齊賢、賈黃中、李沆同為宰相，以執政無能，上表請罪，皇上不怪罪他們。
四年(993)，李日方因為家裡連遭憂慮悲戚之事，請求解除職任，诏令不允，皇上派張齊賢等人宣谕聖旨，才又上朝處理政事。
數月以後，罷為右仆射。
先前，皇上召張洎起草诏令，任命李日方為左仆射，罷免宰相，張洎說“：李日方官居治理政務的重任，而陰陽不調，不能決意引退，讓他官居百官師長之任，怎麼能表示皇上勸勉之意呢？”皇上觀看奏章後，于是下令罷貶李日方，讓他隻任本官。
後晉侍中李崧，與李日方同宗又同鄉，當時人稱李崧為東李家，李日方為西李家。
後漢末年，李崧被誅殺。
到這個時候，李崧的兒子李璨從蘇州常熟縣令之職赴朝待調，李日方代為他的父親辯冤，并且說：“周太祖已經替他昭雪贈官，追還他家田宅，錄取李璨為官。
然而李璨年近五十歲，還任州縣之職，我從前與他同難，難道隻有我應該蒙聖明君主之恩。
如果皇上能一視同仁施恩于衰微的人，則過去的冤屈得以伸張，而繼絕之恩永遠光耀史冊啊。
”皇上诏令任李璨為著作佐郎，後來官至右贊善大夫。
第二年(994)，李日方年屆七十，以特進、司空官位辭職歸居，如遇朝會宴飲，令他居宰相班次之中，每年賞賜，愈發厚重。
至道元年(995)正月十五，皇上在乾元樓觀燈，召來李日方命他坐在旁邊，把自己杯中的酒倒給他飲，皇上親自拿水果點心賜給他吃。
皇上看見京師繁華，手指前面街坊小巷及官府衙門命令近臣開拓為通衢長廊，于是談論道：“後晉、後漢君臣昏暗相互猜疑，枉屈陷害善良，當時百姓民不聊生，即使想準備宴席，哪裡顧得上呢？”李日方說：“後晉、後漢之事，臣都經曆過，哪裡能與聖朝同日而語呢？像現在這樣天下清平，人民富康，都是陛下恭勤政事所緻啊。
”皇上說：“勤政憂民，是帝王常事。
朕不是因為繁華而高興，而是因為百姓安居樂業而高興啊。
”于是對侍臣們說：“李日方奉事朕，兩次入中書省，從未做過傷人害物之事，今日應當如此享受，可以算作是善人君子啊。
”
二年(996)，李日方陪侍皇上祭祀南郊，禮儀完畢後，進去拜賀，由于拜舞時倒在地上，台吏把他扶出來，病倒卧床數天而死，終年七十二歲。
追贈為司徒，谥号為文正。
李日方為人寬厚溫和，不計舊惡，在位時小心謹慎，沒