翰林學士。
開寶六年，出使南唐回朝，因此對皇上述說南唐衰弱可以攻取的形勢。
受诏與人同修《五代史》，升任中書舍人、參知政事。
遭父喪，幾天後被朝廷起用處理政事。
史館修撰扈蒙請求恢複修撰時政記，诏令多遜專門負責這件事。
金陵平定後，加任吏部侍郎。
太平興國初年(976)，授任中書侍郎、平章事。
太平興國四年，跟從太宗征讨太原回來，加任兵部尚書。
多遜博涉經史，聰明強記，文辭敏捷，喜歡任用術數，有謀略，計謀常常成功。
太祖喜歡讀書，每次到史館取書，多遜預先誡令史館官吏告訴自己，知道太祖所拿的書，一定通宵閱讀，到太祖問到書中事時，多遜回答流暢，同僚們都佩服他。
從前，多遜主持制诰，與趙普不和，在翰林院時，每次召對，常常攻擊趙普的短處。
不久，趙普出京鎮守河陽。
太宗即皇帝位，趙普入朝任少保。
幾年後，趙普的兒子承宗娶燕國長公主的女兒，承宗當時正任知潭州，受诏回朝舉行婚禮。
不滿月，多遜要求太宗讓他回到任所，趙普從此對多遜憤怒在心。
當初，趙普出京鎮守河陽，上言自辯說“：外人說我妄自議論皇弟開封尹，皇弟忠孝全德，哪裡有間隙！況且昭憲皇太後臨終時，我實際上參與接受遺命。
知我者是你，希望你明鑒。
”太祖親手封上這封信，藏在宮中。
到這時，趙普又秘密上奏說：“我是開國舊臣，被權幸大臣中傷。
”于是說到昭憲遺命以及先朝上書自辯之事。
太宗在宮中訪得趙普先前上的奏表，因此感悟，就把承宗留在京城。
不久，重新起用趙普為宰相。
多遜越發感到不安。
趙普多次勸告多遜引退，多遜貪圖權位，不能決斷。
正好因為多遜曾經派堂吏趙白勾結秦王廷美的事被告發，太宗大怒，下诏一一列舉他不忠的罪過，貶授為兵部尚書。
第二天，把多遜交給官吏審問，命令翰林學士承旨李日方、學士扈蒙、衛尉卿崔仁冀、膳部郎中知雜事滕中正一同審訊。
案情審結，召文武常參官在朝堂集議，太子太師王溥等七十四人上奏議論說“：謹按兵部尚書盧多遜，身任宰相，心懷怨望，秘密派遣堂吏，勾結親王，互通聲氣，咒詛君父，大逆不道，敗壞綱紀，上負國家恩寵，下虧為臣之節，應當予以誅罰，以正法律。
請把盧多遜交給有關部門處理，削奪一切官爵，依法誅斬。
秦王廷美，也請同盧多遜一起作出處理，其他牽連犯罪的人，希望按法律懲治。
”
于是太宗下诏說：“臣子奉事君主，如果一臣事二主就是邪僻，臣下謀害皇上，必定遭到誅殺。
兵部尚書盧多遜