史唐介、範師道、呂誨、趙扌卞、王陶相繼上章議論陳升之暗中交結宦官，因此得到重用。
仁宗将這些上章拿給陳升之看，陳升之乞求離職。
仁宗對輔佐大臣說“：朕選用執政者，怎能容許内臣幹預議論邪惡。
”于是雙方都被罷免。
以陳升之為資政殿學士、知定州，調往太原府。
治平二年(1065)，又授職樞密副使。
神宗即位，以母親年老為由請求回歸郡縣，為觀文殿學士、知越州。
熙甯元年(1068)，調往許州，中道改任大名府，路過京師，留在京師知樞密院。
按照舊例，樞密院與知院事不共同設置。
這時文彥博、呂公弼已為樞密院使，神宗以陳升之輔政，想逐步變異一些禮儀，因而特地加以任命。
第二年，同制置三司條例司，和王安石共同處理朝事。
數月後，授職中書門下平章事、集賢殿大學士。
陳升之任宰相後，就請求免掉條例司，認為宰相無所不統，所統職事，又怎能稱司。
王安石說“：古代的六卿，就是如今的宰相，有司馬、司徒、司空，各占一職，于事理有什麼危害呢？”陳升之說“：如果制置百司條例是可以的，但如今設置的是制置三司官職，則不行。
”由此得罪了王安石，聲稱有病回家休養三個多月，神宗多次敦促告谕，才重新歸職。
正好母親去世需服喪，離職回家；服喪完後，奉召任樞密使。
因有腳病不能站立上朝，熙甯七年(1074)，冬季祭祀，陳升之又不能贊禮。
授職鎮江軍節度使、同平章事、判揚州，封為秀國公。
去世，終年六十九歲，追贈太保、中書令，谥号叫作成肅。
陳升之老謀深算很有心計，善于逢迎以取悅富貴。
王安石任宰相，擔心議論滿廷，引見陳升之輔佐自己。
陳升之心裡明白不能勝任，卻盡力為王安石所用，王安石為了感激他，因而讓他比自己先任宰相。
剛一受到重用，就請求解除條例司，又不時的産生一些小分歧，表面上看來與王安石有矛盾。
世人因此譏諷他，稱他為“筌相”。
陳升之起初叫陳旭，由于避神宗名之諱，改為升之。