陳與義字去非，祖籍在京兆，從其曾祖父陳希亮始，其家遷至洛陽，所以，陳與義是洛陽人。陳與義天資聰穎卓越，幼時即能寫作文章，并小有名聲，同輩皆欽佩他，不敢與他相比。陳與義于政和三年(1113)考中上舍甲科，被授與開德府教授，累遷太學博士，擢升為符寶郎，不久遭貶谪，出監陳留酒稅。
金朝攻陷汴京，高宗南遷，陳與義避難于襄漢，再輾轉湖湘，翻越五嶺到達嶺南。過了許久，朝廷召其為兵部員外郎。紹興元年(1131)夏天，陳與義到了都城臨安，升遷為中書舍人，兼掌内制。後又被拜為吏部侍郎。不久以徽猷閣直學士的身份出知湖州。之後，被召為給事中，其所做駁議精辟典雅，又以顯谟閣直學士提舉江州太平觀。時朝中宰相有不滿意陳與義者，因此，陳與義被召回後，再次被用為中書舍人、直學士院。紹興六年(1136)九月，高宗幸臨平江，同年十一月，拜陳與義為翰林學士、知制诰。
紹興七年正月，陳與義為參知政事。在任執政期間，陳與義師用道德以輔朝廷，務尊主威而振綱紀。當時丞相趙鼎說“：人們都認為，中原有可圖之形勢，故宜進軍中原，趁勢收複失地，如失良機，他日将悔咎莫及。”高宗曰“：今皇帝之棺與太後、淵聖皆為金扣押未還，如不與金議和，則無可還之理。”陳與義說：“若能簽訂和議，自然強于用兵，但萬一不能議和，則用兵就不可避免。”皇帝說：“是這樣的。”紹興七年三月，陳與義随皇帝到建康。第二年，護從皇帝回臨安。因患疾病，陳與義告假，複以資政殿學士知湖州，陳與義再表推辭。皇帝對其病情十分關切，遂請閑提舉臨安洞霄宮。十一月，陳與義離世，終年四十九歲。
陳與義容貌莊嚴敬肅，不苟言笑，平常待人接物儒雅謙恭，然内性剛強，不可冒犯。陳與義多次舉薦士人于朝廷，但從不與人表白自己的舉薦之功，士人因此而特别推重他。陳與義特别擅長做詩，寫景狀物，清新深邃，迂回婉轉，灑脫不俗，遊離于陶、謝、韋、柳之間。陳與義曾以《墨梅》為題賦詩一首，深得徽宗嘉賞，并因此而特别受到皇帝的器重。