牛臯字伯遠，汝州魯山人。
當初是射士，金軍入侵時，牛臯因聚衆人同金軍作戰，屢次獲勝，西道總管翟興上表朝廷授予他為保義郎。
杜充任東京留守時，牛臯在魯山讨伐勢力強大的賊寇楊進，三戰三勝，賊衆奔潰逃命。
累次升遷為榮州刺史、中軍統領。
金軍再次進攻京西，牛臯與敵大戰十餘次都獲得勝利。
升為果州團練使。
京城留守上官悟任命他為同統制兼京西南路提點刑獄。
金軍攻江西，自荊門北撤，牛臯率部埋伏在寶豐的宋村，将敵人擊敗。
升和州防禦使，充任五軍都統制。
又與金将孛堇戰于魯山鄧家橋，将孛堇擊敗。
轉任西道招撫使。
僞齊向金請師入侵南宋，牛臯在險要之地設置埋伏，自己率軍駐紮在丹霞等待來犯之敵。
敵軍悉衆前來，牛臯伏兵突起，将敵将鄭務兒活捉。
升為安州觀察使，不久任蔡、唐州、信陽軍鎮撫使、知蔡州。
同敵作戰總是獲勝，加親衛大夫。
适逢嶽飛制置江西、湖北，将通過襄、漢規劃中原，朝廷命令牛臯隸屬嶽飛軍。
嶽飛十分高興，當即命令他為唐、鄧、襄、郢州安撫使，不久改為神武後軍中部統領。
僞齊派李成聯合金軍大舉入寇，攻破襄陽六郡。
敵将王嵩在随州，嶽飛派遣牛臯出征，帶三日口糧。
糧食尚未吃完，牛臯已攻拔随州城，抓住王嵩并将其斬首，得到士卒五千人，于是收複随州。
李成占據襄陽，嶽飛派牛臯率騎兵将其擊敗，收複襄陽。
金軍進攻淮西，嶽飛派遣牛臯渡過長江，自己率兵同牛臯會合。
當時僞齊派騎兵五千進攻廬州，牛臯遙對金将說：“牛臯在此，你輩為什麼前來侵犯？”敵衆都驚慌失措，不戰而逃。
嶽飛對牛臯說：“一定要追擊，不然敵人卷土重來，對我們不利。
”牛臯于是揮兵追擊三十多裡，金兵自相踐踏及被殺傷的各占半數，此戰斬殺其副都統及千戶五人、百戶數十人，軍威大振。
廬州平定後，朝廷晉升牛臯為中侍大夫。
随從嶽飛平定楊麼，将楊麼擊潰。
楊麼無計可施，将鐘子儀舉起投入水中，接着自己也跳入水中。
牛臯跳進水